[경제경재]AI 가 범죄에도 쓰인다...? | 딥페이크?!
안녕하세요
2025년 4월이 다 지나가고 있습니다. AI 발전이 날이 갈 수록 놀라운 지금 안타깝게도 부정적으로도 사용이 되고 있었습니다.
딥페이크라는 기술 때문인데요. 보복에 쓰이거나 스캠에 쓰이는 사건들이 몇몇 보이기도 했습니다.
이런 딥페이크에 대해 '딥페이크 복수 포르노 금지 법안(Deepfake Revenge Porn Bill)'에 대한 소식이 있었습니다.
바로, 도널드 트럼프 전 대통령에게 최종 서명을 앞두고 있다는 뉴스가 보도되었습니다.
이 법안은 AI 기술 발전과 함께 날로 심각해지는 ‘딥페이크 성범죄’를 좀 더 중요하게 다루겠다는 것으로 보입니다.
이번 법안은 단순한 성범죄 규제를 넘어, AI 윤리와 기술 규제라는 훨씬 큰 프레임으로도 해석할 수 있는 중요한 전환점입니다.
기술 발전은 규제의 영향을 받을 수 밖에 없습니다.
우리가 모두 고민해 봐야 할 AI 윤리와 기술 규제는 시장에 어떤 영향을 끼칠까요?
놀라운 딥페이크 기술...!
딥페이크(deepfake)는 딥러닝 기술을 활용해 실제 사람의 얼굴, 음성, 행동 등을 영상에 합성하는 기술입니다.
이미 유튜브나 틱톡 등에서 유명 연예인이나 정치인의 얼굴로 바꾼 영상은 심심치 않게 볼 수 있습니다.
특히 음성과 표정이 실제와 거의 구분되지 않을 만큼 정교해졌습니다.
하지만 문제는 이 기술이 음란물 제작, 허위 뉴스 생성, 금융 사기, 정치적 조작 등 악의적 용도로 쓰일 수 있습니다.
실제로도 꽤 여러 범법행위들이 감지되기도 했습니다.
특히 여성 연예인을 대상으로 한 ‘딥페이크 포르노’는 몇 년 전부터 큰 사회적 이슈였고, 최근엔 일반인까지 피해가 확대되고 있습니다.
SNS 같이 자신의 정보를 공유하는 사람들은 더욱 쉽게 그런 위험헤 노출될 수 있게 된 것입니다.
기존의 ‘복수 포르노’는 주로 이별한 연인이 상대방의 동의 없이 촬영 영상이나 사진을 유포하는 범죄였죠.
그런데 이제는 실제 촬영된 영상이 아니라 합성된 영상을 마치 사실인 양 유포하는 것입니다.
어쩌면 피해자가 전혀 모르는 상황에서 피해자의 삶을 파괴할 수 있게 된 것입니다.
우리는 가짜뉴스의 파급력을 이미 경험했습니다.
자극적인 이야기에는 관심을 기울여도 그것을 바로 잡는 이야기에는 그리 많은 관심을 쏟지 않습니다.
그럴듯한 이야기가 유포되는 순간 사실로 간주하게 되어 버립니다.
이러한 피해를 오롯이 피해자들에게 돌아가게 됩니다.
이번 법안은 바로 이 지점을 타겟으로 합니다.
“본인의 동의 없이 만들어진 딥페이크 음란물을 제작·유포하는 것”을 연방법으로 금지합니다.
또한, 최대 10년의 징역형까지 부과할 수 있도록 하고 있습니다.
분명 우리들에게 필요한 일임에는 틀림 없습니다!
그러나 우리는 투자자입니다.
이 법안이 통과되면 우리의 세상은 어떻게 변할까요? 또, 어떤 산업이 영향을 받을까요?
- 콘텐츠 모니터링 기업
- 예: Palo Alto Networks, NICE, Veritone
- AI를 활용한 콘텐츠 필터링, 불법 영상 탐지 기술이 점점 더 중요해집니다.
- 특히 소셜 미디어 플랫폼이나 클라우드 스토리지 기업들이 이런 기술을 내부에 도입하게 될 가능성이 큽니다.
- 전 세계를 대상으로 한다면 시장역시 꽤 넓다고 볼 수 있습니다.
- AI 규제 관련 리스크 관리 기업
- 예: Palantir, IBM (AI Governance 플랫폼 제공 중)
- AI의 투명성과 윤리성 평가 툴을 제공하는 기업도 수혜를 볼 수 있습니다.
- AI 가 누군가의 의도로 우리 사회를 파괴하지 않고 제대로 제역할을 할 수 있게 확인하는 것이 아닐까요.
- 사이버 보안 및 개인정보 보호 기업
- 예: CrowdStrike, Zscaler, Okta
- 영상 유출, 악성코드 배포 등과 연결되는 보안 위협 대응이 법적 의무로 확대될 가능성도 있습니다.
그 외의 별개로 새로운 보험상품이 등장할지도 모릅니다.
디지털 장의사를 들어보셨을까요?
인터넷 상에 알게 모르게 흩어진 정보들을 찾아 지워주는 기업들 역시 존재합니다.
주로 피해를 본 피해자들이 이용하는 서비스라 하겠습니다.
유럽에서는 잊힐 권리를 법적으로 보장하고 있습니다.
디지털에 더욱 민감한 세대가 많아지는 만큼 이러한 시장은 더욱 커질것으로 보입니다.
즉, "디지털 세상의 보험" 으로서의 역할을 하게 될 것으로 보입니다.
물론, 이러한 정보를 광범위하게 감지하고 삭제 요청할 수 있는 인프라가 있어야 하겠습니다.
아직은 그 시장이 그리 크지 않습니다.
다만, 그만큼 상승여력이 있어 보이는 만큼 어떤 산업에 편입이 될지도 관건으로 보입니다.
아무래도 3가지 중 하나가 되지 않을까 싶습니다.
1. 독립적인 산업군 구축
2. 보험산업에 편입
3. 보안/클라우드/AI 대기업에 편입
기술 발전과 윤리 규제의 상호관계를 잘 살펴보자!
기술 발전과 윤리 규제의 관계는 늘 똑같지는 않습니다.
상호보완적일수도 있고 어찌보면 제한적인 관계일수도 있습니다.
다만, 기술과 사회의 충돌은 불가피한 것입니다.
기술은 어찌됐든 계속 진화하고 있으며 우리는 그 윤리적 영향에 대해 더욱 고민해야 합니다.
이제는 기업에 투자할 때 AI윤리에 대해서도 고민해보면 좋을 것 같습니다.
어쩌면 우리가 어떤 사회를 꿈꾸는지 AI 윤리를 통해 드러날지도 모르겠습니다.
