최근 입을 떡 벌어지게 만드는 교묘한 사기 수법이 전 세계를 발칵 뒤집어 놓았다. 유명 정치인이나 경제계 거물이 등장해 특정 코인이나 주식 투자를 직접 권유하는 영상들인데, 알고 보니 모두 인공지능(AI)이 만들어낸 가짜, 이른바 '딥페이크(Deepfake)'였다. 2026년에 접어들며 이런 AI 생성 영상 사기가 걷잡을 수 없이 기승을 부리자, 참다못한 각국 정부와 국제기구들이 일제히 강력한 규제라는 칼을 빼 들었다.
진짜보다 더 진짜 같은 가짜의 습격… 유명인 사칭 투자 사기 '주의보'
최근 글로벌 사이버 범죄 시장에서 피해 규모가 가장 컸던 사례 중 하나는 세계무역기구(WTO) 사무총장을 비롯한 주요 국제 인사들의 얼굴과 목소리를 무단 도용한 투자 사기 영상이다.
이 영상들은 언뜻 보면 유력 방송사의 뉴스 인터뷰나 공식 연설처럼 매우 자연스럽다. IT 기술적으로 딥페이크는 인공지능이 특정 인물의 과거 영상과 음성 데이터를 수만 번 학습한 뒤, 입술의 움직임과 억양은 물론 미세한 숨소리까지 완벽하게 흉내 내어 아예 존재하지 않는 새로운 영상을 빚어내는 기술이다.
기술의 발전이 역설적으로 가장 완벽한 '사기꾼의 탈'을 만들어준 셈이다. 최근에는 기술 진입 장벽마저 낮아져, 누구나 스마트폰 앱 몇 개만으로도 그럴싸한 가짜 영상을 뚝딱 만들 수 있게 되면서 피해가 눈덩이처럼 불어나고 있다.
보이지 않는 디지털 꼬리표 '워터마크'… AI가 만든 흔적 강제한다
사태의 심각성을 인지한 글로벌 IT 업계와 각국 정부가 가장 먼저 꺼내 든 방어책은 기술적인 안전장치, 즉 '워터마크(Watermark)' 의무화 도입이다.
과거 지폐의 위조를 막기 위해 빛에 비춰야만 보이는 숨은 그림을 넣었던 것처럼, 인공지능이 만들어낸 텍스트나 이미지, 영상에는 반드시 기계가 읽어낼 수 있는 일종의 디지털 꼬리표를 달도록 법으로 강제하는 것이다.
사람의 눈에는 평범한 영상처럼 보이더라도, 파일의 픽셀 단위나 메타데이터(데이터의 속성 정보) 속에 '이 콘텐츠는 AI로 생성되었음'이라는 지울 수 없는 표식을 새겨 넣는 원리다. 이를 통해 소셜 미디어 플랫폼이나 백신 프로그램이 단번에 진짜와 가짜를 판별해 내고 접속을 차단하는 1차적인 방어망을 구축하겠다는 전략이다.
"만들고 유포하면 끝까지 간다"… 글로벌 규제 공조로 철퇴 예고
기술적 방어벽을 세우는 것과 동시에, 범죄자들에 대한 법적인 처벌 수위도 한층 매섭게 올라가고 있다. 미국과 유럽연합(EU) 등 주요국들을 중심으로 이른바 '생성물 책임법' 도입이 빠르게 속도를 내는 중이다.
핵심은 명확하다. 단순히 딥페이크 사기 영상을 퍼나른 유포자뿐만 아니라, 악의적인 목적으로 가짜 콘텐츠를 애초에 생성한 자, 그리고 이를 제대로 필터링하지 않고 방치해 수익을 올린 거대 소셜 미디어 플랫폼 기업에게도 무거운 법적, 연대 책임을 묻겠다는 것이다.
한 국가에서 사이트를 차단하면 서버를 다른 나라로 옮겨 도망가 버리는 사이버 범죄의 특성을 막기 위해, 국제기구 차원의 촘촘한 공조 수사망도 함께 가동되기 시작했다. 무한한 혁신을 약속하던 AI 기술이 이제는 신뢰를 위협하는 흉기로 돌변하기도 하는 시대, 방패를 뚫으려는 창과 이를 막아내려는 규제의 팽팽한 줄다리기가 2026년 디지털 세상의 가장 뜨거운 화두가 되었다.