중학생부터 K-Pop 아이돌에 이르기까지 수천 명의 여성들을 동의 없이 포르노 영상으로 만든 딥페이크 콘텐츠가 텔레그램(Telegram)과 같은 암호화된 메신저 앱을 통해 유포되면서 촉발된 이번 위기는 대한민국 사법부가 기술에 대해 보여준 가장 강력한 대응을 이끌어냈습니다.
1. 급진적인 변화: "제작" 자체가 직접적인 범죄가 되다
과거의 법적 틀에서는 딥페이크 콘텐츠가 범죄로 인정받기 위해 "유포 또는 상업적 목적"이 필요했습니다. 이는 협박범과 콘텐츠 제작자들이 법적 허점을 이용하여 수천 개의 가짜 비디오를 개인 컴퓨터에 보관하고도 처벌받지 않게 만들었습니다.
최대 징역 10년 및 입증 기준
국회를 통과한 새로운 법안의 가장 충격적인 조항은 다음과 같습니다. AI 도구를 사용하여 동의 없이 사람의 얼굴을 성적으로 노골적인 합성 미디어에 통합하는 행위(딥페이크 포르노 제작)는 해당 콘텐츠가 인터넷에 유포되지 않고 폐쇄된 개인 폴더에만 남아 있더라도 직접적인 범죄로 간주됩니다. 이 행위를 저지른 가해자는 최대 10년의 징역형에 처해질 수 있으며, 피해자가 미성년자인 경우 형량은 최대 15년까지 늘어날 수 있습니다.
2. 플랫폼에 대한 최후통첩: 24시간 규칙
이 법은 개인뿐만 아니라 이러한 콘텐츠가 확산되는 거대 기술 기업들도 직접적으로 겨냥합니다. 특히 딥페이크 범죄의 진원지가 된 종단 간 암호화 메신저 플랫폼에 매우 엄격한 최후통첩이 내려졌습니다.
새로운 법에 따르면 경찰이나 피해자가 플랫폼에 불만을 접수하는 순간부터 플랫폼 경영진은 24시간 이내에 관련 합성 콘텐츠를 삭제해야 합니다. 콘텐츠를 삭제하지 않거나 암호화를 구실로 경찰에 사용자 로그 제공을 거부하는 플랫폼은 한국 시장에서 즉각적인 "대역폭 제한(접속 제한)" 조치를 받게 되며, 국가 내 디지털 광고 수익을 국가에 압수당할 수 있습니다.
3. 표현의 자유인가, 디지털 보안인가?
법안 통과는 대중의 큰 환영을 받았지만, 기술 권리 옹호자들은 플랫폼에 부과된 24시간 규칙과 직접 차단 권한이 "과도한 검열(over-censorship)"의 위험을 안고 있다고 지적합니다. 알고리즘이 어떤 비디오가 딥페이크인지 진짜(또는 합법적인 패러디)인지 구별할 수 없는 상황에서 기업들이 벌금을 피하기 위해 의심스러운 모든 콘텐츠를 삭제함으로써 표현의 자유를 제한할 수 있다는 우려가 제기되고 있습니다.
전문가 의견: 부르한 도우쉬 아이파를라르 (Burhan Doğuş Ayparlar)
8월 26일 대한민국 국회를 통과한 이 법은 기술이 불법을 위한 방패로 사용될 수 없음을 세계에 선언한 것입니다. '유포 조건'을 요구하지 않고 딥페이크 제작 자체를 범죄화한 것은 디지털 시대에 내디딘 혁명적인 발걸음입니다. 사람의 얼굴을 동의 없이 성적인 행위에 사용하는 것은, 그 행위가 디지털 세계에 머무른다 하더라도 그 사람의 존엄성과 '생체 재산(Biometric Property)'에 대한 명백한 강간입니다.
플랫폼에 가해진 24시간 제한과 대역폭 제한 제재는 야만적인 자본주의에 맞서 주권을 보호하려는 국가의 반사 작용입니다. '우리는 암호화된 네트워크이므로 개입할 수 없다'는 방어 논리는 이제 법적으로 파산했습니다. 시장에서 수십억 달러의 광고 수익을 창출하는 어떤 기업도 한 국가의 시민이 디지털로 학대받는 범죄 현장이 될 수는 없습니다. 한국의 이 가혹하지만 필수적인 조치는 향후 몇 년간 기술 규제를 고민하는 유럽이나 튀르키예와 같은 다른 국가들에게 절대적인 청사진(blueprint)이 될 것입니다. 인간의 존엄성은 알고리즘의 자유보다 위에 있습니다.
