한국, 존재하지 않는 인물의 AI 생성 성적 콘텐츠 처벌 추진

무슨 일이 있었나

더불어민주당 허영 의원 등 10명이 공동 발의한 이 법안은 한국 성범죄 법제의 핵심 법률 중 하나인 「성폭력범죄의 처벌 등에 관한 특례법」을 개정하는 내용을 담고 있습니다. 코리아타임스 보도에 따르면 법안은 2026년 8월 법제사법위원회 소위원회에 회부되어 현재 세부 심사가 진행 중입니다.

이 법안의 새로운 점은 한 문장으로 정리할 수 있습니다. AI로 생성된 성적으로 노골적인 콘텐츠가 식별 가능한 실제 피해자가 없는 경우에도 형법의 규율 대상이 된다는 것입니다. 이는 지금까지 딥페이크 규제가 기대어 온 논리, 즉 실존 인물의 신원과 존엄이 침해되었다는 논리를 넘어서는 것입니다.

무엇을 처벌하며, 형량은 어떻게 되나

언론 보도에 따르면 법안은 행위의 경중에 따라 제재를 두 단계로 나누고 있습니다.

제작·유포: 가상의 인물 또는 존재하지 않는 인물을 묘사한 AI 생성 성적 콘텐츠를 제작하거나 유포한 경우 7년 이하의 징역 또는 5,000만 원 이하의 벌금.
소지·구입·시청: 그러한 콘텐츠를 소지·구입·저장하거나 시청한 경우 3년 이하의 징역 또는 3,000만 원 이하의 벌금.

주목할 점은 이 형량이 한국이 2024년 실존 인물을 대상으로 한 딥페이크 성적 콘텐츠에 도입한 제재와 그대로 맞춰져 있다는 것입니다. 입법자의 메시지는 분명합니다. 묘사된 인물이 실제로 존재하는지 여부는 그 행위가 사회에 끼치는 해악의 크기를 판단하는 데 결정적인 요소가 아니라는 것입니다.

왜 지금인가: 한 무죄 판결과 폭증하는 통계

법안의 제안 이유에서는 두 가지 근거가 두드러집니다. 첫째는 사법적 공백입니다. 2025년 고양의 한 법원은 AI로 생성한 나체 이미지를 유포한 피고인에게, 해당 이미지가 실제 피해자의 것이라는 증거가 부족하다는 이유로 무죄를 선고했습니다. 현행법이 '실존 인물'이라는 구성요건에 기대고 있기 때문에, 합성된 얼굴이나 신체가 사용되는 순간 형법이 작동하지 못한 것입니다.

둘째는 규모입니다. 발의 의원들이 인용한 수치에 따르면 한국의 디지털 성범죄는 2015년부터 2024년 사이 66% 증가했고, 딥페이크 성범죄 사건은 2020년 31건에서 2024년 550건으로 급증했습니다. 생성형 모델이 보편화된 지금, 실존 인물의 사진조차 없이 실사와 구별하기 어려운 성적 이미지를 만드는 데에는 불과 몇 초면 충분합니다.

이러한 흐름은 2024년 텔레그램 딥페이크 사태가 불러온 사회적 충격의 연장선에 있습니다. 당시 학생과 젊은 여성을 겨냥한 딥페이크가 대규모로 공유된 사실이 드러났고, 한국은 딥페이크 성적 콘텐츠의 제작뿐 아니라 소지와 시청까지 처벌하는, 세계에서 가장 강력한 제도 중 하나를 신속하게 입법했습니다. 이 과정은 한국 딥페이크 성폭력 방지법이 국회를 통과한 날에 관한 기사와 한국의 딥페이크 위기에 관한 분석에서 자세히 다룬 바 있습니다.

현행 체계: 실존 인물과 아동은 이미 보호되고 있다

이 법안이 실제로 무엇을 바꾸는지 이해하려면 먼저 한국의 현행 법체계를 정리해 볼 필요가 있습니다.

실존 인물 딥페이크: 2024년 개정으로 실존 인물의 동의 없이 성적으로 노골적인 딥페이크를 제작하는 행위에 무거운 형벌이 부과되었고, 그러한 콘텐츠를 소지·구입·저장·시청하는 행위도 3년 이하의 징역 또는 3,000만 원 이하의 벌금에 처하는 범죄가 되었습니다.
아동·청소년: 「아동·청소년의 성보호에 관한 법률」은 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장하는 성착취물을 이미 규율하고 있습니다. 따라서 미성년자로 보이는 가상의 묘사는 현재도 형사처벌 대상입니다.
음란물: 형법과 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」은 음란물의 유포를 전반적으로 금지합니다. 그러나 이들 조항은 유포 행위에 초점을 맞추고 있어, 성인으로 보이는 가상 콘텐츠를 소지하거나 시청하는 행위는 원칙적으로 범죄가 아닙니다.
인공지능 기본법: 2026년 1월 22일부터 시행된 이 법은 실제와 구별하기 어려운 딥페이크 결과물에 표시·고지 의무를 부과합니다. 다만 이는 투명성 확보 수단일 뿐 형벌 조항은 아닙니다.

이러한 배경에 비추어 보면, 이번 법안의 실질적 효과는 실존 인물에 기반하지 않은, 성인으로 보이는 합성 성적 콘텐츠를 '성범죄'의 범주로 편입하고, 제재 범위를 소지와 시청에까지 확장하는 데 있습니다.

법적 논쟁: 피해자 없는 범죄가 성립할 수 있는가

이 법안은 형법에서 가장 오래된 질문 중 하나를 AI 시대에 다시 불러냅니다. 구체적인 피해자가 없는 행위를 무엇을 근거로 처벌할 수 있는가 하는 질문입니다.

찬성 논거

실존 인물의 입증이 불가능해지고 있습니다. 생성형 모델은 실제 얼굴들을 알아볼 수 없을 만큼 뒤섞어 '누구의 것도 아니지만 누군가를 닮은' 콘텐츠를 만들어 낼 수 있습니다. 피해자의 신원 입증에 의존하는 체계에서는 가해자가 얼굴을 조금만 변형해도 책임을 피할 수 있습니다.
정상화와 사회적 해악. 동의 없는 성적 대상화가 대량으로 생산되고 소비되면, 특히 여성을 향한 디지털 성폭력을 당연한 것으로 여기는 생태계가 형성됩니다.
수요 사슬의 차단. 소지와 시청을 처벌하는 것은 딥페이크 시장의 수요 측면을 겨냥함으로써 제작 자체를 억제하려는 것입니다.

반대 논거

표현의 자유. 대한민국 헌법은 표현의 자유를 보장하며, 헌법재판소는 음란표현이라 하여 곧바로 헌법상 보호영역 밖에 두어서는 안 된다는 입장을 밝힌 바 있습니다. 구체적인 피해자가 없는 성인 대상 가상 콘텐츠의 소지까지 처벌하는 것은 비례의 원칙(과잉금지원칙)에 비추어 중대한 의문을 낳습니다.
명확성의 원칙. 'AI로 생성된' 콘텐츠와 손으로 그린 일러스트의 경계는 어디에 있습니까? AI 보조 편집 도구로 보정한 그림도 적용 대상입니까? 애니메이션이나 웹툰처럼 양식화된 콘텐츠는 어떻게 취급됩니까? 형벌 규범은 명확하고 예측 가능해야 하지만, 이 질문들은 여전히 답을 찾지 못하고 있습니다.
시청 행위의 처벌. 단순한 시청까지 범죄로 규정하면 실무상 개인 기기에 대한 검사와 사생활 침해를 불러올 수 있습니다.
집행 가능성. 콘텐츠가 합성물이며 실존 인물에 기반하지 않았다는 사실을 기술적으로 어떻게 입증할 것인지의 문제는 반대 방향에서도 증거상의 어려움을 낳습니다.

논쟁의 핵심에는 형법이 보호하는 법익이 무엇이냐는 질문이 자리하고 있습니다. 개인의 존엄과 신원입니까, 아니면 성적 자기결정권 존중에 기반한 사회 질서입니까? 한국의 입법자들은 후자로 보호 범위를 넓히자고 제안하고 있으며, 비판론자들은 이것이 형법을 도덕 단속의 수단으로 변질시킬 위험이 있다고 경고합니다.

다른 법체계는 가상의 성적 표현물을 어떻게 다루는가

실존 인물을 묘사하지 않는 성적 이미지에 형법이 개입할 수 있는지를 묻는 나라는 한국이 처음이 아닙니다. 비교법적으로는 크게 세 가지 모델이 있으며, 한국의 법안은 그중 가장 넓은 범위를 포괄하는 쪽에 위치합니다.

실존 인물 피해 모델(미국). 미국 연방대법원은 Ashcroft v. Free Speech Coalition(2002) 판결에서 실제 아동이 관여하지 않은 '가상' 아동 성적 이미지를 금지한 연방 규정을 위헌으로 판단하면서, 어떤 표현이 해로운 행위를 조장한다고 여겨진다는 이유만으로 금지할 수는 없다고 판시했습니다. 이에 의회는 2003년 PROTECT Act를 제정해 그러한 표현물이 법적으로 음란물에 해당하는 경우를 중심으로 규율하게 되었습니다. 결국 미국법은 실존 인물은 강하게 보호하되, 순수한 가상 콘텐츠에 대해서는 신중한 태도를 취하고 있습니다.
사실적 묘사 모델(영국). 잉글랜드법은 특정한 중대 행위를 사실적으로 묘사한 '극단적 포르노 이미지'의 소지를 처벌하며, 이와 별도로 그림이나 컴퓨터 생성 이미지 등 사진이 아닌 아동 금지 이미지의 소지도 처벌합니다. 영국은 또한 실존 성인을 대상으로 한 성적 딥페이크의 제작을 범죄화하는 방향으로 나아가고 있습니다. 판단 기준은 피해자의 존재 여부가 아니라 묘사의 성격과 사실성이지만, 그 적용은 좁게 정의된 범주에 한정됩니다.
최소 개입 모델(일본). 일본은 2014년 아동 성착취물의 단순 소지를 처벌하도록 법을 개정하면서, 표현의 자유를 둘러싼 치열한 논쟁 끝에 만화·애니메이션·컴퓨터 그래픽을 명시적으로 적용 대상에서 제외했습니다.

이러한 스펙트럼에 비추어 볼 때 한국의 법안은 두 가지 점에서 눈에 띕니다. 성인으로 보이는 콘텐츠를 겨냥한다는 점, 그리고 좁게 정의된 '극단적' 범주가 아니라 소지와 시청 전반에 책임을 묻는다는 점입니다. 헌법적 심사가 매우 엄격하게 이루어질 것으로 예상되는 이유가 바로 여기에 있습니다.

입증의 문제: 콘텐츠가 합성물이며 피해자가 없다는 것을 어떻게 증명할 것인가

형사책임은 그것을 뒷받침하는 증거만큼만 실효성을 갖습니다. 이 법안은 입증의 문제를 해소하는 것이 아니라 그 위치를 옮길 뿐입니다. 현행법에서는 검찰이 이미지가 실존 인물을 묘사한다는 점을 입증하는 데 어려움을 겪습니다. 법안이 시행되면 실존 인물에 관한 범죄로 기소된 피고인이 해당 콘텐츠가 순수한 합성물이라고 주장할 수 있고, 검찰은 그 표현물이 애초에 AI로 생성된 것임을 입증해야 할 수도 있습니다.

여기에는 여러 기술적 수단이 관련됩니다. C2PA와 같은 콘텐츠 출처 표준은 파일이 어떻게 만들어졌는지를 기록하는 암호학적 서명 메타데이터를 첨부할 수 있고, 비가시적 워터마크는 생성 시점에 AI 결과물을 표시할 수 있습니다. 한국의 인공지능 기본법도 이미 사업자에게 딥페이크 결과물의 표시를 요구하고 있습니다. 그러나 메타데이터는 제거될 수 있고, 워터마크는 압축이나 편집으로 훼손될 수 있으며, 탐지 분류기는 오탐과 미탐을 모두 발생시킵니다. 이러한 도구의 강점과 한계는 AI 워터마크 의무화에 관한 분석에서 살펴본 바 있습니다. 실제 형사 사건에서는 어느 하나의 기술적 표지보다는 기기 포렌식, 플랫폼 로그, 피고인 본인의 통신 내용을 종합해 판단하게 될 가능성이 큽니다.

향후 국회 입법 절차

한국의 입법 절차에 따르면 소관 상임위원회 소위원회에서 심사한 법안은 전체회의 의결을 거친 뒤, 법제사법위원회의 체계·자구 심사를 통과하고, 본회의에서 의결되어야 정부로 이송되어 공포됩니다. 이 법안은 법제사법위원회 소관 법률을 개정하는 것이므로 같은 위원회가 실질 심사와 체계·자구 심사를 모두 맡게 되어 절차가 빨라질 수 있습니다. 국회 임기가 끝날 때까지 처리되지 못한 법안은 자동 폐기되므로, 결국 여야의 정치적 의지가 처리 시점을 좌우할 것입니다. 2024년 딥페이크 법 개정 당시에는 여론의 압력에 힘입어 불과 몇 주 만에 입법이 이루어졌습니다. 논란이 훨씬 큰 이번 법안이 같은 추진력을 얻을 수 있을지는 아직 알 수 없습니다.

플랫폼과 AI 개발사에 미치는 영향

법안이 시행된다면 그 영향은 개인 이용자에게만 머물지 않을 것입니다.

생성 도구. 이미지 생성 서비스는 한국 시장을 대상으로 성적 결과물을 차단하는 안전 필터를 강화해야 할 수 있습니다. "이용자가 생성한 것"이라는 항변은 해당 도구가 그러한 콘텐츠의 생성을 용이하게 하는 방식으로 설계되었는지라는 질문과 함께 평가될 것입니다.
호스팅과 유통. 플랫폼의 신고·삭제 절차가 실존 인물에 기반하지 않은 콘텐츠에 대해서도 작동해야 할 수 있으며, 이 경우 콘텐츠 모더레이션의 규모가 극적으로 커집니다.
가상 캐릭터 경제. 빠르게 성장하고 있는 한국의 가상 아이돌·디지털 캐릭터 산업은 성인 콘텐츠에 관한 명확한 기준을 요구하게 될 것입니다. 이 산업의 법적 쟁점은 K-팝의 합성 혁명과 코드로 만들어진 존재도 퍼블리시티권을 가질 수 있는가에 관한 글에서 논의한 바 있습니다.

한국 이용자에게 서비스하는 AI 사업자를 위한 컴플라이언스 체크리스트

법안의 향방이 정해지기 전이라도, 한국 이용자에게 이미지 생성·챗봇·호스팅 서비스를 제공하는 기업은 법이 어떤 형태로 확정되든 모범 관행에 해당하는 다음 조치를 통해 위험을 줄일 수 있습니다.

모델 수준의 안전장치. 성적으로 노골적인 결과물을 기본적으로 필터링하고, 실존 인물이나 미성년자를 성적으로 묘사하려는 프롬프트를 차단하며, 우회 기법에 대비해 이러한 필터를 정기적으로 레드팀 테스트하십시오.
연령 및 신원 확인. 성인 콘텐츠를 조금이라도 허용한다면 비례적인 연령 확인 조치를 마련하고, 제3자의 사진을 생성 참조 자료로 업로드하는 것을 막으십시오.
설계 단계에서의 출처 표시. 인공지능 기본법의 투명성 의무에 맞추어 생성 이미지에 표시와 워터마크를 적용해 결과물의 추적 가능성을 유지하십시오.
삭제 대응 준비. 합성 성적 콘텐츠 신고에 대한 대응 시한을 정하고, 방송통신심의위원회 및 수사기관과 실질적으로 작동하는 협력 창구를 구축하십시오.
로그 보관과 개인정보 보호. 생성 로그가 갖는 증거 가치와 「개인정보 보호법」상 개인정보 최소 처리 의무 사이의 균형을 맞추십시오.
투명성 보고. 접수된 신고 건수, 콘텐츠 삭제 속도, 필터의 성능을 공개하십시오.

세계적 맥락: 세계는 실존 인물을 보호하고, 한국은 한 걸음 더 나아간다

딥페이크 성적 콘텐츠를 겨냥한 전 세계의 규제 흐름은 압도적으로 실존하며 식별 가능한 인물의 보호에 집중되어 있습니다.

미국: 2025년 제정된 TAKE IT DOWN Act는 디지털 위조물을 포함해 식별 가능한 인물의 비동의 친밀 이미지를 게시하는 행위를 범죄화하고, 플랫폼에 신속한 삭제 의무를 부과했습니다.
유럽연합: 여성폭력 및 가정폭력 방지에 관한 지침은 회원국이 딥페이크를 포함한 친밀 자료의 비동의 제작 또는 조작을 범죄로 규정하도록 요구합니다.
캘리포니아: 2026년 9월 서명된 입법 패키지의 일부인 SB 1276은 AI로 생성된 표현물을 아동학대 범죄의 범위에 포함시켰습니다. 이에 관해서는 캘리포니아의 '애덤법'에 관한 기사에서 다루었습니다.

이 비교는 한국 법안의 독특한 점을 드러냅니다. 아동 보호 영역에서 '가상 묘사'까지 규율하는 접근은 널리 받아들여지고 있지만, 실존 인물에 기반하지 않은 성인으로 보이는 콘텐츠의 소지와 시청을 처벌하는 것은 민주국가들 사이에서 보기 드문 선택입니다.

튀르키예에 주는 시사점

튀르키예법에서 실존 인물이 관련된 딥페이크 콘텐츠는 사생활 및 개인정보에 관한 형벌 조항, 음란죄, 인격권을 보호하는 민사 규정, 개인정보 보호법에 따라 평가될 수 있습니다. 인터넷 콘텐츠에 관한 제5651호 법률의 접속 차단 및 삭제 제도도 적용될 수 있습니다. 그러나 실존 인물을 묘사하지 않는 합성 성적 콘텐츠에 특화된 규정은 존재하지 않습니다.

한국의 논쟁은 튀르키예에 두 가지 중요한 질문을 남깁니다. 첫째, 얼굴을 뒤섞는 생성형 모델 앞에서 실존 인물의 입증에 기반한 접근 방식이 충분한가 하는 점입니다. 둘째, 향후 도입될 규정이 표현의 자유, 법적 명확성, 비례의 원칙을 어떻게 조화시킬 것인가 하는 점입니다. 저희가 보기에 튀르키예가 내디딜 더 타당한 첫걸음은 실존 인물에 대한 비동의 합성 콘텐츠를 명시적으로 정의하고, 플랫폼에 신속한 삭제 의무를 부과하며, 피해자의 입증 부담을 덜어 주는 규정을 마련하는 것입니다. 그러한 체계를 어떻게 설계할 수 있을지는 100개 조문으로 구성된 튀르키예 인공지능법 초안 제안에서 논의한 바 있습니다.

앞으로 주목할 점

소위원회 단계에서 법안이 얼마나 수정되느냐가 결정적입니다. 'AI로 생성된'의 정의, 시청죄의 적용 범위, 예술적이거나 양식화된 콘텐츠에 대한 예외 인정 여부를 면밀히 지켜볼 필요가 있습니다. 법안이 통과된다면 표현의 자유와 비례의 원칙을 근거로 한 헌법소원이 제기되더라도 놀랍지 않을 것입니다. 국제적으로는 한국의 이번 움직임이 '피해자 없는 합성 콘텐츠'에 관한 논쟁을 다른 나라들의 의제로 끌어올릴 수 있습니다.

자주 묻는 질문

법안이 법률로 확정되었나요?

아닙니다. 언론 보도에 따르면 이 법안은 2026년 8월 법제사법위원회 소위원회에 회부되어 세부 심사가 진행 중입니다. 이 과정에서 조문 내용이 달라질 수 있습니다.

아동에 대한 가상 묘사는 이미 불법이지 않나요?

그렇습니다. 「아동·청소년의 성보호에 관한 법률」은 미성년자로 명백하게 인식될 수 있는 표현물을 이미 규율하고 있습니다. 이번 법안의 실질적인 새로움은 실존 인물에 기반하지 않은 성인으로 보이는 콘텐츠를 겨냥한다는 데 있습니다.

애니메이션이나 그림도 적용 대상이 되나요?

법안은 AI로 생성된 콘텐츠를 대상으로 하지만, AI 보조 도구로 제작하거나 편집한 그림이 어디에 해당하는지는 이 논쟁에서 가장 불확실한 부분 중 하나입니다. 최종 조문의 정의 규정이 이를 결정하게 될 것입니다.

해외 플랫폼도 영향을 받나요?

한국 이용자에게 서비스를 제공하는 AI 및 호스팅 서비스는 법을 준수하기 위해 실무상 필터와 삭제 절차를 조정해야 할 수 있습니다.

왜 유포뿐 아니라 시청까지 처벌하려 하나요?

발의 의원들은 제작을 억제하려면 수요 측면을 처벌할 필요가 있다고 주장합니다. 반면 비판론자들은 구체적인 피해자가 없는 콘텐츠를 단순히 시청한 행위까지 처벌하는 것은 비례의 원칙에 어긋나며 사생활 침해를 불러온다고 반박합니다.

튀르키예에도 유사한 규정이 있나요?

실존 인물에 영향을 미치는 딥페이크 콘텐츠는 기존의 형사·민사·개인정보 보호 규정으로 다룰 수 있지만, 실존 인물을 묘사하지 않는 합성 성적 콘텐츠에 특화된 규정은 없습니다.

인공지능 기본법이 이미 딥페이크를 규율하고 있지 않나요?

일부만 그렇습니다. 인공지능 기본법은 실제와 구별하기 어려운 AI 결과물에 대해 고지와 표시를 요구하지만, 이는 투명성에 관한 법률이지 형벌 법규가 아닙니다. 합성 성적 콘텐츠를 제작하거나 소지하는 행위를 범죄로 규정하지는 않습니다.

이미 저장해 둔 콘텐츠는 어떻게 되나요?

형법의 일반 원칙에 따르면 행위는 그 행위 당시에 시행 중인 법률에 따라 판단됩니다. 그러나 소지는 계속되는 상태이므로, 새 법률이 시행된 이후에도 그러한 표현물을 계속 보관한다면 그 자체로 법률의 적용 범위에 들어갈 수 있습니다. 최종 조문의 경과 규정이 중요한 의미를 갖게 될 것입니다.

전문가 의견

이 섹션은 본 사이트의 설립자이자 AI 윤리·컴플라이언스 자문가로서의 개인적 견해를 담고 있습니다.

제가 보기에 한국의 법안은 실재하는 문제를 정확하게 진단했지만, 그 처방의 일부에서는 형법의 한계를 무리하게 넘어서고 있습니다. 진단 자체는 옳습니다. 생성형 모델은 '실존 인물'의 입증에 의존하는 보호 체계를 무력화할 수 있습니다. 여러 얼굴을 뒤섞어 '누구의 것도 아닌' 이미지를 만든 가해자가 현행 규정상 책임을 피할 수 있다면, 그 공백은 반드시 메워야 합니다. 고양 법원의 무죄 판결은 이 공백이 이론이 아니라 현실의 문제임을 보여 줍니다.

그러나 제작과 유포를 처벌하는 것과, 구체적인 피해자가 없는 성인으로 보이는 콘텐츠를 단순히 소지하거나 시청하는 행위를 처벌하는 것은 같은 문제가 아닙니다. 후자는 명확성의 원칙과 비례의 원칙에 비추어 심각한 위험을 안고 있으며, 형법을 해악에 기반한 체계에서 도덕 단속의 체계로 옮겨 놓을 우려가 있습니다. 저는 더 균형 잡힌 모델이 동의 없는 성적 대상화를 용이하게 하는 도구와 유통 경로를 겨냥하는 동시에, 입증 책임을 피해자에게 유리하게 완화하고 플랫폼에 실효적인 삭제 의무를 부과하는 방식이라고 생각합니다.

튀르키예를 위해 제가 얻는 교훈은 이렇습니다. 딥페이크 규제는 '실존' 인물과 '가상' 인물이라는 추상적인 이분법이 아니라, 구체적인 해악이 어디에서 발생하는가라는 질문 위에 세워져야 합니다. 우리의 우선순위는 실존 인물을 대상으로 한 비동의 합성 이미지에 대해 신속하고 실효적이며 피해자 중심적인 보호를 제공하는 것이어야 합니다. AI 시대의 형법은 기술 앞에 굴복해서도 안 되지만, 모든 새로운 위험을 처벌로만 해결하려 해서도 안 됩니다.

이 글은 정보 제공 목적이며 법률 자문에 해당하지 않습니다. 법안에 관한 사실관계는 공개된 자료, 주로 2026년 8월 11일자 코리아타임스 보도에 근거하고 있으며, 조문은 입법 과정에서 변경될 수 있습니다. 분석과 평가는 필자 개인의 견해입니다.