합성 미디어는 어느새 일상 속으로 스며들었습니다. 마케팅 이미지, 내레이션, 제품 설명문, 고객 지원 답변 등 점점 더 많은 콘텐츠를 기계가 만들어 내고 있습니다. 이에 규제 당국은 분명한 요구를 내놓았습니다. 사용자는 AI가 만든 콘텐츠임을 알아볼 수 있어야 하고, 시스템은 이를 자동으로 감지할 수 있어야 한다는 것입니다.
규정이 요구하는 사항
EU AI법의 투명성 의무는 두 주체를 겨냥합니다. 생성형 시스템 제공자는 출력물이 인위적으로 생성되거나 조작되었다는 사실을 기계가 판독할 수 있는 방식으로 표시해야 합니다. 배포자는 사용자가 AI(예: 챗봇)와 상호작용하고 있다면 이를 알려야 하고, 딥페이크와 공익 사안을 대중에게 알리려고 게시하는 AI 생성 텍스트에는 라벨을 붙여야 합니다. AI 생성 콘텐츠의 표시와 라벨링에 관한 별도의 ‘실무 지침(Code of Practice)’도 초안 단계를 거치며 마련되고 있어, 실제 요구 수준이 얼마나 구체적일지 가늠해 볼 수 있습니다.
피해야 할 세 가지 함정
- UI의 부수적 요소쯤으로 여기는 것. 눈에 띄는 ‘AI로 제작됨’ 배지만으로는 부족합니다. 이 의무에는 메타데이터 삽입이나 워터마크처럼 지워지지 않고 기계가 읽을 수 있는 표시가 포함됩니다.
- EU만의 문제라고 여기는 것. 여러 국가가 같은 방향으로 움직이고 있고, 플랫폼 정책은 이미 공개를 의무화하고 있습니다. 관련 기능은 한 번만 제대로 구축해 두면 됩니다.
- 다른 법률과 겹치는 부분을 놓치는 것. 실존 인물을 다룬 딥페이크는 개인정보 보호와 인격권 문제뿐 아니라, 최근 개정으로 신설된 동의 없는 성적 이미지 금지 조항 등 형법상 문제로도 이어질 수 있습니다.
지금부터 어떻게 대비해야 할까
콘텐츠를 생성하거나 편집하는 모든 기능을 파악하십시오. 각 기능에 대해 출력물에 어떤 방식으로 표시할지(메타데이터, 워터마크, 출처 신호 등) 결정하고, 사용자에게 AI 개입 사실을 어떻게 공개할지 정하십시오. 이 내용을 제품 사양서와 공급업체 계약서에 명시해, 규정 적용을 몇 주 앞두고 업무에 짓눌린 한 팀에 책임이 몰리지 않게 하십시오. 투명성은 이제 당연히 갖춰야 할 요소가 되어 가고 있습니다. 이를 부가 사항이 아니라 핵심 기능으로 다루는 기업은 신뢰를 얻고, 그렇지 않은 기업은 허둥대게 될 것입니다.
