합성 미디어는 어느새 일상 속으로 스며들었습니다. 마케팅 이미지, 내레이션, 제품 설명문, 고객 지원 답변 등 점점 더 많은 콘텐츠가 기계에 의해 생성되고 있습니다. 이에 규제 당국은 명확한 요구 사항을 제시했습니다. 사용자는 AI가 생성한 콘텐츠임을 인지할 수 있어야 하며, 시스템은 이를 자동으로 감지할 수 있어야 한다는 것입니다.
규정이 요구하는 사항
EU AI법의 투명성 의무는 두 가지 측면을 대상으로 합니다. 생성형 시스템 제공자는 생성된 콘텐츠가 인공적으로 생성되거나 조작되었음을 표시하는 기계 판독 가능한 방식으로 출력물에 표시해야 합니다. 배포자는 사용자가 AI(예: 챗봇)와 상호작용할 때 이를 사용자에게 공개해야 하며, 공익 사안에 대해 대중에게 정보를 제공하기 위해 게시된 딥페이크 및 AI 생성 텍스트에 라벨을 부착해야 합니다. AI 생성 콘텐츠의 표시 및 라벨링에 관한 전용 ‘실무 지침(Code of Practice)’ 마련 작업이 초안 단계를 거쳐 진행되고 있으며, 이는 향후 실질적인 기대 사항이 얼마나 상세해질지를 시사합니다.
피해야 할 세 가지 함정
- 이를 UI의 부수적인 요소로 취급하는 것. 눈에 띄는 ‘AI로 제작됨’ 배지만으로는 충분하지 않습니다. 이 의무에는 내장된 메타데이터나 워터마킹과 같은 영구적이고 기계가 읽을 수 있는 표시가 포함됩니다.
- 이 문제가 EU에만 국한된 것이라고 가정하는 것. 여러 관할 구역이 같은 방향으로 움직이고 있으며, 플랫폼 정책에서는 이미 정보 공개를 의무화하고 있습니다. 관련 기능을 한 번만 구축하면 됩니다.
- 다른 법률과의 중복을 간과하는 것. 실존 인물을 대상으로 한 딥페이크는 데이터 보호, 인격권 문제뿐만 아니라 — 최근 개정안에 따라 — 동의 없는 친밀한 이미지의 새로운 금지 조항을 포함한 형법상의 문제도 야기할 수 있습니다.
지금부터 어떻게 대비해야 할까
콘텐츠를 생성하거나 편집하는 모든 기능을 파악하십시오. 각 기능에 대해 출력물에 어떤 방식으로 표시할지(메타데이터, 워터마크, 출처 신호 등) 결정하고, 사용자에게 AI 개입 사실을 어떻게 공개할지 정하십시오. 이를 제품 사양서와 공급업체 계약서에 명시하여, 해당 규정이 적용되기 몇 주 전에 과중한 업무에 시달리는 단일 팀에게만 책임이 전가되지 않도록 하십시오. 투명성은 이제 기본적인 기대 사항이 되고 있습니다. 이를 단순한 부가 사항이 아닌 핵심 기능으로 여기는 기업들은 신뢰를 얻는 반면, 그렇지 않은 기업들은 허둥대게 될 것입니다.
