8월 2일, EU AI 법(EU AI Act) 50조의 투명성 의무가 실제 적용에 들어갔다. 법 자체는 2024년에 통과됐지만(Regulation (EU) 2024/1689), 50조는 113조에 따라 이날부터 적용이 시작된다.

유럽연합 집행위원회(European Commission)는 50조가 네 가지 영역을 다룬다고 정리한다.

1. 사람과 AI의 직접 상호작용
2. AI가 생성한 콘텐츠
3. 감정 인식 · 생체 분류
4. 딥페이크와 공공 관심사 관련 AI 생성 텍스트

이 중 오디오 업계에서 가장 직접적으로 걸리는 부분이 2번, 합성 콘텐츠에 대한 표시 의무다.

핵심은 이것이다. 음성이든 음악이든 AI가 만들거나 조작된 오디오 콘텐츠는 기계가 읽을 수 있는 형식으로 표시돼, AI가 만들었다는 사실이 탐지 가능해야 한다(50조 2항). 유럽연합 집행위원회는 이 표시가 ‘효과적이고 신뢰할 수 있으며 견고하고 상호운용 가능한’ 것이어야 한다고 설명한다.

적용 범위도 EU 내에 국한되지 않는다. 유럽연합 집행위원회는 EU 밖에 있는 제공자라도 그 AI 시스템의 출력물이 EU에서 사용되면 AI 법의 적용을 받는다고 명시한다. Mix 매거진은 이를 두고, 미국 프로듀서가 유튜브 같은 스트리밍 플랫폼에 콘텐츠를 올리면 그 권리자가 새 규정에 해당하는 AI 사용을 공개해야 한다는 뜻이라고 설명했다.

다만 흥미로운 점이 하나 있다. Mix 매거진은 이번 법 조문 어디에도 ‘음악(music)’ 이라는 단어가 등장하지 않는다고 짚었다. 즉 음악 생성 AI를 콕 집어 규제하는 조항이 아니라, ‘합성 콘텐츠 표시’라는 더 넓은 틀 안에 음악 · 음성 · 오디오 후반작업이 함께 걸려 있는 구조다.

위반 시 처벌이 가볍지 않다. 최대 1,500만 유로 또는 전 세계 연매출의 3% 중 더 큰 금액이 벌금으로 부과될 수 있다. 다만 중소기업(SME)과 소규모 중견기업(SMC)에는 비례 원칙이 고려될 수 있다고 유럽연합 집행위원회는 밝혔다.

오디오 작업자가 알아야 할 네 가지 갈래

50조를 조항별로 뜯어보면 의무를 지는 주체가 갈린다. 시스템을 만들어 시장에 내놓는 ‘제공자(provider)’가 지는 의무와, 그 시스템을 업무에 쓰는 ‘배포자 · 이용자(deployer)’가 지는 의무가 다르다. 오디오 관련 작업자는 대개 후자에 해당할 것이다.

• 합성 콘텐츠 생성 (2항, 제공자 의무) : 합성 오디오 · 이미지 · 영상 · 텍스트를 만드는 AI 시스템의 제공자는 결과물에 기계 판독 가능한 표시를 심어야 한다. 범용 AI 시스템도 포함된다.
• 딥페이크 (4항, 배포자 의무) : 실존하는 사람 · 사물 · 장소 · 실체 · 사건과 닮아서 진짜처럼 보일 수 있는 이미지 · 음성 · 영상을 AI로 만들거나 조작한 콘텐츠는, 이를 쓰는 쪽이 그 사실을 공개해야 한다.
• 공공 관심사 텍스트 (4항, 배포자 의무) : 정치 · 공공행정 · 공중보건 등 공공 관심사를 알릴 목적으로 발행하는 AI 생성 텍스트는 라벨을 붙여야 한다. 단, 사람의 검수나 편집 통제를 거치고 편집 책임을 지는 주체가 있으면 면제된다.
• 직접 상호작용 (1항, 제공자 의무) · 감정 인식 (3항, 배포자 의무) : AI와 대화한다는 사실이 명백하지 않다면 알려야 하고, 감정 인식 · 생체 분류 시스템에 노출되는 사람에게는 그 작동 사실을 알려야 한다.

복원 도구는 예외? 경계가 애매하다

오디오 작업자들이 가장 궁금해할 점은 아마 이것일 것이다.
“이미 AI를 쓰고 있는 후반작업 복원 도구들도 다 표시 대상인가?”
답은 ‘아니다’ 에 가깝다.

조문에 예외가 명시돼 있다. 50조 2항은 ‘AI 시스템이 표준 편집을 보조하는 기능을 수행하거나, 배포자가 제공한 입력 데이터 또는 그 의미를 실질적으로 바꾸지 않는 한’ 표시 의무가 적용되지 않는다고 규정한다. Mix 매거진은 오디오 후반작업에서 흔히 사용하는 복원 도구가 여기에 해당한다고 짚었다.

유럽연합 집행위원회 가이드라인은 아예 의무 범위 밖인 경우도 따로 정리해뒀다. 짧은 숫자, 기호, 문자 나열, 소스 코드, 사람에게 노출되지 않고 기계 사이에서만 처리되는 출력물, 그리고 영화 제작처럼 폐쇄 루프(closed loop) 산업, 제품 개발 환경에서만 쓰이는 출력물이 그렇다. 다만 마지막 경우는 그것이 최종 결과물이 아닐 때에 한한다.

여기에 더해 기업 대 기업(B2B)이나 산업적 맥락에서 쓰이는 출력물에 대해서는, 가이드라인이 정한 조건을 충족할 경우 좁은 범위의 면제가 예정돼 있다고 유럽연합 집행위원회는 밝혔다.

다만 애매한 경계도 분명히 있다. Mix 매거진이 든 예를 보면, 배우가 사망한 뒤 후반작업에서 AI로 그 배우의 목소리를 새로 합성해 촬영 때 담기지 않은 대사를 만드는 경우처럼 원본을 실질적으로 바꾸는 작업은 예외에 해당하지 않는다. 이런 경우 시청자가 콘텐츠를 처음 접하는 순간부터 AI 사용 사실을 명확히 알려야 한다.

창작물에는 완화 규정이 있다

음악 · 영상 창작 쪽 실무자에게 가장 중요한 규정은 아마 이것일 것이다. 50조 4항은 딥페이크 콘텐츠가 ‘명백히 예술적 · 창의적 · 풍자적 · 허구적이거나 그에 준하는 작품 또는 프로그램의 일부’를 이루는 경우, 투명성 의무를 완화한다.

이 때 의무는 ‘그러한 생성 · 조작 콘텐츠가 존재한다는 사실을 작품의 표시나 감상을 방해하지 않는 적절한 방식으로 밝히는 것’으로 제한한다.

유럽연합 집행위원회 가이드라인도 같은 방향으로 이야기한다. 특정 맥락에서 예상 관객이 그 콘텐츠를 진짜라고 여기지 않는다면, 애초에 ‘진짜처럼 보이게 하는’ 딥페이크 요건 자체를 충족하지 않을 수 있다는 것이다. 배경 장면의 AI 생성, 특수효과, 표준적인 영화 제작 과정의 전 · 후처리 등이 예로 제시됐다.

이 완화 규정을 근거로 한다면 ‘영화, 뮤직비디오 등 허구적 창작물이라면 화면을 덮는 안내문 대신 크레딧 수준의 표기로 충분하다’고 해석할 수 있을 것 같다. 그렇기 때문에 그 경계가 더욱 애매할 것으로 보인다. 실제 제작되는 콘텐츠에 이 규정들이 어떻게 적용되는지 사례들을 계속 지켜봐야 할 필요가 있다.

시행 시점과 유예기간

50조는 2026년 8월 2일부터 적용된다. 다만 이날 이전에 이미 시장에 나와 있던 AI 시스템에 한해서는, 결과물 표시 · 탐지 의무(50조 2항)에 대해서만 2026년 12월 2일까지 제한적인 유예기간이 주어진다.

소급 적용은 없다. 2026년 8월 2일 이전에 생성된 콘텐츠는 라벨을 소급해서 붙일 필요가 없다고 유럽연합 집행위원회는 명시했다.

시행은 주로 각국의 시장감시당국이 맡는다. AI Office는 범용 AI 모델을 기반으로 한 시스템이면서 같은 주체가 모델과 시스템을 모두 제공하는 경우, 또는 디지털 서비스법(DSA)상 초대형 온라인 플랫폼 · 검색엔진에 통합된 AI 시스템에 한해 제한적으로 관여한다. EU 기관이 쓰는 AI 시스템은 유럽 데이터보호감독관(EDPS)이 담당한다.

준수 입증 수단도 마련되어 있다. 50조 7항에 따라 AI Office가 ‘AI 생성 콘텐츠 투명성에 관한 실행 규범(Code of Practice)’의 작성을 장려 · 지원했고, 이 규범은 유럽연합 집행위원회와 AI 위원회(AI Board) 양쪽에서 적정하다는 평가를 받았다. 여기에 서명한 제공자 · 배포자는 표시 의무 준수를 입증하는 데 활용할 수 있다. 서명하지 않으면 다른 적절한 수단으로 준수를 입증해야 하고, 정보 제출 요구를 더 많이 받을 수 있다.

EU AI 법 준수를 위한 실무 체크리스트

• AI 보이스 클로닝 · 더빙 · 음악 생성 도구를 상업 프로젝트에 쓰고 있다면, 결과물에 기계 판독 가능한 표시 기능이 들어가는지 확인한다.
• 복원 도구는 법 조항에 따라 예외지만, 톤이나 화자를 크게 바꾸는 보이스 합성 · 변조 기능까지 같은 플러그인에 들어 있다면 기능별로 구분해서 판단한다.
• 클라이언트 납품 시 AI 사용 여부를 계약서나 딜리버리 문서에 명시해 책임 소재를 분명히 한다.
• EU 청중에게 노출될 가능성이 있는 콘텐츠(유튜브, 스트리밍 등)라면 제작 지역과 무관하게 적용 대상이 될 수 있음을 인지한다.
• 창작물이라면 4항 완화 규정이 적용될 수 있으므로, 어떤 형태로 표기할 지 사전에 배급처와 미리 합의한다.

현재 작업물이 당장 국내에만 국한된다고 안심하기는 이르다. 콘텐츠가 유튜브나 글로벌 스트리밍 플랫폼에 올라가는 순간 EU 청중 노출 가능성이 생기고, 그러면 이 규정의 적용 대상이 될 수 있다고 봐야 한다. 특히 더빙 · 로컬라이제이션이나 AI 보이스 작업을 하는 작업자라면 미리 사용하는 소프트웨어 및 플러그인을 확인하는 단계가 필요할 것으로 보인다.

관련 링크

↗️ Mix — New EU AI Act Has Global Impact on Audio Production

↗️ European Commission — Transparency obligations under Article 50 of the AI Act

↗️ EU Artificial Intelligence Act — Article 50 조문 원문