EU의 새로운 AI 라벨링 규정에 숨겨진 허점: 온라인 콘텐츠의 진정성에 대한 위협인가?

유럽연합(EU)은 AI 생성 콘텐츠의 투명성 확보 필요성을 인식하고 이러한 콘텐츠에 대한 표기(라벨링) 의무화를 시행하기로 결정했습니다. 하지만 이 새로운 규정은 나름의 과제를 안고 있습니다.

EU’s New AI Act

2023년 처음 발의되어 2024년 3월 찬성 523표, 반대 46표, 기권 49표로 EU 의회를 통과한 EU의 AI 법안(AI Act)은 소비자와 민주주의를 보호하는 것을 목표로 합니다. 세르게이 라고딘스키(Sergey Lagodinsky) EU 의회의원이 밝힌 바와 같이, AI 법안의 목적은 단순히 소비자를 보호하는 것뿐만 아니라 민주주의와 온라인 정보의 진정성을 지키는 데 있습니다. AI 법안은 8월 2일에 발효되었으며, 모든 AI 생성 콘텐츠에 특정 표기를 의무화했습니다. 이 규칙은 AI가 생성한 이미지, 동영상, 오디오, 텍스트를 포함하여 EU 시장에서 작동하는 AI 시스템에 적용됩니다.

The Loophole and Penalties

하지만 의무 라벨링은 ‘실제처럼 보이도록’ 제작된 콘텐츠에만 적용되어, 무엇이 ‘실제’인지에 대한 주관성 때문에 딜레마가 발생합니다. 이 법은 풍자나 픽션 콘텐츠를 포함한 개인적 콘텐츠와 ‘명백히 예술적인’ 작품을 제외하고 있어 해석이 더욱 모호해집니다. EU는 또한 이 규칙을 위반할 경우 최대 1,500만 유로 또는 기업 글로벌 매출의 3%에 달하는 벌금을 부과할 수 있도록 처벌 규정을 마련했으며, 이는 Apple, Google, Samsung과 같은 대기업의 경우 수십억 달러에 달할 수 있습니다. 8월 2일 시한은 신규 AI 시스템에 적용되며, 기존 시스템은 준수까지 4개월의 추가 유예 기간을 갖게 됩니다.

많은 기업, 특히 대형 소셜 네트워크와 앱은 이미 AI 생성 콘텐츠에 관한 자체 정책을 적용하고 있다는 점에 주목할 필요가 있습니다. 예를 들어 Google은 전용 SynthID 도구를 사용하여 6,000만 년 분량에 달하는 수십억 개의 이미지와 오디오 콘텐츠에 라벨을 붙이고 있습니다. 이러한 정책에도 불구하고 AI 이미지와 동영상은 여전히 감시망을 벗어나 사용자 피드에 계속 노출되고 있습니다. 새로운 EU 정책이 시행됨에 따라 이들 기업은 단속을 강화하지 않으면 막대한 재정적 처벌을 받게 될 위험에 처했습니다.

Questions & Answers

EU AI 법안의 주요 목적은 무엇인가요?
EU AI 법안은 주로 AI 생성 콘텐츠의 투명성을 확보하여 소비자를 보호하고 온라인 정보의 진정성을 유지함으로써 민주주의를 수호하는 것을 목표로 합니다.

EU AI 법안에 따라 라벨을 의무적으로 표시해야 하는 콘텐츠는 무엇인가요?
AI 법안은 EU 시장에서 운영되며 실제처럼 보이도록 제작된 모든 AI 생성 이미지, 동영상, 오디오 및 텍스트에 특정 라벨을 표시하도록 규정하고 있습니다.

EU AI 법안을 준수하지 않을 경우 어떤 처벌을 받게 되나요?
AI 법안을 위반한 기업은 최대 1,500만 유로 또는 글로벌 매출의 3%에 달하는 벌금을 부과받을 수 있으며, 대기업의 경우 벌금이 수십억 달러에 이를 수 있습니다.