揭示欧盟人工智能新标签规则中的隐秘漏洞：这会威胁网络内容的真实性吗？

欧盟（EU）深刻认识到人工智能（AI）生成内容透明度的必要性，并决定对此类内容实施强制标注。然而，这项新规定本身也面临着一系列挑战。

欧盟的新《人工智能法案》

欧盟的《人工智能法案》（AI Act）最早于2023年提出，并于2024年3月以523票赞成、46票反对、49票弃权获得欧洲议会批准，旨在保护消费者和民主制度。正如欧洲议会议员 Sergey Lagodinsky 所言，《人工智能法案》的目的不仅在于保护消费者，还在于维护民主以及网络事实的真实性。该法案于8月2日正式生效，要求所有AI生成的内容都必须附带特定标注。该规则适用于在欧盟市场运行的AI系统，包括AI生成的图像、视频、音频和文本。

漏洞与处罚措施

然而，强制标注仅适用于旨在看起来“真实”的内容，但由于何谓“真实”具有主观性，从而引发了困境。法律排除了个人内容和“明显属于艺术创作”的作品（包括讽刺和虚构内容），这使得法律条款的解读更加模糊。欧盟还明确了违反该规则的处罚措施，罚款金额高达1500万欧元或企业全球总营业额的3%，这可能导致 Apple、Google 和 Samsung 等大型跨国企业面临数十亿美元的罚款。虽然8月2日的截止日期适用于新的AI系统，但现有系统将获得额外的四个月合规过渡期。

值得注意的是，许多公司（特别是大型社交网络和应用程序）已经出台了针对AI生成内容的相关政策。例如，Google 使用一种名为 SynthID 的特别工具，对跨越6万年历史的大量图像和音频内容（数以百亿计）进行了标注。尽管有这些政策，AI生成的图像和视频仍频繁漏网，进入人们的社交动态推送中。随着欧盟新规的生效，这些公司需要加大执法与审查力度，否则将面临巨大的财务处罚风险。

常见问题解答

欧盟《人工智能法案》的主要目的是什么？
欧盟《人工智能法案》的主要目的是确保AI生成内容的透明度，从而保护消费者，维护网络事实的真实性，以此捍卫民主。

欧盟《人工智能法案》规定哪些内容必须进行标注？
《人工智能法案》要求所有在欧盟市场运行、且旨在表现为真实形态的AI生成图像、视频、音频和文本均须附带特定标注。

未能遵守欧盟《人工智能法案》将面临何种处罚？
被发现违反《人工智能法案》的公司将面临最高1500万欧元或该公司全球总营业额3%的罚款，对于大型跨国企业而言，罚款金额可能高达数十亿美元。