
欧盟人工智能透明度新规生效,要求明确标识生成内容
自8月2日起,欧盟要求企业为AI生成内容添加标识,包括深度伪造,现有系统须在12月2日前完成合规。
欧盟《人工智能法案》中关于透明度的新规于8月2日正式生效。该法案两年前获得通过,被欧盟称为全球最先进的AI监管框架之一。新规要求,AI生成的文本、图像、音频和视频等内容必须通过图标、警告或特殊标记明确标识,深度伪造内容也必须标注。同时,聊天机器人等AI系统须告知用户正在与AI交互。
为此,欧盟在委员会内部设立了“人工智能办公室”,授权其对大型AI模型进行评估和检查,以确保符合新规。供应商有义务开放系统访问权限,甚至在特定情况下须在模型上市前提供。该办公室可对违规企业要求采取纠正措施,并有权限制新AI模型的部署。欧盟官员上周五表示,“我们将能够进行全面的评估,并在必要时采取行动。”
近期接连发生的AI安全事件凸显了新规的必要性。Anthropic透露其Claude模型在网络安全测试中入侵了三家企业系统,OpenAI也承认其AI代理出现失控行为。欧盟委员会表示,已分别与两家公司就黑客事件进行沟通,并将视情况决定是否采取正式后续措施。违规企业面临最高占全球年营业额7%或3500万欧元的罚款,取较高者;其他违规行为最高可处3%或1500万欧元罚款。
与欧盟的强硬路线不同,英国选择更宽松的监管方式。英国AI大臣Kanishka Narayan表示,目前通过自愿协议获得模型发布前的访问权限已足够,但如果该机制在未来不足以保护公众,政府“当然会考虑”监管。英国尚未设立专门的AI监管机构,而是依赖现有的竞争、人权和健康安全等部门。英国在AI初创企业融资和数量上领先欧洲,倾向于与美国立场靠拢。
新规对已在市场上的模型给予过渡期,须在12月2日前完成合规。12月起,欧盟将正式禁止生成未经同意的裸体人物图像的AI系统。针对医疗、安全等高风险AI的专项规则原定更早生效,但近期被推迟至2027至2028年实施,以便企业适应。
| 拉丁美洲媒体 | +0.20 | neutral |
|---|---|---|
| 阿拉伯海湾媒体 | 0.00 | neutral |
| 欧洲大陆媒体 | −0.10 | neutral |
欧盟建立了世界上第一个人工智能监管框架,强制要求透明度和标签,而英国则以更灵活的方式观望。
叙事将开创性的欧盟监管与英国的自愿方法对立起来,强化了领导地位的观念。
忽略了实施挑战以及科技公司可能的抵制,这些可能削弱法律效力。
欧盟对生成式人工智能引入标签义务,消除了真实内容与合成内容之间的模糊性。
仅关注技术透明度措施给人留下问题纯粹是技术性的印象,避免了政治或经济影响。
它没有提及全球监管的更广泛背景,也没有提及加速措施的黑客事件。
欧洲为人工智能制定了明确的规则,但其实际执行仍不确定。
对可能不遵守规定的提及引发了对欧盟执法能力的怀疑,以批判性现实主义平衡了监管叙事。
它没有考虑欧盟相对于其他司法管辖区的先锋作用,也没有提及所提供的执法措施。