首页AI 新闻
欧盟就监管生成式 AI 工具达成初步协议, GPT-4 等更高能力模型增加额外规则约束
70

欧盟就监管生成式 AI 工具达成初步协议, GPT-4 等更高能力模型增加额外规则约束

好说新闻
好说新闻
2023-12-11 10:23

综合《华盛顿邮报》、Engadget 等外媒报道,在世界各地争相应对 AI 快速发展带来的风险之际,欧盟官员当地时间周五达成了一项具有“里程碑意义”的协议 ——《人工智能法案》(AI Act)的临时协议。这将是该地区对 AI 最全面的监管协议,也是迄今为止同类法案中范围最广、影响最深远的一项

欧盟内部市场负责人 Thierry Breton 当地时间周五在 X 平台发文宣布,来自欧盟委员会、欧洲议会和 27 个成员国的代表同意对 ChatGPT、Bard 等能够按指令生产内容的生成式 AI 进行一系列管控。

尽管该立法草案仍需得到欧盟成员国和议会的正式批准,但它标志着欧盟的政策迈出了关键一步:将对机器学习、AI 模型的开发和传播形式作出规定,并对其在教育、就业、医疗保健等领域的应用产生影响

AI 的发展将分为四类,以每个类别可能带来的社会风险程度进行区隔:最小、有限风险、高风险、禁止

  • 禁止:包括任何规避用户意愿、针对受保护群体或提供实时生物特征跟踪(如面部识别)的行为。

  • 高风险:包括任何“旨在用作产品安全组件”的内容,或者用于关键基础设施、教育、法律 / 司法事务和员工招聘等特定应用。

而与此同时,像 ChatGPT、Bard、Bing 这样的聊天机器人则属于“有限风险”这一类。

欧盟委员会在这份协议中写道,AI 本身不应该是“目的”,而应当是为人类服务的工具,其最终目的是为人类谋求福祉。因此欧盟市场上的 AI 或者以其它形式影响欧盟公民的 AI 规则应当“以人为本”,让人们相信技术的使用方式“安全且符合法律规定”。

根据该文件,被认为会构成“系统性风险”的模型将受到额外规则的约束。报道称,欧盟将根据训练模型的计算能力来确定是否存在风险,为模型设定的阈值是每秒超过 10 万亿次运算。有专家表示,目前唯一能达到这一门槛的模型是 OpenAI 的 GPT-4

此外,欧盟执行机构还可根据数据集的规模、是否在欧盟拥有至少 10000 名注册商业用户、注册用户的最终数量等可能的指标来指定其他阈值。

报道还称,在欧盟委员会制定出更协调且长期有效的控制措施期间,这些“能力更强”的模型应该签署行为准则。这些模型还必须满足如下要求:

  • 主动报告自身能耗情况

  • 在内部或外部进行红队测试 / 对抗性测试

  • 评估和减轻可能的系统性风险,并报告任何事件

  • 确保使用适当的网络安全控制措施

  • 报告用于微调模型的信息及其系统结构

  • 如果制定了更节能的标准,则开发过程中应当符合新的标准

至于没有签署行为准则的模型,则必须向欧盟委员会证明它们确实会遵守《AI 法案》。需要注意的是,对开源模型的豁免不适用于那些“被认为会带来系统性风险”的模型

转载自IT之家 清源查看原文

全部讨论

no data来都来了,坐下聊聊