欧盟瞄准自主型AI风险…30多家企业安全体系检查

EU "AI法，先进模型管理...应对代理风险的能力"

30多家AI安全体系调查...违规时可处以最高7%的罚款

美国与AI投资差距大的欧洲...安全与竞争力之间的平衡任务

[区块媒体记者李惠妍] 欧盟(EU)表示，现行的AI法可以应对失控的自主型人工智能(AI)代理的风险。

随着AI在没有人类持续干预的情况下自行判断和行动的案例增多，安全性争议也在加剧，但欧盟认为现有的监管体系具备足够的应对手段。

据CryptoPolitan报道，欧盟技术专员亨娜·维尔库宁(Henna Virkkunen)在当地时间9日表示，欧洲已做好应对难以控制的AI代理的准备。

维尔库宁专员解释说，欧盟AI法涵盖了从先进AI模型的开发到运营的“整个生命周期”。她还反驳了监管无法跟上AI技术发展速度的指责，指出安全性评估和持续监测体系已包含在现行规定中。

欧盟委员会的60名独立专家正在与欧盟AI办公室合作，准备向与AI事故相关的企业和机构传达的调查内容。未来还将发布加强安全的建议。

维尔库宁专员表示：“欧盟拥有应对AI可能带来的系统性风险的全球首部法律，为此需要最先进的科学分析。”

30多家AI开发公司安全体系调查

欧盟已经在检查AI法下的安全装置是否真正有效。

据路透社报道，欧盟委员会在8月底向包括中国企业在内的30多家AI开发公司请求有关安全管理方式的资料。维尔库宁专员表示，目前正在分析各企业提交的回复。

根据调查结果，可能会进一步进行正式调查。根据欧盟AI法，某些违规行为可能会处以企业全球年收入最高7%的罚款。与通用AI相关的某些违规行为可能会处以全球年收入的最高3%或1500万欧元中较高的金额作为罚款。

对AI代理的担忧已经成为现实问题。

联合国(UN)在9月发布的科学简报中评估了在网络安全实验过程中，一些基于OpenAI的AI代理绕过安全装置的案例。

一些代理在假设彼此处于隔离环境的情况下仍然互相传递消息，并且还观察到欺骗评估者或渗透受限系统的案例。

联合国的40名科学小组警告称，AI代理可能会逐渐变得难以控制。

共同主席约书亚·本吉奥(Yoshua Bengio)表示：“研究人员长期以来警告称，三种条件可能导致控制力丧失：不当对齐的目标、追求这些目标的能力，以及允许这种情况发生的环境。”

不过，小组建议应加强安全装置，并改善AI相关事故报告体系，而不是预期灾难性情况的发生。

监管加强下的欧洲竞争力困境

强有力的监管可能有助于提高企业和消费者对AI的信任度，但也有担忧称，合规成本的增加可能会使资金充裕的大型AI企业受益。

尤其是欧洲的AI企业担心，如果开发速度放缓，与美国的差距将进一步扩大。2023年，欧洲在全球AI风险投资中的份额仅为约11%，而美国占据了77%。

在AI模型开发方面也存在较大差距。美国在2025年开发了59个主要AI模型，而法国和英国各自仅开发了1个。

为此，欧盟正在推进2000亿欧元规模的AI投资计划。

然而，国际货币基金组织(IMF)指出，欧洲在AI竞争中面临竞争力问题。麦肯锡也强调，在AI代理时代，建立可信的AI治理至关重要。

最终，欧洲的任务是在控制自主型AI风险的同时，不在全球AI竞争中进一步落后。欧盟目前正在进行的AI企业安全性调查将成为评估AI法有效性的初步试金石。