在生成式人工智能（Generative AI）加速进入关键应用场景之际，美国商务部正推动建立更系统的前置评估机制。
根据最新协议，谷歌、微软及xAI需在产品发布前向政府提交模型接受能力与安全性测试。此举也标志着白宫针对高风险AI模型带来的网络安全隐忧，开始对其原有“轻监管”路径作出实质性调整。
政府前置测试
来自美国商务部的消息称，谷歌、微软以及xAI推出的新一代AI工具和能力，在向公众发布之前，将接受该部门的测试。
这些科技公司已同意通过美国商务部下属的人工智能标准与创新中心（CAISI）自愿提交其模型进行测试。
这一协议是拜登政府时期，在OpenAI和Anthropic等公司达成的相关承诺的基础上进一步扩展而来的。根据协议，所有相关公司的AI模型都将接受能力与安全性评估。
“在这一关键时刻，这些扩展的行业合作有助于我们以公共利益为导向扩大工作规模。”CAISI主任克里斯·法尔表示。
总体而言，这些AI工具的评估将涵盖“测试、协同研究以及与商业AI系统相关的最佳实践”等。
据悉，OpenAI以及Anthropic早在2024年就与美国商务部达成了类似协议。
谷歌最知名的AI工具是其子公司DeepMind开发的Gemini，该聊天机器人已广泛应用于谷歌各类产品中，目前也被用于美国国防和军事机构。微软最知名的AI工具是Copilot。而xAI目前唯一的AI产品是Grok，其曾因出现对图像中人物进行不当“去衣”处理的问题而受到公众审视。
当地时间5月5日，CAISI表示，其此前已完成40次AI工具评估，其中包括对某些“最先进但尚未发布的模型”的测试。不过，该中心并未具体说明哪些模型被阻止向公众发布。
CAISI公告发布后，微软在一篇公司博客中表示，其本身已对AI模型进行测试，但“涉及国家安全和大规模公共安全风险的测试，必然需要与政府开展协作”。
DeepMind发言人拒绝发表评论。目前，控制着xAI的SpaceX方面亦未回应置评请求。
而在该协议出台之际，有消息称，特朗普政府正考虑启动一项新的政府审查机制，用于评估美国认定可能带来网络安全风险的AI工具。
据《华尔街日报》报道，白宫正在考虑一项以网络安全为重点的行政命令，其中可能包括将一个政府监督小组制度化，以为最强大的AI模型制定标准。其目标是防止这些模型过早发布引发网络攻击及其他干扰，从而保护消费者和企业。
白宫方向转变
这些举措标志着白宫政策取向的一种变化。
此前，特朗普政府在对AI及科技企业监管方面总体采取较为“放任”的态度。
去年，特朗普曾签署了一系列行政命令，构成其政府“AI行动计划”的基础。他表示，该计划将“减少繁文缛节和过度监管”，确保美国通过技术进步与控制在AI领域“取胜”。
但随着美国军方扩大对AI的应用，以及Anthropic近期声称其开发了一款名为Mythos、因“能力过于强大而不适合公开发布”的模型，白宫正在调整其政策立场。
据了解，Mythos的发布对特朗普的一些政策取向构成了挑战，并在美国政府内部员工和科技行业高管中引发了焦虑。他们担心，这将开启一个由AI驱动的大规模漏洞发现时代。他们将之称为“Bugmageddon”（漏洞末日），在这一过程中，企业和政府机构需要不断进行漏洞分类、测试和修复，黑客则能越来越容易发现并利用这些漏洞发起网络攻击。
事实上，Anthropic与特朗普政府之间的紧张关系已持续数月，这使Mythos的推广进程更加复杂。
当地时间3月9日，Anthropic起诉美国联邦政府，称因双方在公司产品使用方面存在分歧，遭到对方打击报复，被列入黑名单。
近几周来，美国国家网络总监肖恩·凯恩克罗斯已召集政府官员和科技行业领袖，就应对Mythos展开讨论。美国副总统万斯以及财政部长贝森特也参与了相关会议。贝森特还向金融行业高管发出警告，指出此类模型可能带来的风险。
与此同时，包括OpenAI和谷歌在内的其他领先AI开发商，也在推出或研发可能带来网络风险的模型。而他们还在以不同形式与美国国防部合作，这进一步引发部分AI安全倡导者对如何为技术使用设置适当安全边界感到担忧。
源顺网提示：文章来自网络，不代表本站观点。
