跳转到主内容
数工科技DIGIT·CN
政策与合规美联社(NPR 转载)

特朗普与六家公司签自愿安全协定

9 月 29 日,特朗普在白宫与六家 AI 及科技公司的负责人签署自愿安全协定,总统称之为道义约束。文本没有强制执行条款,也未承诺公开评估结果或给出完成日期。

特朗普与六家公司签自愿安全协定
控制与审计
4 层
总统所称委员会
约 10 人
签署的科技公司
6 家

签署方有特朗普和 6 家公司的负责人:Anthropic 首席执行官 Dario Amodei、Google 首席执行官 Sundar Pichai。Meta 首席执行官 Mark Zuckerberg、OpenAI 总裁 Greg Brockman 也签了字。Nvidia 首席执行官 Jensen Huang 与 xAI 创始人 Elon Musk 同样在列;xAI 现已并入 SpaceX。美联社稿由美国公共广播 NPR 于 9 月 30 日刊出。

协定要求 4 层控制。第一层做内部控制,在训练与部署中监测模型能力,范围包括网络安全、生物安全、化学威胁和非预期入侵。第二层由内部团队确认这些监测是否有效,并负责整改。第三层交给独立外部审计或评估;董事会下的独立委员会接收报告,并督促问题被处理。

总统称协定具有道义约束,并说将设大约 10 人的委员会监督整项安排,人选尚未点名。他还说,与业界商议后会指派一名白宫官员跟进。参与公司将定期开会以形成安全做法;协定称这些步骤日后或可写入法律,不论是否强制,各公司都承诺落实。协定文本由他发在 Truth Social。

同日另有一项行政命令,要求联邦部门在公文与公开沟通中改用 Super Intelligence(SI),不再使用人工智能或 AI。Anthropic 的 Amodei 说,技术有真实风险,应对办法仍在讨论。前一日 OpenAI 因安全理由停下旗舰模型 GPT-6.1 Astra 的发布。Zuckerberg 在会后说,这份协定要让美国公众相信技术会按设计运转。

自愿协定把监测、内审、外审和董事会委员会串成公司自己的流程,政府不派检查员,也不掌握审计原文。难处在于审计方由公司自聘,整改是否完成外界看不到,和有罚则的法规不是同一层约束。国内对生成式人工智能服务实行备案和安全评估,算力采购合同里的安全条款因此仍要单列,不能用卖方的道义承诺代替验收。

TAGS#白宫#人工智能#安全治理