News (CN)

五角大楼在周五截止日期前与 Anthropic 就人工智能进行对话

Pentágono
照片: Pentágono - Artem Onoprienko/Shutterstock.com

美国国防部一位高级官员周五 (27 日) 表示,五角大楼保留在周五最后期限前与 Anthropic 进行进一步谈判的可能性,以放松对其人工智能技术使用的限制。该声明发布之际,克劳德模式的道德保障问题长期陷入僵局,政府要求为合法军事目的不受限制地访问,而该公司则抵制某些应用。负责研究和工程的国防部副部长埃米尔·迈克尔表示,尽管最近局势紧张,但对话仍然是可能的。

这场纠纷涉及五角大楼与 Anthropic、OpenAI 和 Google 等领先人工智能实验室近年来签署的一份价值高达 2 亿美元的合同,旨在将先进模型集成到机密系统中。国防部寻求取消 Anthropic 施加的限制,阻止使用克劳德对美国公民进行大规模监视或在自主武器中使用。该公司保留这些红线是为了避免民主价值观和使用可能危及公共安全的风险。

国防部长 Pete Hegseth 设定的最后期限将于本周五下午 5:01(东部时间)到期。如果没有达成协议,五角大楼可以终止合作伙伴关系,将人类列为供应链风险——这一措施通常适用于与外国对手有联系的实体——或者援引《国防生产法》来强制供应。发言人肖恩·帕内尔强调,政府不会接受私人公司决定军事行动条款。

Mão de robô e humana, IA, inteligência artificial
机器人和人手,人工智能,人工智能 – Summit Art Creations/shutterstock.com

Anthropic 在保障措施方面的立场

Anthropic重申拒绝屈服于五角大楼的最新要求。首席执行官达里奥·阿莫迪表示,出于良心,该公司不能接受不能充分解决大规模监视或全自动武器问题的条款。

该初创公司辩称,隔夜收到的提案并未显着推进所要求的保证。尽管立场坚定,阿莫代还是表示愿意继续为国防部和军队服务,只要这两项主要保障措施得到维持。

国防部官员的声明

埃米尔·迈克尔本周五早上强调,五角大楼仍然愿意与 Anthropic 进行对话,甚至将该公司在人工智能保障措施对抗期间的行为归类为不可预测。

这位副部长强调了在最后期限到期之前继续谈判的重要性。五角大楼官员已于周三发出了一份被视为最终的提议,承诺不会利用克劳德对美国人进行大规模监视或自主无人机行动,但 Anthropic 认为这些变化还不够。

最近谈判的背景

赫格斯和阿莫代在本周初会面后,冲突变得更加激烈。在采取严厉措施的威胁下,国务卿发出了最后通牒,要求签署一份允许充分用于合法目的的文件。

五角大楼就对人类服务的依赖向国防承包商进行了咨询,表明他们已经做好了应对最终中断的准备。该公司目前在国防部机密网络上运营,这使其技术对军事行动具有战略意义。

对军事人工智能合同的潜在影响

正在讨论的交易是过去 12 个月与领先人工智能实验室签署的一系列 2 亿美元上限合同的一部分。这些安排旨在加速先进工具在机密环境和国防行动中的采用。

拒绝取消限制可能会导致 Anthropic 被排除在未来的政府机会之外。该行业的其他公司已经接受了类似的条款,仅在符合美国法律的情况下才允许广泛使用。

僵局的年表

谈判已经拖延了几个月,重点是平衡技术创新和道德控制。 Anthropic 从一开始就将自己定位为在其模型中采取强有力的保障措施的倡导者。

随着五角大楼认为最终的合同语言的发送,对抗进一步升级。该公司在网站上发布官方帖子做出回应,强调不可能接受当前条件。

周五的最后期限是解决或最终终止合作关系的关键点。