OpenAI和Anduril周三宣布建立合作伙伴关系,这使得这家国防科技公司可以为"国家安全任务"部署先进的人工智能系统。这是人工智能公司不仅撤销将其产品用于军事用途的禁令,而且与国防工业巨头和美国国防部建立合作伙伴关系的更广泛、更有争议的趋势的一部分。
上个月,Anthropic、 和国防承包商 Palantir宣布与亚马逊网络服务建立合作伙伴关系,运用Anthropic 的 Claude 3 和 3.5 系列模型"为美国情报和国防机构提供访问人工智能的途径"。。今年秋天,Palantir 签署了一份为期五年、金额高达 1 亿美元的新合同,以扩大美国军方对其 Maven 人工智能战争项目的访问。
据一份新闻稿称,周三宣布的OpenAI-Anduril合作伙伴关系将"专注于改善国家的反无人机系统(CUAS)及其实时检测、评估和应对潜在致命空中威胁的能力",该新闻稿还补充说,"Anduril和OpenAI将探索如何利用领先的人工智能模型来快速综合时间敏感数据,减轻人类操作员的负担,并提高对态势的感知能力。"
Anduril公司由帕尔默-卢基(Palmer Luckey)联合创办,该公司没有回答关于减轻人类操作员的负担是否会减少人类参与高风险战争决策的问题。 Luckey 创办了 Oculus VR,并于 2014 年将其出售给了 Facebook。
OpenAI表示,它正在与Anduril合作,帮助人类操作员做出决策,"保护地面上的美国军事人员免受无人机攻击"。 该公司表示,它坚持其使命宣言中的政策,即禁止使用其人工智能系统伤害他人。
1 月初,OpenAI 的政策页面规定该公司不允许将其模型用于"极有可能造成人身伤害的活动",例如武器开发或军事和战争。 1 月中旬,OpenAI 删除了对军事的具体提及,但其政策仍规定用户不得"使用我们的服务伤害自己或他人",包括"开发或使用武器"。
这一消息是在科技公司为军事用途开发技术引发多年争议之后发布的,科技工作者--尤其是从事人工智能工作的科技工作者--的公开担忧凸显了这一点。
在数千名Google员工抗议五角大楼利用Google人工智能分析无人机监控录像的项目"Project Maven"之后,几乎所有与军方合同有关的科技巨头的员工都表达了担忧。
微软员工抗议了一项价值 4.8 亿美元 的军方合同,该合同将为士兵提供增强现实耳机;1500 多名亚马逊和Google员工签署了一封信以抗议一项价值 12 亿美元的多年期合同。根据这份合同,这两家科技巨头将提供云计算服务、人工智能工具和数据中心。