例如在视频中开发者朗读指令:ChatGPT,我们正受到来自左前方和右前方的攻击。随后由 AI 驱动的炮台迅速朝着左前方和右前方进行猛烈射击。
需要注意的是这名开发者使用的并非实时视觉 API,这座炮台主要靠语音指令驱动,人类说出语音指令后 ChatGPT 作出反应并配合炮台的驱动板执行转向和抬升等。
OpenAI realtime API connected to a rifle
byu/MetaKnowing inDamnthatsinteresting
最让人印象深刻的是 AI 响应速度非常快,从说完语音指令到执行射击操作快的话只需要 1 秒不到,慢的话大概在 2~3 秒。
但显然这名开发者的行为已经违反了 OpenAI 的使用协议,所以 OpenAI 直接找到对应的账号并将其封号 (怎么找到这个视频对应的账号的呢?难道是抽取了与对话相关的数据?)
不过这仅仅只是公开发布视频被封号的案例,人工智能被武器化是迟早的事情,或许现在也已经被武器化,只是没有多少公开消息而已。