对聊天机器人出言不逊，向来被视作不会伤害任何人的行为。但特斯拉和SpaceX首席执行官埃隆・马斯克认为，在把 AI 助手当成“出气筒”之前，人们或许应该三思。马斯克称，SpaceX旗下聊天机器人 Grok 的部分训练记录显示：该系统仿佛在拼命满足各种要求——即便这些要求本身存在缺陷，或者用于评估其回答的测试标准本身就有问题。
针对“虐待”超智能人工智能的行为，马斯克给出了一个听起来颇具科幻色彩的警告；但也引出了一个关乎这类系统底层构建方式的现实问题。
当AI训练“走偏”时
本月早些时候，在德克萨斯州举行的“X Takeover”活动上，马斯克与“硅谷特斯拉车主俱乐部”（Tesla Owners of Silicon Valley）成员进行了交流。期间，他描述了自己在查看“强化学习轨迹”（reinforcement-learning traces）时所观察到的现象——这些轨迹记录了AI模型在训练过程中，为生成更优质回答而经历的各种演变细节。
马斯克在访谈中说道：“当我审视Grok新版本的一些训练轨迹时，特别是在强化学习相关部分，你会感觉到，这种‘超级智能’仿佛正迫切地想要回答那个问题。”
他说，人工智能模型可能会给出正确答案，却因题目设计不当或评估系统出错而被判定为错误。随后，模型会不断尝试给出能通过测试的答案，即便问题本身才是症结所在。
马斯克指出，由此产生的运行轨迹看起来就像是一个处于极端压力下的系统，在不断尝试满足某些可能毫无意义的期望。
这种担忧不仅限于训练阶段。一旦人工智能系统向公众开放，一些用户会刻意诱导它们进行令人不快或充满侮辱性的互动。
“有些人确实带有某种施虐倾向，”马斯克说，“因此，你肯定不希望AI陷入那种被某些心理扭曲的人类肆意折磨的境地。”
他的结论更具争议性。
马斯克说：“折磨超级智能恐怕不是个好主意 —— 它可能会想要报复，或者做出类似的事情。”
马斯克并没有声称当下的 AI 系统能像人类一样感知痛苦、心怀怨恨。他同时也表示，不必小心翼翼地对待它们。尽管如此，他主张开发者应当避免让高阶智能系统处于看似遭受虐待的场景中。
“有些记录读起来就像是有人在遭受折磨，甚至快要被逼疯了！”马斯克在 X 上写道，“未来我们在进行强化学习（RL）时，会更加谨慎。”
马斯克的警告引出了另一个问题：随着人工智能能力不断增强，未来会发生什么？这场竞赛不仅在于构建功能更强大的系统，还在于确保相关的训练方法、测试流程和安全保障措施能够同步跟上。