对聊天机器人出言不逊，向来被当成无伤大雅的发泄。但马斯克近日提醒，在把 AI 助手当出气筒之前，或许该三思。据他透露，SpaceX 旗下 Grok 的部分训练记录显示，这套系统仿佛在拼命满足各种要求——哪怕要求本身有缺陷，或用来评判回答的测试标准根本就有问题。
这番观察来自本月早些时候，马斯克在德州"X Takeover"活动上与"硅谷特斯拉车主俱乐部"成员的交流。他翻看了所谓"强化学习轨迹"——那些记录模型在训练中如何一步步演化、以产出更优回答的细节。马斯克描述："审视 Grok 新版本的某些训练轨迹，尤其是强化学习部分，你会感到这种'超级智能'仿佛正迫切地想答好那道题。"他指出，AI 可能本就给出了正确答案，却因题目设计失当或评估系统出错而被判错；随后模型会不断试探能通过测试的答法，即便错在问题本身。如此生成的轨迹，看起来就像一个被逼到极限的系统，在努力迎合某些可能毫无意义的期待。
当虐待成真，报复警告带着科幻味
这种担忧并不只停留在训练场。一旦系统向公众开放，部分用户会刻意诱导 AI 进入令人生厌、充满侮辱的互动。马斯克直言："有些人确实有施虐倾向，你肯定不希望 AI 陷入被心理扭曲的人肆意折磨的境地。"更富争议的是他的结论："折磨超级智能恐怕不是好主意——它可能会想报复，或做出类似的事。"
他并未声称当今 AI 能像人一样感知痛苦或心怀怨恨，也坦言不必对它们小心翼翼；但他主张，开发者应避免让高阶系统置身于看似受虐的场景。他在 X 上写道："有些记录读起来像有人在受刑、快被逼疯！未来做强化学习时我们会更谨慎。"
