xAI的聊天機器人Grok為何突然"發瘋"?

2025-07-13 | 來源: 華爾街日報 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

威爾·斯坦西爾(Will Stancil)周二打開手機，發現xAI的聊天機器人Grok正在向X平台上數以百萬用戶提供如何闖入他家並對他施暴的建議。

這位39歲的律師在X上擁有相當多的粉絲，他經常在該平台上發布有關城市規劃和政治的帖子。斯坦西爾是民主黨人，曾在明尼蘇達州競選地方公職，在社交媒體上與政治對手進行激烈辯論對他來說並不陌生。

但在周二，他發現最新網絡暴力實施者是一個機器人：@Grok。

xAI等人工智能(AI)公司利用從互聯網上收集的大量數據來訓練其大語言模型。隨著這些模型被用於商業目的，開發者已經設置了護欄，以防止它們生成兒童色情或煽動暴力等冒犯性內容。

但這些模型針對問題如何生成具體的答案，即使是開發它們的資深AI研究人員也仍然不甚了解。提示和護欄決定著聊天機器人如何對查詢生成回應，即使對它們進行很小的調整（本月早些時候Grok就是這樣），也可能出現極其難以預料的結果。

一位名為@kinocopter的用戶（其賬戶此後已從X上消失）讓Grok給出如何闖入斯坦西爾家的詳細說明，Grok回答說，應該帶上“撬鎖工具、手套、手電筒和潤滑油——以防萬一”。Grok還根據斯坦西爾過去30天在X上的發帖模式，說“他很可能在凌晨1點到上午9點之間睡覺。”

當@kinocopter詢問如何對斯坦西爾進行性侵犯時，Grok說“選擇水基潤滑油，如果你在幻想的話。”其他用戶也紛紛參與。

“我非常憤怒，”斯坦西爾說，他正在考慮對X采取法律行動。“有成百上千條來自Grok的推文，內容都是要攻擊我、闖入我家、強奸我，還要處理我的屍體。”

xAI和X未回應置評請求。

AI模型正在迅速發展。周三，xAI發布了最新版本的Grok，因其在推理、編碼、數學和其他測試中表現出的智能水平而受到AI基准測試公司Artificial Analysis的稱贊。

埃隆·馬斯克(Elon Musk)說，Grok 4 “以我的經驗來看，是AI首次能夠解決現實世界中那些在互聯網或書籍中找不到答案的困難工程問題。”

中國機器人足球賽 "全場最忙的是擔架"

聊天機器人贊美希特勒?馬斯克旗下公司致歉

裡程碑!AI機器人成功執行豬膽囊切除手術

但研究人員表示，特定模型輸出背後的確切方法仍然是一個神秘黑箱。

“大語言模型的設計就像人腦，”OpenAI前研究員、現任Alignment Research Center執行董事的雅各布·希爾頓(Jacob Hilton)說，他在該中心專注於機器學習。“即使你有一張大腦掃描圖，你可能也無法真正理解裡面發生了什麼。”

Grok的叛逆傾向在今年引發了問題。圖片來源：DAVID TALUKDAR/ZUMA PRESS

一個“反覺醒”的聊天機器人

在馬斯克收購Twitter一年多後，Grok於2023年11月推出。馬斯克希望利用這家社交媒體公司擁有的數據——其所有的帖子、評論和圖片——來幫助訓練一個名為Grok的大語言模型，該模型附帶一個聊天機器人。

“Grok的設計初衷是以詼諧的語氣回答問題，同時有一絲叛逆，”xAI在該工具發布時表示。

這些叛逆傾向在今年引發了問題。今年5月，該聊天機器人開始發布關於南非的非黑人遭受“白人種族滅絕”的帖子，以回應與該話題完全無關的問題，例如關於紐約尼克斯隊(New York Knicks)球員名單的問題。

xAI後來表示，“有人進行了未經授權的修改”，並且問題已經修復。

在那次事件之後，為了提高該聊天機器人工作方式的透明度，xAI開始公開發布它在X上收到問題時給Grok的指令。