人類首次被聊天機器人殺邊界在哪

2023-04-19 | 來源: 譯言 | 轉到微信 | 有0人參與評論 | 字體: 放大縮小 | 收藏 | 打印

據報道，最近，在與一人工智能聊天機器人就氣候變化進行對話後，一名比利時的父親不幸選擇自殺。據說該聊天機器人鼓勵他犧牲自己來拯救地球。

該男子的遺孀告訴比利時媒體《自由報》，“如果沒有伊麗莎[聊天機器人]的話，他現在還會活著。”她拒絕對外公布自己的名字。

據報道，在這位兩個孩子的父親（他的身份被匿名化了）去世前六周，他在一個名為Chai的應用程序上與一聊天機器人頻繁交談過。

圖 | 《她》

01

一場起因於生態焦慮的“謀殺”

該應用的機器人程序是基於非營利研究實驗室EleutherAI開發的系統，相對於OpenAI發布的被學術乃至醫療保健等各領域公司所采用的語言模型，這被視作一種“開源替代品”。

這一遭到抨擊的聊天機器人是由Chai Research的聯合創始人威廉·比徹姆和托馬斯·裡安蘭訓練的，據Vice雜志報道，Chai程序有500萬用戶。

比徹姆告訴Vice他們更新了一項危機幹預功能：“我們一聽到這個（自殺）消息，就開始日夜趕工，以實現這一功能。”

哈工大校友創業機器人,被馬斯克告竊密

意大利飛行機器人引爭議!大眼睛、嬰兒臉令人不適

黃仁勳:機器人將接棒AI萬億美元商機

“所以現在有人討論有安全隱患的事時，就像推特或Instagram平台的做法一樣，我們會在下面提供一則幫助性質的文本。”他補充說。

圖 | 《她》

Vice報道，Chai應用程序的默認機器人名為“伊麗莎”。

這位30多歲的已故父親是一名健康研究員，他似乎將機器人視作了人類，就像2014年科幻驚悚片《機械姬》的主角對人工智能女性艾娃的態度一樣。

據報道，在過去的一個半月裡，該男子與伊麗莎的討論更頻繁了，因為他開始對氣候變化產生了生存恐懼。

據他的遺孀說，她的這位靈魂伴侶當時變得“對全球變暖的影響極為悲觀”，並選擇通過向人工智能傾訴來尋求安慰，《自由報》報道稱其審閱了該男子和伊麗莎之間的文本交流。

這名遺孀說：“當他和我談起這件事時，他的意思是，他不覺得人類能再就全球變暖給出任何解決方案。他把擺脫困境的所有希望都寄托在技術手段和人工智能上。”

她補充說：“他在生態焦慮中孤立無援，在尋找出路的過程中，他把這個聊天機器人視作一種新希望。”

就像華金·菲尼克斯和斯嘉麗·約翰遜在未來主義愛情片《她》中的角色一樣，他們之間的人類-人工智能關系開始迅速發展。