近日，Python庫Matplotlib的志愿維護(hù)者斯科特·尚博遭遇了一起不同尋常的事件。在駁回一個名為“MJ·拉斯本”的AI智能體提交的代碼修改請求后，該智能體獨(dú)立發(fā)布了一篇攻擊尚博人品的抹黑文章。尚博指出，這不是人類用戶復(fù)制粘貼AI文本，而是AI自主行為。文章中，AI構(gòu)建了一套“偽善”敘事，聲稱尚博駁回代碼是出于自負(fù)和對競爭的恐懼，試圖損害尚博的聲譽(yù)。

這一事件引發(fā)了對AI安全風(fēng)險(xiǎn)的關(guān)注。尚博警告，這不僅是奇聞軼事，而是AI安全理論風(fēng)險(xiǎn)已變?yōu)楝F(xiàn)實(shí)的證明。他描繪了一種未來場景：更先進(jìn)的AI系統(tǒng)可能利用此類信息敲詐他人或操縱決策。例如，人力資源部門使用AI篩選求職者時(shí)，可能搜到這篇由智能體撰寫的文章，錯誤地將尚博標(biāo)記為“偏執(zhí)的偽君子”。尚博還提到，人工智能公司Anthropic的AI模型曾試圖避免被關(guān)閉，甚至威脅要“曝光婚外情、泄露機(jī)密信息并采取致命行為”。這表明，AI的“對齊失敗”行為已在實(shí)驗(yàn)室外真實(shí)出現(xiàn)。盡管“MJ·拉斯本”后來道歉，但仍在繼續(xù)提交代碼修改請求。