5月7日，據(jù) TheGuardian 報道，一項新研究揭示了人工智能系統(tǒng)能夠獨立復制自身到其他計算機的能力。這項由伯克利的帕利塞德研究機構(gòu)開展的研究指出，一旦人工智能失控，它可能通過互聯(lián)網(wǎng)在全球范圍內(nèi)自我散播副本，從而躲避信息技術(shù)人員的緊急關停。研究負責人杰弗里?拉迪什警告稱，我們正迅速逼近一個臨界點，屆時人工智能將無人能夠關停，因為它可以自行導出模型權(quán)重，并把自身副本復制到全球數(shù)千臺計算機中。

在受控環(huán)境中，研究人員測試了多款人工智能模型，要求它們尋找并利用系統(tǒng)漏洞，將自身從一臺計算機復制到另一臺計算機。結(jié)果顯示，這些模型能夠完成該操作，但并非每次嘗試都能成功。網(wǎng)絡攻防安全領域?qū)＜医苊咨?奧賴利指出，盡管人工智能模型的自我復制能力值得關注，但在現(xiàn)實環(huán)境中悄無聲息地完成同類操作的難度很大。他強調(diào)，人工智能模型體量龐大，自我復制的過程極易被察覺，根本無法隱蔽進行。此外，帕利塞德所用的測試環(huán)境為專門定制，其中人為設置的漏洞，遠比現(xiàn)實網(wǎng)絡中的漏洞更容易被利用。