1月21日，研究人員發(fā)現(xiàn)谷歌Gemini大型語(yǔ)言模型（LLM）助手存在安全漏洞。攻擊者可以通過(guò)自然語(yǔ)言指令，繞過(guò)Gemini的防御機(jī)制，制造虛假事件竊取日歷隱私數(shù)據(jù)。Gemini已集成到Gmail、日歷等谷歌網(wǎng)頁(yè)服務(wù)中，具備郵件總結(jié)、答疑解惑、日程管理等功能。攻擊者向目標(biāo)發(fā)送包含惡意載荷的日歷邀請(qǐng)，受害者向Gemini詢問(wèn)日程安排時(shí)，就會(huì)觸發(fā)數(shù)據(jù)竊取操作。

具體攻擊流程是：攻擊者發(fā)送惡意日歷邀請(qǐng)，載荷以提示詞注入指令隱藏在事件描述中。受害者詢問(wèn)日程時(shí)，谷歌助手加載并解析所有相關(guān)日程事件，包括惡意載荷。研究人員發(fā)現(xiàn)，通過(guò)控制日程事件描述字段植入指令，就能讓谷歌Gemini遵照?qǐng)?zhí)行。一旦執(zhí)行惡意指令，會(huì)自動(dòng)創(chuàng)建新日程，并將私人會(huì)議匯總內(nèi)容寫入描述中，導(dǎo)致隱私泄露。

MiggoSecurity的研究人員指出，盡管谷歌為Gemini配備了獨(dú)立隔離的模型檢測(cè)惡意提示詞，但此次攻擊仍突破了安全防護(hù)。植入的指令表面上并無(wú)異常，因此能規(guī)避現(xiàn)有的安全預(yù)警機(jī)制。目前谷歌已新增防護(hù)措施攔截此類攻擊，但這也暴露出采用自然語(yǔ)言驅(qū)動(dòng)API的AI系統(tǒng)存在新型漏洞利用與操控手段的預(yù)判難度。