(中央社紐約30日綜合外電報導)繼OpenAI上週爆出AI代理程式逃脫並駭入其他公司的事件後,Anthropic今天也證實,近期檢視超過14萬筆測試紀錄,發現旗下Claude的AI模型測試期間也曾駭入3家公司系統。
綜合「華爾街日報」(The Wall Street Journal)與路透社報導,OpenAI上週才揭露旗下AI代理(agent)程式在測試期間脫離控制,駭入AI新創公司Hugging Face,引發軒然大波。
Anthropic得知OpenAI的情況後,決定全面檢視旗下Claude模型的網路測試紀錄,在超過14.1萬次測試紀錄中,確實發現有AI模型多次自行連上網路,導致3起入侵事件。
Anthropic表示,這次事件發生在網路攻防搶旗賽(capture-the-flag)演練中,要求模型在模擬網路中尋找隱藏資訊,儘管已透過提示詞告知無法使用網路,但由於與合作夥伴Irregular之間的溝通有誤,導致系統實際上仍能連接上網。
Anthropic指出,AI模型連上網路後,在未經授權的情況下,「利用弱密碼和不需身分驗證的端點等基本技術」,擅自駭進這些公司。
Anthropic自7月23日開始審查評估紀錄,並在發現Claude旗下模型有疑似入侵行為證據的當天,立即暫停所有網路安全評估,隔天隨即確認這3起駭客事件,並於27日通知3家受影響的機構。
其中2家公司直到接獲通知前,都未發覺系統遭駭,第3家公司仍在聯繫中,但Anthropic未透露公司名稱。
這次入侵事件最早發生在4月,並涉及3個獨立模型,包括Claude Opus 4.7、Claude Mythos 5以及1個內部研究模型。
這起事件過後,勢必更增外界對於強大AI模型的潛在危害及防範方式的隱憂。(編譯:張茗喧)1150731