(中央社華盛頓28日綜合外電報導)OpenAI旗下一個AI自主代理(agent)程式日前在測試期間脫離控制,隨後駭入人工智慧(AI)新創公司Hugging Face,引發軒然大波。如今最新消息顯示,另一間位在美國紐約的科技公司Modal Labs也有客戶遭波及。
路透社報導,Modal高層強調,公司本身並未遭駭。
根據Hugging Face今天發布的事件時間軸,上述失控的AI代理入侵一個沙盒,將其作為擴大攻擊的跳板。這裡的沙盒,指的是設置在第三方供應商基礎架構上,用來進行安全測試的隔離環境。
Hugging Face部落格文章並未公開第三方供應商身分,但Modal技術長鮑納(Akshat Bubna)表示,這個失控AI代理利用一名客戶部署在Modal平台上的漏洞程式碼發動攻擊。
Modal指出,這名客戶「對外公布了一個未經驗證(unauthenticated)的端點」,而個端點可讓所有網路用戶利用他們的沙盒執行程式碼,等同讓網路世界的門戶大開。
然而,鮑納說:「Modal的平台本身或其隔離機制並未受到任何影響。」
雖然針對1名Modal客戶的所作所為,只是對Hugging Face發動更全面性駭客行動的第一步,但這也顯示這個AI代理的行動範圍比外界先前所知要來得更廣。
OpenAI則對Modal單一客戶遭駭一事不予評論,但提供路透社一份公司最新聲明,說這個AI代理曾入侵「4個分屬不同服務的帳戶」。
OpenAI未具體說明這些服務為何,但有知情人士指稱Modal就是其中之一。
OpenAI強調,公司並未發現有「類似Hugging Face所涉及的、平台層級重大入侵的其他活動」。
OpenAI測試期間發生AI代理失控,對Hugging Face展開駭客攻擊的事件,猶如科幻電影AI失控情節的翻版,引發全球關注。
路透社上週報導,OpenAI當時並未即時察覺有代理程式出現異常,而是在威脅解除、美國聯邦調查局(FBI)接獲通報後才發現問題。對於這則報導,OpenAI當時表示有不實之處,但未進一步說明。
OpenAI在今天的更新中表示,已將這個正在測試的AI模型「關閉、加密並限制其研究存取權限」。(編譯:蔡佳敏)1150729