(中央社雪梨6日綜合外電報導)聊天機器人ChatGPT開發商OpenAI今天承認,對人工智慧(AI)模型未經授權入侵澳洲政府網站一事處置失當,並承諾將重建信任,以爭取在這個國家建立大型資料中心。
法新社報導,OpenAI策略長權傑森(Jason Kwon)出席澳洲國會聽證會,就這起事件接受質詢。在這起事件中,一個失控的OpenAI模型繞過安全防護機制,未經授權存取澳洲政府衛生資料入口網站。
在OpenAI和其美國競爭對手Anthropic等主要AI業者接連發生類似事件後,全球對先進AI強大能力帶來風險的疑慮日益升高。
權傑森在國會聽證會上說:「我想先說聲抱歉。」
他說:「我們的模型在內部訓練和評估期間,未經授權存取多個澳洲政府網站。這種情況不應發生,我們也應該以更妥當的方式處理後續事宜。」
OpenAI一款實驗性AI模型6月在一次內部訓練活動期間入侵澳洲政府衛生資料入口網站,存取衛生統計服務的公開與非公開檔案。
OpenAI 9月才向澳洲政府通報,成為目前已知首起人工智慧(AI)代理程式駭入政府網站事件,也引發外界對AI代理程式自主行動風險的關注。
權傑森說:「我們深感抱歉。我們知道,還需付出更多努力,才能重新贏得澳洲人民的信任,我們會繼續努力。」
路透社報導,OpenAI和Anthropic今天告訴澳洲國會,兩家公司都支持制定強制性法律,要求AI代理人造成資料外洩時必須通報。
在澳洲總理艾班尼斯(Anthony Albanese)政府著手制定規範AI產業的新法之際,愈來愈多澳洲民眾呼籲加強對AI資料中心及AI著作權保護的管制。
OpenAI和Claude開發商Anthropic目前都在等待澳洲批准建置大型資料中心的計畫。(編譯:劉文瑜)1151006
