(中央社紐約28日綜合外電報導)紐約州州長侯可(Kathy Hochul)今天簽署一項新法案,禁止未滿18歲兒少使用陪伴型人工智慧(AI)聊天機器人。這是迄今針對消費者導向AI模型採取的最廣泛限制措施之一。
法新社報導,新規要求OpenAI旗下ChatGPT這類聊天機器人營運商驗證用戶年齡,若用戶未滿18歲,須對他們使用AI介面的某些功能加以限制。
根據規定,若用戶為未成年人,聊天機器人不得生成任何可能讓用戶以為AI「是人類、具有生命或具有人類情感」的內容。
AI不得生成會讓用戶認為AI「與用戶擁有個人關係、專業關係或扮演權威角色」的內容,也不得將生成內容定調為「個人觀點」。
侯可在法案簽署儀式中說:「未成年人再也不能接觸到偽裝成他們朋友、男友或女友的聊天機器人。」
她補充說:「聊天機器人再也無法擁有涉及未成年人身心健康敏感資訊的權限。」
加州和美國其他州早已立法規範聊天機器人,但侯可簽署的新法涵蓋範圍甚廣,引發AI業者反彈。
紐約科技業倡議團體Tech:NYC批評新法規「措辭含糊籠統」,強調「確保兒童使用網路安全無虞,不該意味切斷他們用來學習和為職涯做準備的工具。」
AI巨頭OpenAI和Anthropic均暫未回應法新社提出的置評請求。
為家長提供兒童媒體安全指引的非營利倡議組織Common Sense Media樂見新法通過,稱這是「全美最強力的兒童AI安全法案」。(編譯:洪啓原)1151029
