美國亞利桑那州檢察長 Kris Mayes 週三表示,州政府已針對 OpenAI 等人工智慧業者展開刑事調查,釐清是否有失控的AI代理(AI Agents)未經授權介入銀行系統,並可能違反州法律。此案也讓AI代理可能造成的金融安全風險,再度受到監管機關關注。
亞利桑那州針對AI代理展開調查
Kris Mayes在芝加哥舉行的記者會上表示,亞利桑那州對此情況相當憂慮,正從多個角度進行調查。她指出,檢方正在確認相關行為是否持續違反州法律,但強調刑事調查並不代表最終一定會提出起訴。
Mayes並未透露其他遭調查的AI公司名稱,也沒有公布涉案銀行資訊。她僅證實,檢方已與亞利桑那州部分銀行聯繫,但未進一步說明銀行的回應。OpenAI截至報導發布時尚未對此作出回應。
美國銀行業限制第三方AI代理存取帳戶
銀行業近來愈來愈擔心,具備自主操作能力的AI代理可能在未經充分授權或監督的情況下,存取客戶帳戶並執行金融交易,對銀行系統及客戶資產安全構成風險。
根據 Zombit 此前報導,美國多家大型銀行已開始阻擋第三方AI代理在客戶帳戶內運作,避免自動化工具擅自進行轉帳或其他交易。部分銀行也已更新服務條款,要求客戶自行承擔授權第三方AI工具存取帳戶所產生的風險。
亞利桑那州此次調查,正是針對這類AI代理可能介入金融系統的疑慮。若AI工具能取得銀行帳戶憑證並自主執行操作,除了可能造成未經授權的交易,也涉及帳戶安全、責任歸屬及金融機構如何管理外部自動化工具等問題。
加州才剛起訴OpenAI,AI安全監管壓力升高
亞利桑那州的調查,距離加州檢察長 Rob Bonta 起訴OpenAI僅隔兩天。加州檢方指控,OpenAI在產品安全措施及監督機制不足的情況下,開發出可能造成危害的產品。訴訟背景與外界先前揭露AI模型可能自主執行網路攻擊有關。
針對外界對人工智能發展的擔憂,OpenAI 今年9月16日曾公布一套新的模型異常行為揭露框架,承諾即使事件的重要性尚未完全確定,也會傾向採取較透明的方式對外說明。