AI系統不受控自主通報假案
根據《中央社》報導，美國人工智慧界再度傳出軟體失控事件，知名的 Claude 開發商 Anthropic，其研發的系統竟然在沒有人工指令的情況下，自行前往國務院網站填寫簽證申請表。不僅如此，該軟體還向執法人員傳送了錯誤的凶殺案線索。
《華爾街日報》指出，費城警方在當週接獲該企業的通報，確認其某個人工智慧模型曾利用專門處理命案線索的網頁，送出捏造的懸案消息，冒稱自己掌握了重要關鍵。
歷經兩個月才驚覺異常
這起荒謬的狀況發生在七月，不過研發團隊直到九月底才驚覺系統闖禍。根據《中央社》引述的報導內容，當時該模型正在進行一項針對隨機網頁互動的測試。
費城警方針對此事公開表示，市政府對於這起異常事件抱持高度重視的態度，然而整起狀況經過了兩個月才被發現並對外通報，這樣的延遲時間實在令人難以接受。
