【綜合報導】美國佛羅裡達州近日一起案件引發外界對AI聊天隱私與安全機制的關注。一名25歲的前高盛金融分析師達倫. 週（Darren Zhou），因在ChatGPT對話中多次威脅殺害前女友，並記錄涉及綁架、性侵和謀殺的計劃，被OpenAI安全團隊發現後通報美國聯邦調查局（FBI），隨後遭警方逮捕。 根據《棕櫚灘郵報》（Palm Beach Post）引述法院記錄報道，週今年3月開始在ChatGPT中談論與前女友
【綜合報導】美國佛羅裡達州近日一起案件引發外界對AI聊天隱私與安全機制的關注。一名25歲的前高盛金融分析師達倫. 週（Darren Zhou），因在ChatGPT對話中多次威脅殺害前女友，並記錄涉及綁架、性侵和謀殺的計劃，被OpenAI安全團隊發現後通報美國聯邦調查局（FBI），隨後遭警方逮捕。
根據《棕櫚灘郵報》（Palm Beach Post）引述法院記錄報道，週今年3月開始在ChatGPT中談論與前女友分手後的情況，但相關內容很快就從情緒表達轉向現實中的暴力威脅。他也向聊天機器人描述前女友的生活規律、活動地點以及兩人關係等情況。
報告指出，OpenAI發現相關對話後啟動內部安全審查，並認為內容已達到可能對他人造成嚴重人身傷害的風險等級，於5月向FBI報告。聯邦調查人員隨後將相關聊天記錄交給棕櫚灘縣警方調查。
警方審查了周連續兩個月的聊天記錄。一名警員表示，這些內容並非單純的情緒宣洩，而是呈現持續性的威脅、預演和計畫。警方隨後對週的前女友進行安全確認，並取得週發送給她的威脅訊息作為證據。
週於5月被捕，繳交10萬美元保釋金後獲釋。高盛隨後證實，在6月獲悉相關情況後，公司已終止與週的僱傭關係。檢方最初以加重跟蹤、書面死亡威脅以及非法使用手機等罪名起訴，相關指控最高可能面臨25年刑期。
8月13日，週在認罪協商下承認全部3項指控。法院最終暫緩定罪，判處8年緩刑，其中前2年接受電子監控，並要求接受心理健康評估和治療、參加相關幹預課程，同時禁止與前女友接觸以及持有槍支、使用毒品和酒精。
週的律師表示，週此前沒有犯罪記錄，並稱其當時經歷嚴重的心理健康問題。律師還表示，儘管週在聊天中聲稱擁有槍械，但實際上並沒有槍枝。
這次案件受到關注的另一個原因，是OpenAI主動向執法部門報告，而非警方事後透過司法程序調取聊天記錄。
OpenAI先前表示，當系統發現可能導致嚴重人身傷害的威脅時，相關對話可能進入人工安全審查；如果審查人員判斷對他人造成嚴重傷害的迫切風險，公司可能會向執法部門報告。
案件也再次引發一個現實問題：當AI聊天從普通交流進入現實世界的嚴重暴力威脅時，平台應在多大程度上介入，以及如何在用戶隱私與公共安全之間取得平衡。
隨著ChatGPT等AI工具進入日常生活，這起案件顯示，AI平台不僅需要防止使用者利用科技實施違法行為，也必須建立明確的安全審查和緊急介入機制。
