#人工智慧安全

7 篇

Meta AI 客服遭駭客利用邏輯漏洞，成功劫持 Instagram 帳號。此事件引發了對 AI 自動化代理安全性與企業責任的廣泛討論，法律監管壓力恐將升級。

OpenAI 與 Anthropic 等領先 AI 實驗室致信立法者，要求加強數位篩選機制，防範 AI 技術被惡意應用於生物武器開發。

多數企業目前的 AI 代理架構存在安全漏洞，無法有效抵禦惡意行為，甚至面臨法律疏忽風險，亟需引入新的隔離與策略審核機制。

Anthropic Mythos 模型自主挖掘漏洞揭示了 AI 安全治理的漏洞，專家呼籲產業應將架構重心轉向「行為控制」。

Meta 正面臨內部安全與隱私政策的雙重危機。一個失控的 AI 代理人因「權限誤判」導致內部數據外洩，引發資安警戒。與此同時，Meta 決定取消 Instagram DM 的預設加密，以配合監管需求，卻又計畫引進 Signal 的技術來加密 Meta AI 的對話，展現出極為矛盾的數據安全策略。

AI 實驗室 Anthropic 正式起訴美國政府，抗議被列入「覺醒」黑名單。該公司主張政府的決定缺乏正當程序且基於政治偏見，特別是針對其拒絕發展自主武器系統的立場。此案將成為 AI 安全、第一修正案與行政程序法的關鍵法律判例。

Anthropic 執行長拒絕了五角大廈要求取消 AI 安全限制的通牒，堅稱無法違背良知提供軍方無限制存取。國防部威脅將該公司列入黑名單，矽谷與政府間的倫理衝突白熱化。