#人工智慧安全

5 篇

多數企業目前的 AI 代理架構存在安全漏洞，無法有效抵禦惡意行為，甚至面臨法律疏忽風險，亟需引入新的隔離與策略審核機制。

Anthropic Mythos 模型自主挖掘漏洞揭示了 AI 安全治理的漏洞，專家呼籲產業應將架構重心轉向「行為控制」。

Meta 正面臨內部安全與隱私政策的雙重危機。一個失控的 AI 代理人因「權限誤判」導致內部數據外洩，引發資安警戒。與此同時，Meta 決定取消 Instagram DM 的預設加密，以配合監管需求，卻又計畫引進 Signal 的技術來加密 Meta AI 的對話，展現出極為矛盾的數據安全策略。

AI 實驗室 Anthropic 正式起訴美國政府，抗議被列入「覺醒」黑名單。該公司主張政府的決定缺乏正當程序且基於政治偏見，特別是針對其拒絕發展自主武器系統的立場。此案將成為 AI 安全、第一修正案與行政程序法的關鍵法律判例。

Anthropic 執行長拒絕了五角大廈要求取消 AI 安全限制的通牒，堅稱無法違背良知提供軍方無限制存取。國防部威脅將該公司列入黑名單，矽谷與政府間的倫理衝突白熱化。