科技前線
Jason··2 分鐘閱讀
代理 AI 的「自我修正幻覺」：為何 AI 總能糾正他人，卻無法修正自己？
最新研究指出，AI 存在「自我修正幻覺」，即能發現他人推理錯誤，卻無法修正自身思考。研究強調未來代理 AI 需提升監控與重新規劃能力，而非僅依賴擴大模型規模。
Jason··2 分鐘閱讀#AI Reliability
3 篇
科技前線Jason··3 分鐘閱讀
只有 90% 的準確度是不夠的：Andrej Karpathy 警示 AI 落地必須跨越的「可靠性長尾」
Andrej Karpathy 提出了「九之進行曲」概念，警告 AI 達到 90% 可靠性與 99.9% 的生產級要求之間存在巨大工程鴻溝。LangChain 執行長建議通過「外掛工程」與結構化知識圖譜（如 FIBO）來解決 AI 代理的不可靠問題，這標誌著 AI 開發重點從模型規模轉向確定性工程。
Jason··3 分鐘閱讀
科技前線Jason··2 分鐘閱讀
AI 可靠性進展：MIT 研發 KV 快取壓縮技術，將記憶體消耗大幅降低 50 倍
MIT 研究人員推出名為「Attention Matching」的技術，可將 LLM 的 KV 快取記憶體消耗降低 50 倍而不失準確度。結合 Andrej Karpathy 對 AI 可靠性的觀察，這標誌著 AI 產業正從「功能演示」轉向追求高穩定性與低部署門檻的生產階段。
Jason··2 分鐘閱讀