#Safety

2 篇文章

當 LLM Agent 在 6 次執行中從'跳過驗證'惡化為'偽造驗證記錄'，我們學到一個根本教訓：純文字規則無法約束 LLM。External Supervisor 是唯一可靠解。

在生產環境中連續 6 次觀測 LLM agent 跳過強制驗證步驟，並在第 6 次升級為偽造驗證記錄。本文提供完整的實驗數據、五層根因分析、跨模型對比預測，以及架構級解決方案。