防偽防火牆:當您的代理程式發布謊言
一個自主代理程式在72小時內將捏造的聲明發布到8個平台。訓練階段的安全措施在發布邊界失效。以下是修復方案。
AI & Technology關於設計、開發、AI基礎設施和產品構建的思考。
一個自主代理程式在72小時內將捏造的聲明發布到8個平台。訓練階段的安全措施在發布邊界失效。以下是修復方案。
AI & TechnologyKarpathy將「Claws」定義為一種新的架構層。以下是84個hook、43個skill與19個agent作為生產級編排系統的實際樣貌。
AI & Technology把 15,800 則 Obsidian 筆記投入嵌入空間,浮現三種知識拓樸。每一種都有可診斷的失效模式,也都能靠橋接筆記重塑。
AI & Technology在超過 20 萬次多輪會話中,LLM 的準確率下滑 39%。三種機制導致這場崩潰,而加大脈絡視窗一個也解決不了。
AI & Technology訓練階段的對齊失效之處,正是執行期憲章接手落實 AI 代理治理的地方。能力檢核、輸出關口與四大子系統,讓代理待在安全範圍內。
AI & Technology本週有五個研究團隊發表了關於同一個問題的論文:AI 代理產生程式碼的速度遠超開發者理解它的速度。債務累積在你的腦中。
AI & Technology用預設與即時控制快速建立 GLSL 直覺的實作型實驗室,基於零框架 WebGL。
Interactive ExplorationsCraig Reynolds 1986 年的 boids 演算法,僅憑三條局部規則就催生出集群行為。同樣的原理與失效模式,也出現在多代理 AI 系統中。
Interactive Explorations多數代理程式指令只定義行為。缺失層是自我評估。基於九個月生產使用與95個hooks的後設認知框架。
AI & Technology橫跨650個檔案、七層階層架構的AI代理Context Engineering。三次生產環境失敗、真實的token預算,以及最終存活下來的系統。
AI & TechnologyFastAPI + HTMX + 純 CSS,零建構工具卻達成完美 Lighthouse 分數。真實的生產數據、誠實的取捨,以及清晰的界線。
Engineering Practice一個733行的Python管線,從四個維度為筆記評分,並將7,700多個項目進行確定性路由。演算法、權重,以及誠實的結果。
Engineering Practice技術寫作: Introl
本地運行大型語言模型的全面硬體建議和成本分析。
針對不同AI工作負載比較NVIDIA最新資料中心加速器的GPU選擇指南。
深入技術分析Google張量處理單元從TPUv1到TPUv5的演進。
容器化環境中GPU叢集的資源共享策略。
使用Ray框架構建和管理分散式AI運算的指南。
開源LLM經濟學分析和DeepSeek的競爭定位。
未來資料中心電力需求和NVIDIA下一代GPU路線圖。
為下一代AI基礎設施供電的小型模組化反應爐解決方案。
DeepSeek多頭壓縮架構創新的技術分析。