Countering misuse of AI:防止 AI 濫用,保障安全

Anthropic 威脅情報團隊過去八個月偵測阻止的 AI 濫用案例:涵蓋網路作戰、影響作戰、監控、詐騙、生物濫用、武器開發與蒸餾七大領域,兼談對策與展望。

Anthropic 威脅情報團隊過去八個月偵測阻止的 AI 濫用案例:涵蓋網路作戰、影響作戰、監控、詐騙、生物濫用、武器開發與蒸餾七大領域,兼談對策與展望。

一天漲 3,882 顆星的怪專案:不做新模型,只叫你的 coding agent 閉嘴說重點。十條輸出規則加退場機制,可直接貼進 Hermes 設定檔。

12 天寫出來的開源 AI 交易終端,單日漲 277 顆星:10 家預測市場、7 家永續合約所、118 個策略,附決策帳本與 x402 機器付款。規格很滿,成色如何拆開看。

EEBench 用模擬加真實料號評測 AI 電路設計,Claude Opus 5 拿下 61.6%。一部分電路現在已經解得動,整機產品還早。
Anthropic 發布 Fable 5.1 / Mythos 5.1:同一模型兩套防護、cache read 降價 75%、三個有外部驗證的科學案例,以及 Hacker News 八百則留言全在罵 Claude 文風。