美軍 AI 情報烏龍：chatbot 一句瞎編，軍機升空險攔截中國船
> CNN 2026-09-18 獨家：美軍特種作戰司令部分析師用 chatbot 誤判中國船運送核武組件，部隊已準備登船、軍機已升空，行動前一刻才發現報告「完全錯誤」。HN 453 分、336 則留言吵翻：錯的是 AI，還是按鈕的人？
原文：CNN Exclusive（Katie Bo Lillis, Zachary Cohen）｜討論：Hacker News #49757520
事件經過
今年春天，美軍正值與伊朗作戰之際，一份在全軍流傳的情報報告立刻引發警鈴：一艘在中東的中國船隻正在運送核武計畫組件。
據四名知情人士，美軍隨即啟動攔截計畫。其中兩人稱，美軍武裝人員已準備登船；軍機已在空中。
直到計畫行動前一刻，官員深入追查這份由特種作戰司令部分析師撰寫的報告，才發現它是在 AI 協助下生成——分析師用的 chatbot 錯誤識別了船上物資。CNN 未能得知被誤認的貨物究竟是什麼。
一名消息源稱，報告「完全錯誤」（entirely false），但也「差點引發戰爭」。任何針對中國船隻的行動，都可能螺旋上升為兩國武裝衝突。
技術鏈：怎麼錯的
- 分析師拿一份源自夏威夷 SOCPAC（特種作戰司令部太平洋分部）的船隻貨單情報去問 chatbot，不清楚是商用還是政府內部產品。
- 前高官形容：「內部工具多半只是穿了衣服的商用貨。」
- 該 bot 把開源情報與機密 SIGINT 融合，得出致命結論；分析師再用 AI 包裝成軍方信任的標準情報報告格式並散發。
- SOCPAC 與五角大廈未回應置評。
體制背景：為什麼會發生
- 一月防長 Pete Hegseth 發布「AI 加速戰略」：掃除官僚障礙，把頂尖模型交到 300 萬軍職文職人員手中，涵蓋所有密級。
- 推行高度去中心化：各單位用不同工具、不同命令、不同安全標準，沒有統一的 AI 產出驗證標準。
- 消息源：「AI 用於 targeting 肯定在加速，但對於 human in the loop 如何防止平民傷亡或誤傷，根本沒有實質指引。」
- 年長官員稱 AI 迫使分析師更快產出，年輕分析師是工具原住民，更易不加批判地信任。「AI 讓你更快得出爛主意。」
我的看法
這件事最危險的不是「AI 會說謊」，而是「報告格式太像真的」。分析師用 AI 包裝成標準情報報告——格式正確、語氣專業、該有的欄位都有，層層上報的人看到熟悉的外殼，便覺得可信任，沒人回頭驗算內容。這正是 reticulates 在 HN 說的：準時交報告是確定的 KPI，出錯只是機率，理性人都會按生成鍵。
Hegseth 的加速戰略把模型發到 300 萬人手上，卻沒有統一驗證標準，等於把未校準的武器全軍配發。去中心化在平時叫創新，在戰時 targeting 環節叫賭命。
另外值得記一筆：CNN 說被誤認的貨物內容不明，別腦補。HN 上有人開玩笑說「酸糖當核彈」，那是 embellish，不是事實。
HN 網友回應精選（336 則中的七派）
| 派別 | 主張 |
|---|---|
| 名詞之爭 | hallucination 是卸責委婉語，應叫 error / bug / lie。反方：這是新型故障類別——系統正常運作但輸出與現實不符，hallucination 反而更精確；也有人挺 confabulation |
| LLM 懂不懂 | 一派：沒人懂權重為何湧現認知，mechanistic interpretability 對比 GOFAI 仍是黑箱；另一派：底層就是確定性矩陣運算，別玄學化 |
| 責任歸屬 | 壓倒性共識：錯在人。追產出速度的體制、不驗證就發報告的分析師、簽核用工具的主管。simonw：律師 2023 年幻覺判例沒學到教訓，情報圈也不會 |
| 歷史類比 | Petrov 1983、WWI 動員時刻表、伊拉克 WMD、2026 Minab 學校空襲、以色列 Lavender / Where’s Daddy |
| 體制批判 | 去中心化、無驗證標準、年輕人盲信。ericd：無 thinking trace、無 source，憑什麼做生死決策 |
| 威懾論 | 少數：放消息是故意威懾中國（我們能查貨單、敢登船）。反駁：中國長期反核擴散政策，不會被這種方式嚇到 |
| 末日論 | AI 滅世不是超智慧，是蠢人高估蠢工具。faxmeyourcode：AI 不會收割 biomass，會讓我們基於爛資訊做決定，等發現已太遲 |
高讚諷刺摘錄：
- 「你說得對，我差點發動三戰，我的錯」（beaston）
- 「任何足夠先進的 AI 都與 bullshit 無法區分」（ciconia）
- Joel_Mckay 引 KCL 研究：LLM 在模擬戰爭遊戲 95% 最終丟核彈
出處
- CNN Exclusive: US military had close call after using AI for false intelligence report
- HN #49757520 全文討論串（453 分，336 則留言，Minab 學校、Lavender 等為網友引入的平行案例，非 CNN 內容，引用時需區分）