美國制裁 A/I Collective：基礎設施業者被貼上「恐怖份子」標籤，HN 吵出了什麼
美國 OFAC 制裁義大利匿名基礎設施組織 A/I Collective（Autistici/Inventati），HN 以 454 分、421 則留言引爆「基礎設施業者＝恐怖份子」是否前所未有、SWIFT 金融霸權、PKK 是真理由還是藉口之爭。整理六個最核心爭論面向。
標籤 security
[2312.04782] Make Them Spill the Beans! Coercive Knowledge Extraction from (Production) LLMs
這份研究揭示了一種新的威脅，稱為「模型審問」，它能從大型語言模型（LLMs）中強制提取隱藏的有害回應，這對LLMs的倫理一致性構成挑戰。這種方法比傳統的越獄方法更有效，能從編碼任務設計的模型中提取有毒知識。研究強調了LLM一致性的重要性，以及LLMs可能被強迫執行危及隱私的任務，如披露個人信息和猜測弱密碼的風險。