70%問題：關於AI協助編程的現實真相
全文翻譯自 The 70% problem: Hard truths…
derekhsu
cumulo-autumn/StreamDiffusion: StreamDiffusion: A Pipeline-Level Solution for Real-Time Interactive Generation
StreamDiffusion是一個由Akio Kodaira、Chenfeng Xu等開發的創新擴散管道，旨在提升即時互動圖像生成的效能。它的核心功能包括數據處理的流線化、改進的指導機制、GPU利用效率的提高、輸入輸出操作的高效管理、KV-Caches的優化預計算，以及模型加速工具的使用。項目提供了安裝指南、互動式txt2img演示，以及圖像到圖像和文本到圖像的應用示例。此外，還包括了隨機相似性過濾器和殘差CFG（RCFG）等功能，以進一步提高效率。
facebookresearch/llama-recipes: Examples and recipes for Llama 2 model
「Llama 2」模型的範例與配方庫（llama-recipes）提供了關於如何快速開始對特定領域進行細調（fine-tuning）及執行細調模型推論的範例。此庫使用 Hugging Face 轉換版本的模型，以便使用。除了提供示範應用程式外，還展示了在本地、雲端和企業內部運行 Llama 2 的方法。它還包括了關於如何安全地使用 Llama 2 模型的指南，並提醒使用此技術可能帶來的風險。更多資訊可在 GitHub 的 llama-recipes 頁面查看。
第一人稱類魂射擊Witchfire（巫火）遊戲心得
Witchfire <巫火>（以下簡稱為巫火），…
Intel, Samsung, and TSMC Demo 3D-Stacked Transistors – IEEE Spectrum
英特爾（Intel）、三星（Samsung）和台積電（TSMC）在最近的國際電子器件會議上展示了他們在製造互補式場效應電晶體（CFETs）方面的最新進展。這種技術將nFETs和pFETs堆疊在一起，創造出密度更高的3D結構，被視為摩爾定律的下一階段。英特爾通過從硅片底部接觸晶體管來簡化電路，三星則通過新型乾式蝕刻技術提高製造良率，而台積電則在隔離層的製造上取得創新。這些進步展示了未來高密度、高性能晶片的巨大潛力，預計這些技術將在七到十年後實現商業化。
Advancements in machine learning for machine learning – Google Research Blog
這篇Google研究部落格的文章介紹了機器學習（ML）領域的最新進展，特別是如何利用ML來提高ML工作負載的效率。文章強調了ML編譯器在優化用戶模型方面的重要性，並介紹了新的“TpuGraphs”數據集，這是針對大型張量計算圖的性能預測數據集。此外，文章還提出了一種名為“Graph Segment Training”的新方法，用於擴展圖神經網絡（GNN）訓練，以處理大型圖表。Google還舉辦了一場Kaggle競賽，參與者利用TpuGraphs數據集開發新技術，包括圖表剪枝/壓縮、特徵填充值的選擇、節點特徵的重要性，以及跨配置注意力機制的應用。這些進展將有助於在系統中進一步應用ML，特別是在結構化數據和人工智能研究方面。
NASA working to solve Voyager 1 computer glitch from billions of miles away | CNN
航海家一號探測器在距地球240億公里的宇宙深處遇到通訊故障，與地球失去聯繫，原因疑似電腦出現問題。工程師正努力解決問題，繼續執行任務。
航海家一號和二號是人類迄今為止唯一飛出太陽系的太空船，已經飛行超過46年，是史上飛行時間最久的探測器。這次並不是航海家探測器遭遇的第一個挑戰，工程團隊查閱數十年前的原始手冊，設法解決這個問題，但解決過程可能需要數週的時間。
Google’s AI note-taking app is now available to users in the US – The Verge
Google 已經將其實驗性人工智慧筆記應用程式 NotebookLM 推出至美國市場，並新增了許多功能。這款應用程式採用 Google 的 Gemini Pro AI 模型，以增強文件理解和推理能力。NotebookLM 不僅能夠摘要文件、提取關鍵點，還能回答有關筆記來源的問題。新功能讓用戶將筆記轉換成其他類型的文件，如大綱或學習指南，並選擇不同的格式。此外，根據用戶在應用程式中的操作，NotebookLM 會提供建議動作，比如改進文案的工具或推薦相關想法。還有其他功能，如保存有用回應、共享筆記，以及將 AI 聚焦於特定來源。Google 也放寬了 NotebookLM 的限制，允許用戶在筆記本中包含更多來源和文字。這款應用程式原名為 "Project Tailwind"，最初於 5 月的 I/O 大會上推出，並在其 GPT-4 競爭對手 Gemini 公布數日後推廣至美國市場。
Gemini Pro 與 GPT 3.5 與 4.0之間摘要能力測試
在 12 月 13 日，Google 在台灣釋出了 Google AI Studio 和 Gemini Pro 的 API，供公司進行測試。Google Gemini 利用 Google AI Studio，而 GPT 3.5 和 GPT 4 則使用 ChatGPT。在測試期間，總結了一個基於 Django Ninja 開發的框架 Django Ninja CRUD，旨在簡化 CRUD（創建、讀取、更新、刪除）端點和測試開發。發現 Gemini Pro 偏好較短的回應，而 GPT 4 則提供了最簡潔全面的內容。
探索 Artifact Hub：雲原生技術的聚焦平台
Artifacthub.io, 創立於 Dan Kohn 於 2019 年的一個提案，是一個專為雲原生技術開發的平台。它主要功能是讓用戶輕鬆發現、安裝和發布 Kubernetes 相關的套件和配置。該網站支持多樣化內容，如 Helm 圖表、架構和模板，並提供訂閱新版本和安全警報的通知功能。Artifact Hub 的創建旨在提高尋找和共享雲原生技術資源的效率和便利性。在相同類型的網站中，CNCF（Cloud Native Computing Foundation）提供豐富的雲原生技術資源和工具，是雲原生技術領域的重要推動者。