分類 資訊科技

cumulo-autumn/StreamDiffusion: StreamDiffusion: A Pipeline-Level Solution for Real-Time Interactive Generation

StreamDiffusion是一個由Akio Kodaira、Chenfeng Xu等開發的創新擴散管道，旨在提升即時互動圖像生成的效能。它的核心功能包括數據處理的流線化、改進的指導機制、GPU利用效率的提高、輸入輸出操作的高效管理、KV-Caches的優化預計算，以及模型加速工具的使用。項目提供了安裝指南、互動式txt2img演示，以及圖像到圖像和文本到圖像的應用示例。此外，還包括了隨機相似性過濾器和殘差CFG（RCFG）等功能，以進一步提高效率。

facebookresearch/llama-recipes: Examples and recipes for Llama 2 model

「Llama 2」模型的範例與配方庫（llama-recipes）提供了關於如何快速開始對特定領域進行細調（fine-tuning）及執行細調模型推論的範例。此庫使用 Hugging Face 轉換版本的模型，以便使用。除了提供示範應用程式外，還展示了在本地、雲端和企業內部運行 Llama 2 的方法。它還包括了關於如何安全地使用 Llama 2 模型的指南，並提醒使用此技術可能帶來的風險。更多資訊可在 GitHub 的 llama-recipes 頁面查看。