Llama 4 Scout 是一個擁有 170 億個活躍參數和 16 個 MOE 的混合專家模型。它被認為是目前同類型最優秀的多模態模型，比前幾代的 Llama 模型更強大。新模型可以用單張 NVIDIA H100 GPU 運作。佢擁有業介領先的 1000 萬 tokens 上下文窗口，並且在廣泛使用的基準測試表現都優勝過 Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1。它在預訓練和後訓練的過程都用了 256K 的上下文長度。
另一個模型 Maverick 同樣是一個擁有 170 億個活躍參數的模型，但它擁有 128 個 MOE 的混合專家模型。基準測試擊敗了 GPT-4o 和 Gemini 2.0 Flash，而在圖像方面亦表現相當出色，能夠將提示詞同埋相關的視覺概念對齊，將模型的回應鎖定到圖像中的特定區域。兩個模型都有獨特的活躍參數模式，能夠節省一半資源。令開發同應用的價格更低。
影片示範使用 OLAMA 平台，離線運行 Llama 3.2 vision 模型。重點在於說明如何使用終端機或 Open Web UI 與圖片互動，以及運用 Python 和 JavaScript SDK 建立應用程式。影片涵蓋基本設定到進階應用程式開發，並提供詳細程式碼範例，協助 Llama 3.2 vision 模型進行圖像識別和描述等任務，展現消費級硬體上的強大能力。
GitHub 專案專注中文語言模型，並提供相關的程式碼和文件。
這個專案的目的是讓你能夠在本地的 CPU 或 GPU 上進行中文語言模型的訓練和部署。LLaMA 是一種大型語言模型，而 Alpaca 則是一種輕量級語言模型。透過這些架構，您可以建立和訓練自己的中文語言模型，應用於各種自然語言處理任務，例如文本生成、機器翻譯、情感分析等。
在該專案的 GitHub 頁面上，您可以找到詳細的文件和程式碼示例，以協助您開始使用這些模型。您也可以在專案上進行提問和討論，與其他開發者交流經驗和想法。不管您是想進行語言模型的研究、實驗，或者應用到實際項目中，這個專案都提供了有價值的資源和支援。
專案在 GitHub 上托管，您可以自由查看、下載和貢獻程式碼，以及參與社群討論。
V0.2.6 – 16 Sept 2023
LLMs 是一種特殊的語言模型，結合了多個不同的模型來產生更加多樣和靈活的文本生成能力。LM Studio 提供了一個直觀而強大的使用界面，讓您能夠自由探索各種 LLMs 的可能性。
不僅如此，您還可以從社群中下載其他用戶共享的 LLMs，並將其應用到自己的文本生成任務中。
更棒的是，LM Studio 還提供了一個實驗室功能，讓您能夠自行訓練和調整 LLMs。您可以根據自己的需求和喜好，調整模型的參數，以獲得最理想的生成效果。無論您是專業用戶還是對語言模型感興趣的新手，LM Studio 都能夠滿足您的需求。
不要猶豫，立即開始使用 LM Studio，探索本地 LLMs 的無限可能性吧！
