隨著 LLaMA3 的發布,人們對能夠在本地可靠運行(例如,在筆記型電腦上)的代理產生了濃厚的興趣。在這裡,我們展示如何使用 LangGraph 和 LLaMA3-8b 從頭開始建立可靠的本地代理。我們將 3 篇高級 RAG 論文(Adaptive RAG、Corritive RAG 和 Self-RAG)的想法結合到一個控制流程中。我們在本地使用本地向量儲存 c/o @nomic_ai 和 @trychroma、用於網路搜尋的 @tavilyai 以及透過 @ollama 運行 LLaMA3-8b。
Ollama 向量嵌入模型
Embedding models 是一種專門用於生成向量嵌入的模型:長數組數字,代表給定文本序列的語義含義。生成的向量嵌入數組然後可以存儲在數據庫中,該數據庫將它們作為一種方式進行比較,以搜索具有相似含義的數據。
Embedding models 的工作原理是將文本分解為單詞或短語序列,然後為每個單詞或短語分配一個向量。這些向量通常是高維的,可以捕獲單詞或短語的語義含義。例如,單詞“國王”和“女王”可能具有相似的向量,因為它們都與皇室有關。
Embedding models 有許多應用,包括:
- 自然語言處理 (NLP):Embedding models 可用於提高 NLP 任務的性能,例如機器翻譯、文本分類和情感分析。
- 信息檢索 (IR):Embedding models 可用於提高 IR 系統的性能,例如搜索引擎和推薦系統。
- 計算機視覺 (CV):Embedding models 可用於將圖像表示為向量,這可以提高 CV 任務的性能,例如圖像分類和對象檢測。
Embedding models 是一種強大的工具,可用於提高各種任務的性能。它們是 NLP、IR 和 CV 等領域的重要研究領域。
PromeAI – 令草圖轉為逼真的照片或高質影片
PromeAI – 使用終極 AI 藝術生成器釋放您的創意潛力。將草圖轉換為逼真的照片和高品質影片。從草圖、照片或文字生成令人驚嘆的 AI 藝術、3D 渲染、插圖、繪畫、標誌、動漫、逼真照片和影片。

Flowise 1.7.2- 開源低程式碼 LLM
低程式碼 LLM 應用程序構建平台,允許創建和部署大型語言模型 (LLM) 的應用程序。FlowiseAI 提供一個拖放式界面,使開發人員能夠輕鬆地將 LLM 功能集成到他們的應用程序中,即使他們沒有機器學習方面的經驗。
FlowiseAI 的一些主要功能包括:
- 拖放式界面:使用的拖放式界面,允許開發人員輕鬆地創建 LLM 應用程序。
- 支持多種 LLM:支持多種 LLM,包括 OpenAI 的 GPT-3、Google AI 的 LaMDA 和 Microsoft 的 Turing NLG。
- 自定義模型:允許使用自定義模型。
- 預建應用程序:FlowiseAI 提供一系列預建應用程序,可快速入門。
- 可擴展性:可擴展到生產環境。
FlowiseAI 是個強大的工具,可用於創建各種 LLM 應用程序。它對於希望快速輕鬆地將 LLM 功能集成到其應用程序中的開發人員來說是一個很好的選擇。
以下是一些使用 FlowiseAI 創建的應用程序示例:
- 聊天機器人:創建可與用戶進行自然對話的聊天機器人。
- 虛擬助手:創建可幫助用戶完成任務的虛擬助手。
- 內容生成:用於生成創意內容,例如詩歌、代碼、腳本、音樂作品、電子郵件、信件等。
- 問答:用於創建可回答用戶問題的問答系統。
- 文本摘要:用於創建文本摘要。
Botpress – ChatGPT 聊天機器人 AI 平台
Rivet 強大的整合開發環境 (IDE) 和函式庫
parler-tts: 高品質 TTS 模型的推理和訓練庫
Patchscopes – Google 的自然語言統一框架
Patchscopes 是由 Google AI 研究人員提出的一個統一框架,用於以自然語言檢查大型語言模型 (LLM) 的隱藏表示。它利用 LLM 自身的能力來解釋其內部表示,並解決了先前解釋性方法的許多缺點。
Patchscopes 的工作原理是將來自源提示的表示“修補”到目標提示的推理過程中的特定層中。源提示旨在引導 LLM 執行要檢查的計算,而目標提示旨在鼓勵提取該計算的結果。例如,要檢查 LLM 如何表示“首席執行官”這個詞,可以將表示“首席執行官”的表示修補到目標提示中的“?”令牌上,並觀察 LLM 生成什麼輸出。

Patchscopes 具有以下優點:
- 它可以統一許多先前解釋性方法,並克服了這些方法的許多缺點。
- 它可以檢查 LLM 的早期層,這些層通常難以用其他方法檢查。
- 它具有很強的表達力,可以針對各種問題進行定制。
Patchscopes 已被用於回答有關 LLM 的各種問題,包括:
- LLM 如何表示單詞和短語?
- LLM 如何進行推理?
- LLM 如何生成文本?
- LLM 如何受到偏見的影響?
Patchscopes 是一個強大的工具,可用於解釋 LLM 的行為並提高其透明度。它有可能在 LLM 的開發和應用中發揮重要作用。
以下是一些關於 Patchscopes 的其他資源:
- Patchscopes: A Unifying Framework for Inspecting Hidden Representations of Language Models
- Patchscopes: A Unifying Framework for Inspecting Hidden Representations of Language Models – YouTube
- Patchscopes – People + AI Research
- @gsarti on Hugging Face: ” Today’s pick in Interpretability & Analysis of LMs: Patchscopes: A…”
比較LlamaIndex 與 LangChain (AI) 框架

用 Python 建立專業級電影推薦 – 機器學習手冊
建立學習專案概念和發展基本技能的最有效方法之一。專案讓您沉浸解決現實世界中的問題,鞏固您的知識並培養批判性思維、適應能力和專案管理專業知識。本指南將引導您建立量身訂製的電影推薦系統
