Ollama 結構化的輸出方案

「structured-outputs」,主要展示如何利用 OpenAI 和 Ollama 這兩個大型語言模型平台,以結構化的輸出方式驗證數獨遊戲的有效性。程式碼包含一個測試架構,示範如何使用不同的模型(例如 OpenAI 的 gpt-4o-mini 和 Ollama 的 phi4)以及相應的執行指令。專案目前只有 Python 程式碼,並有簡潔的 README 檔說明使用方法,但缺乏更詳細的專案描述和資源連結,星星數和關注度也都很低。 核心目的在於展示結構化輸出的應用,並提供 OpenAI 和 Ollama 的實作範例。

「structured-outputs」,主要展示如何利用 OpenAI 和 Ollama 這兩個大型語言模型平台,以結構化的輸出方式驗證數獨遊戲的有效性。程式碼包含一個測試架構,示範如何使用不同的模型(例如 OpenAI 的 gpt-4o-mini 和 Ollama 的 phi4)以及相應的執行指令。專案目前只有 Python 程式碼,並有簡潔的 README 檔說明使用方法,但缺乏更詳細的專案描述和資源連結,星星數和關注度也都很低。 核心目的在於展示結構化輸出的應用,並提供 OpenAI 和 Ollama 的實作範例。

Ollama Structured Outputs with Phi4 is KILLER - Get Started NOW!!
Categories: 開源, 教學, 工具, Ollama

ScrapeGraphAI 開啓智能數據抓取新時代!

用AI重塑數據提取方式!ScrapeGraphAI + LangChain + LangGraph 打造最強文章採集和寫作AI智能體!讓內容創作更簡單!

用AI重塑數據提取方式!ScrapeGraphAI + LangChain + LangGraph 打造最強文章採集和寫作AI智能體!讓內容創作更簡單!

ScrapeGraphAI颠覆传统网络爬虫技术!用AI重塑数据采集方式!支持ollama本地部署!LangChain+LangGraph打造最强全自动文章采集和内容创作AI智能体!让内容创作更简单!

Categories: 教學, 工具, LangChain, LangGraph

Prefixing – 簡易提升 RAG 準確度

在向量數據庫應用中,「prefixes」指的是在文本塊輸入嵌入模型之前,在文本塊前插入一段描述其目的的文本。「prefixes」是一個簡單但有效的技術,可以顯著提高向量數據庫應用的準確性達 200%。 在 Olama 官方庫中的五個嵌入模型中,只有三個支持「prefixes」,Nomic、Snowflake Arctic 和 Mixed Bread 等。 儘管傳統的 LLM 可能更大,但它們不適合生成嵌入。嵌入模型專為生成嵌入而設計,它們的速度要快得多,並且可以產生更好的結果。Prefixing」嘅簡單技巧嵌入技巧。

在向量數據庫應用中,「prefixes」指的是在文本塊輸入嵌入模型之前,在文本塊前插入一段描述其目的的文本。「prefixes」是一個簡單但有效的技術,可以顯著提高向量數據庫應用的準確性達 200%。

在 Olama 官方庫中的五個嵌入模型中,只有三個支持「prefixes」,Nomic、Snowflake Arctic 和 Mixed Bread 等。

儘管傳統的 LLM 可能更大,但它們不適合生成嵌入。嵌入模型專為生成嵌入而設計,它們的速度要快得多,並且可以產生更好的結果。Prefixing」嘅簡單技巧嵌入技巧。

Don’t Embed Wrong!
Categories: RAG, 模型, 模型訓練, 教學, 工具

手把手教你如何部署大型語言模型

如何使用 vLLM 框架部署大型語言模型。教學包含使用 8B 同 70B 兩個版本作示範,並說明如何在 NVIDIA GPU 上安裝 VLLM,以及如何處理記憶體限制。

如何使用 vLLM 框架部署大型語言模型。教學包含使用 8B 同 70B 兩個版本作示範,並說明如何在 NVIDIA GPU 上安裝 VLLM,以及如何處理記憶體限制。

台大資訊 深度學習之應用 | ADL TA Recitation: LLM Deployment 手把手教你如何部署大型語言模型
Categories: 模型, 模型訓練, 教學, 工具

OpenVINO 2024.5 一體化智能開發

視覺、自動語音辨識、NLP 的深度學習 OpenVINO 是一個開源工具包,用於最佳化及部署從雲端到本機的深度學習模型。它利用來自 PyTorch、TensorFlow、ONNX 等流行框架的模型,加速各種深度學習推理,例如生成式 AI、視訊、音訊和語言。轉換和最佳化模型,並在本地和裝置上、瀏覽器或雲端中的各種英特爾® 硬體和環境中進行部署。

Categories: 軟件, 工具

opik – 最佳化部署深度學習模型

評估、測試和監控 LLM 的開源平台 追蹤開發期間所有的 LLM 調用和追蹤。透過使用 Python SDK 或 UI 記錄回饋分數來註解您的 LLM 呼叫。 Opik 旨在支援大量跟踪,使您可以輕鬆監控生產應用程式。在 Opik 儀表板中查看一段時間內的回饋分數、追蹤計數和令牌

Categories: TensorFlow, 軟件, 工具

Nvidia 開源項目專頁

Open-Source Projects Collaborate with open-source communities to build and accelerate innovation.

Categories: 工具

diffusers-image-outpaint 零度解說

超強AI擴圖!完全免費開源,diffusers-image-outpaint,附詳細本地安裝教程!- Diffusers Image Outpaint 是一種基於擴散模型的圖像生成方法。它根據現有圖像內容,生成圖像以外區域,使圖像看起來更自然和完整。

Categories: 模型, Image, 影像處理, 軟件, 工具

Autoarena – LLM 效能排行

對 LLM、RAG 設定和提示的輸出進行排名,以找到系統的最佳配置 使用自動一對一評估對法學碩士、RAG 系統和提示進行排名 - kolenaIO/autoarena

Categories: 軟件, 工具

Datasette – 用於探索和發布資料的工具

Datasette Datasette 針對資料記者、博物館館長、檔案管理員、地方政府、科學家、研究人員以及任何希望與世界分享資料的人。它是由 46 個工具和 158 個插件組成的更廣泛生態系統的一部分,致力於使結構化資料的處理盡可能高效。

Categories: 軟件, 工具

Page 11 of 16
1 9 10 11 12 13 16