Infer News

OpenVINO 2024.5 一體化智能開發

視覺、自動語音辨識、NLP 的深度學習
OpenVINO 是一個開源工具包，用於最佳化及部署從雲端到本機的深度學習模型。它利用來自 PyTorch、TensorFlow、ONNX 等流行框架的模型，加速各種深度學習推理，例如生成式 AI、視訊、音訊和語言。轉換和最佳化模型，並在本地和裝置上、瀏覽器或雲端中的各種英特爾® 硬體和環境中進行部署。

Categories: 工具, 軟件

opik – 最佳化部署深度學習模型

評估、測試和監控 LLM 的開源平台
追蹤開發期間所有的 LLM 調用和追蹤。透過使用 Python SDK 或 UI 記錄回饋分數來註解您的 LLM 呼叫。

Opik 旨在支援大量跟踪，使您可以輕鬆監控生產應用程式。在 Opik 儀表板中查看一段時間內的回饋分數、追蹤計數和令牌
Categories: 工具, TensorFlow, 軟件

diffusers-image-outpaint 零度解說

超強AI擴圖！完全免費開源，diffusers-image-outpaint，附詳細本地安裝教程！-
Diffusers Image Outpaint 是一種基於擴散模型的圖像生成方法。它根據現有圖像內容，生成圖像以外區域，使圖像看起來更自然和完整。
Categories: Image, 工具, 影像處理, 模型, 軟件

Autoarena – LLM 效能排行

對 LLM、RAG 設定和提示的輸出進行排名，以找到系統的最佳配置
使用自動一對一評估對法學碩士、RAG 系統和提示進行排名 – kolenaIO/autoarena
Categories: 工具, 軟件

Datasette – 用於探索和發布資料的工具

Datasette
Datasette 針對資料記者、博物館館長、檔案管理員、地方政府、科學家、研究人員以及任何希望與世界分享資料的人。它是由 46 個工具和 158 個插件組成的更廣泛生態系統的一部分，致力於使結構化資料的處理盡可能高效。
Categories: 工具, 軟件

EDA 探索性資料分析

(英)詞嵌入(Word Embedding)的 EDA(探索性資料分析)
Data scientists use EDA for everything. Why not word embeddings?
Categories: 工具

GraphRAG 提升全面性和多样性

  • 智能問答系統：GraphRAG 能夠提高智能問答系統的準確性，提供多樣化的答案選項，大幅提升用戶體驗。
  • 自動文本摘要：GraphRAG 能夠實現高效、準確的摘要生成，捕捉文本核心觀點，生成簡潔的摘要。
  • 知識管理：GraphRAG 將成為企業和研究机构的重要工具，幫助構建企業級知識圖譜，提升内部知識資源管理和利用效率。
(英)Welcome to GraphRAG
👉 Microsoft Research Blog Post 👉 GraphRAG Accelerator 👉 GitHub Repository
👉 GraphRAG Arxiv
Categories: 工具, 軟件

MoA : 合拼多模型

(英)MoA 允許您將多個小型模型（稱為「代理人」）组合成一個更強大的模型。
透過採用每層包含多個 LLM 代理程式的分層架構，MoA 僅使用開源模型，在 AlpacaEval 2.0 上的得分為 65.1%，顯著優於 GPT-4 Omni 的 57.5%！
Categories: 工具, 新聞
Page 3 of 7
1 2 3 4 5 … 7