新聞 – Page 5 – Infer News

LLaMA-Omni 低延遲、高品質的語音互動模型

LLaMA-Omni是基於Llama-3.1-8B-Instruct所建構的低延遲、高品質的端對端語音互動模型，旨在實現GPT-4o等級的語音能力。 – ictnlp/LLaMA-Omni

Categories: 新聞

Speech-to-speech 語音到語音開源模組

GitHub – huggingface/speech-to-speech: Speech To Speech: an effort for an open-sourced and modular GPT4-o

Speech To Speech: an effort for an open-sourced and modular GPT4-o – huggingface/speech-to-speech

Categories: 新聞

kotaemon 一個基於 RAG 的開源工具

GitHub – Cinnamon/kotaemon: An open-source RAG-based tool for chatting with your documents.

An open-source RAG-based tool for chatting with your documents. – Cinnamon/kotaemon

Categories: 新聞

繁體中文評測各家 Embedding 模型的檢索能力

使用繁體中文評測各家 Embedding 模型的檢索能力

歡迎訂閱愛好 Generative AI Engineer 電子報 aihao.eo.page/a…

Categories: 新聞, 模型

MoA : 合拼多模型

(英)MoA 允許您將多個小型模型（稱為「代理人」）组合成一個更強大的模型。

透過採用每層包含多個 LLM 代理程式的分層架構，MoA 僅使用開源模型，在 AlpacaEval 2.0 上的得分為 65.1%，顯著優於 GPT-4 Omni 的 57.5%！

Categories: 工具, 新聞

AI Won’t Be AGI, Until It Can At Least Do This

AI Won't Be AGI, Until It Can At Least Do This (plus 6 key ways LLMs are being upgraded)

Categories: 新聞

Hugging Face Spaces 平臺被駭

Hugging Face Spaces平臺被駭，緊急呼籲用戶重設憑證

Hugging Face於5月31日發布資安公告，他們偵測到ML應用代管平臺Spaces有未經授權的存取活動，緊急註銷多筆包含其中的HF令牌，並以電子郵件通知受影響用戶

Categories: 新聞

[2405.15556] RobustRAG 針對檢索攻擊的第一個防禦框架

RobustRAG 採用隔離然後聚合策略

檢索增強生成（RAG）已被證明容易受到檢索損壞攻擊：攻擊者可以將惡意段落注入檢索結果以引發不準確的回應。對於某些查詢，RobustRAG 始終可以返回準確的回應，即使攻擊者完全了解我們的防禦並可以任意注入少量惡意段落。我們在開放域 QA 和長格式文字產生資料集上評估 RobustRAG，並證明其在各種任務和資料集上的有效性和通用性。檢索增強生成（RAG）已被證明容易受到檢索損壞攻擊：攻擊者可以將惡意段落注入檢索結果以引發不準確的回應。