進楷優化
更快、更小的 Whisper：深入研究量化和 Torch 編譯
本文透過批次加速，增強基於 PyTorch 的 Whisper 模型性能。透過利用透過轉換器、實現靜態快取以及利用torch.compile，顯著加快模型的推理速度。此外，使用HQQ將 Whisper 模型量化為 4 位，以最小的降級保持轉錄質量，正如字錯誤率 (WER) 基準評估的那樣。
微調前後
進楷優化 微調前後
Categories: 工具
(英)在任何資料集上應用 LLM 功能的通用rag框架 可以在 CPU 上運行，但在使用預設指令模型時最好在任何具有至少 16GB vRAM 的 GPU 上運行
Categories: 工具
(英)支持英文和中文兩種語言。最大的模型使用了10萬小時以上的中英文數據進行訓練
chatTTS语音合成，效果真实如人类，开源免费！Windows、MacOS本地使用教程，附Windows整合包，Colab一键运行脚本。
(英)Stable DIffusion 加上 LLM 令出圖隨心所欲 https://www.youtube.com/watch?v=RKxrXkVpPoE
Stable Diffusion Comfy-UI 為基礎 一種突破性的技術已經出現，它有望徹底改變我們處理視訊動畫和視覺效果的方式。
RobustRAG 採用隔離然後聚合策略 檢索增強生成（RAG）已被證明容易受到檢索損壞攻擊：攻擊者可以將惡意段落注入檢索結果以引發不準確的回應。對於某些查詢，RobustRAG 始終可以返回準確的回應，即使攻擊者完全了解我們的防禦並可以任意注入少量惡意段落。我們在開放域 QA 和長格式文字產生資料集上評估 RobustRAG，並證明其在各種任務和資料集上的有效性和通用性。檢索增強生成（RAG）已被證明容易受到檢索損壞攻擊：攻擊者可以將惡意段落注入檢索結果以引發不準確的回應。
(英) pycantonese: 粵語語言學與自然語言處理 Cantonese Linguistics and NLP. Contribute to jacksonllee/pycantonese development by creating an account on GitHub. PyCantonese: Cantonese Linguistics and NLP in Python — PyCantonese 3.4.0 documentation…
(英) pycantonese: 粵語語言學與自然語言處理
Cantonese Linguistics and NLP. Contribute to jacksonllee/pycantonese development by creating an account on GitHub.
Categories: 工具
Codestral: Hello, World! Empowering developers and democratising coding with Mistral AI.
Categories: 工具
(英)lancedb 為 AI 應用程式加入向量資料庫。 這是 AnythingLLM 的內置向量資料庫
Categories: 工具
ONNX 相信人工智慧工具社群需要更好的互通性，但開發人員往往被鎖定在一個框架或生態系統中。 ONNX 是透過允許更多這些工具共享模型來實現協同工作的第一步。 ONNX 目標是讓開發人員能夠為他們的專案使用正確的工具組合。我們希望每個人都能夠盡快將人工智慧從研究變為現實，而不會受到工具鏈的影嚮。ONNX 希望您能加入我們的行列！
(英)GitHub – Emotion_onnx: Emotion Recognition using ONNX Runtime
Emotion Recognition using ONNX Runtime. Contribute to Shohruh72/Emotion_onnx development by creating an account on GitHub.
ONNX 相信人工智慧工具社群需要更好的互通性，但開發人員往往被鎖定在一個框架或生態系統中。 ONNX 是透過允許更多這些工具共享模型來實現協同工作的第一步。
ONNX 目標是讓開發人員能夠為他們的專案使用正確的工具組合。我們希望每個人都能夠盡快將人工智慧從研究變為現實，而不會受到工具鏈的影嚮。ONNX 希望您能加入我們的行列！
Categories: 工具