Infer News

Performer、Longformer 和 Reformer ?

2017 年夏天，一群 Google Brain 研究人員悄悄發表了一篇將永遠改變人工智慧發展軌跡的論文。這份 “注意力就是你所需要的一切” (Attention Is All You Need) 的學術論文。當時人工智慧研究界之外很少有人知道這一點，但這篇論文將為你今天聽說過的幾乎所有主要生成式人工智慧模型奠定基礎，從 OpenAI 的 GPT 到 Meta 的 LLaMA 變體、BERT、 Claude、Bard 等。

新的架構於 2020 年已經出現，例如 Performer、Longformer 和 Reformer，旨在提高超長序列的注意力效率。目前其他人正在嘗試混合方法，將 Transformer 區塊與其他專用層結合。這個領域絕非停滯不前。展望未來，每一項新提案都將受到審查、興奮，甚至恐懼。

一文搞懂 Transformer（總體架構 & 三種注意力層）

Whisk – Google Deepmind 新整合

Google Labs 宣佈了幾個重要更新。除影片生成外，Whisk 最受矚目！

Google 推出了Veo 2 和 Imagen 3 的改良版本，分別在影片和圖片生成方面達到業界頂尖水準，並整合到 VideoFX 和 ImageFX 工具中。 此外，一個名為 Whisk 的新工具也正式亮相，它允許使用者以圖片作為提示，結合 Imagen 3 和 Gemini 的技術，創造出獨特的影像。 文章最後還介紹了這些工具的應用範圍以及未來發展計畫，例如在 YouTube Shorts 和 Vertex AI 上的整合。 整體而言，文章旨在展示Google在AI影像與影片生成技術上的最新進展，以及其對提升使用者創造力和拓展應用場景的努力。

Motion Prompting 可控影像模型

用於控制影片生成模型
利用 點軌跡 (point trajectories) 作為提示，以極其靈活的方式編碼單點或大量點的運動，甚至包含物體運動、場景變化、遮擋和稀疏運動。 研究者訓練一個以任意動作為條件的影片生成模型，並透過設計不同的 動作提示 來操控影片生成結果，例如控制物體運動、模擬物理現象、控制攝影機視角，甚至是動作轉移和影像編輯。網站分享了不同參數（如軌跡密度、文字提示）對結果的影響，並與其他相關方法進行比較。

Google Agentspace 企業整合平台

一個將生成式 AI 與企業數據整合平台。
它透過三個主要功能提升企業效率：首先，使用 NotebookLM 提供新型態的數據互動方式，例如語音摘要等，讓員工更容易理解複雜資訊；其次，它整合了 Google 的搜尋能力，建構 企業內部的多模態搜尋代理程式，讓員工能快速且全面地找到所需資訊，無論數據結構為何或語言為何；最後，它能建立 客製化的 AI 代理程式 來自動化業務流程，藉此提升各部門的工作效率，例如行銷、財務和工程部門。文章並以多個客戶案例佐證 Agentspace 的效益，並強調其安全性與合規性。
Page 3 of 15
1 2 3 4 5 … 15