【新新聞】AI落地不只靠大模型API 被黃仁勳與產業領袖點名的勝負關鍵

輝達創辦人暨執行長黃仁勳明講,今年市場的問題將從「過去三年AI投入的ROI到底在哪」轉向「AI的ROI正如何浮現」。(資料照,劉偉宏攝)

輝達創辦人暨執行長黃仁勳明講,今年市場的問題將從「過去三年AI投入的ROI到底在哪」轉向「AI的ROI正如何浮現」。(資料照,劉偉宏攝)

如果說〈Open Models: Where We Are and Where We're Headed〉上半場的重點在於「為什麼Open models正在翻身」,下半場則是探索企業導入AI時最棘手、也最現實的問題:模型再強,如果企業沒有控制權、沒有治理機制、沒有能隨需求擴縮的基礎設施,AI依然很難真正走進核心流程。因此,從Mistral、OpenEvidence、Ai2到AMP,與談大老們幾乎都不約而同把焦點放在同一件事上:下一輪勝負,未必只取決於誰的模型更大,而是取決於誰能Ccontrol(控制)、Customization(自訂)、Governance與Open infrastructure(治理與開放基礎設施)。

Mistral共同創辦人暨執行長亞瑟.蒙施(Arthur Mensch)對Open models的價值講得最直接。他認為,開放模型之所以應成為AI軟體的基礎,第一個理由就是Control。因為Agent是部署在Execution layer(執行層)的軟體,企業必須知道它部署在哪裡、跑了哪些程式、是否能被關閉,也必須保有從模型、Orchestration到執行端的主導權,而不是把命脈交給可能隨時中斷的外部API。