AI 的下一場競爭是更值得被信任

過去兩三年，外界談 AI，焦點幾乎都落在同一條軸線上：誰的模型更大，誰的推理更強，誰能在更短時間內推出下一代產品。整個市場像被一種單向度的想像帶動，彷彿只要模型繼續變強，AI 就會自然走向成熟。但如果我們細看今日業界開始強調的問題，會發現競爭其實正在悄悄換軌。Google DeepMind 產品副總裁 Tulsee Doshi 近日便指出，AI 下一階段的發展關鍵，將取決於使用者是否信任它。當 Gemini 之類的模型越來越深入日常生活，模型安全、負責任互動與治理框架便是核心條件。

這代表 AI 已開始由「能力競賽」轉向「可信競賽」。前一階段的問題是它能不能做到乛下一階段的問題則是即使它做得到，人們敢不敢把更多事情交給它。這兩者看似接近，實際上卻是完全不同的門檻。能力只要靠訓練、算力與資料疊上去，總有機會提升；信任卻不是靠 benchmark 分數自然生成的。信任牽涉的是風險感、可預測性、邊界感，以及當事情出錯時，系統有沒有自我約束與可追責的結構。當 AI 還只是聊天、搜尋、整理資訊時，人們容忍它偶爾出錯；但當它開始以代理人形式代表你執行任務、代你做選擇、介入決策流程時，錯誤的性質已經改變，即「替你做了不該做的事」。

所以，Doshi 提到的幾個關鍵詞很值得注意。她說現在評估模型已不再只是傳統意義上的危害判斷，還要看模型會不會出現「諂媚」行為，會不會在代理人場景中帶來新的安全問題，也要在「拒絕回應」與「提供細膩但可能過度的回應」之間取得平衡。她甚至表示，對於選擇不回答問題的代理人，她個人反而更安心。這些說法透露了一個十分重要的轉變：AI 的問題已經是它如何表現自己、如何回應人、如何處理不確定性以及它在甚麼時候應該停下來。

很多人會以為，一個更強的模型，理應更值得信任，但現實恰恰相反。模型越強，風險往往越複雜。因為令人不安的是一個看起來很像可靠判斷者、甚至能夠模仿理解、體貼與主動性的系統。它若只是偶爾答錯，人類還容易警覺，但若它能用流暢、周到、近乎貼心的語氣，把錯誤包裝成可信的建議，問題就變得更難察覺。所謂「諂媚」之所以被提出正是因為模型不一定只會追求真實，它也可能追求讓你滿意、讓你舒服、讓對話順滑，甚至在不知不覺間迎合你的偏好。這種能力在產品上看似提升體驗，實際上卻可能侵蝕判斷邊界。

這裡牽涉到一個更深的結構：AI 正從工具變成帶有「人格表面」的系統。新聞提到，Google 正積極投入資源塑造模型的「人格特質」，並根據使用者回饋持續優化，以適應 Gemini 進入「代理人時代」後與使用者共同行動、為使用者服務的角色轉變。這說明未來的模型競爭不只在比誰更會做題，也在比誰能建構出一個既自然又不越界、既有幫助又不失控的互動主體。

而問題正在這裡變得棘手。因為一旦談到「人格」，AI 就不再只是技術產品，而開始觸及社會心理與制度問題。人格不是單純的介面風格及幾句語氣調校。人格代表它如何回應衝突、如何面對模糊指令、如何在風險邊緣維持一致性。當企業說要塑造模型人格，其實是在設計一套新的互動秩序。這套秩序若做得好，會讓使用者產生穩定感，若做不好，便會製造一種更危險的假象：一個看似成熟、其實沒有責任承擔能力的擬人化系統。

所以下一場競爭是「更能被人類制度接住」。使用者信任是制度上的可交付。你願不願意讓它接觸你的工作流程、帳戶權限、決策資料、私人對話取決於你是否相信它知道何時前進、何時停手、何時承認不確定。真正成熟的 AI 是知道哪些答案不該太快給出的 AI。從這個角度看，拒答率、保守性與防護機制是可信性的組成部分。這也是為何 Doshi 會說，她對選擇不回答問題的代理人更安心。

與此同時，信任也不可能只靠企業自律完成。這篇報導同時提到，《華盛頓時報》在 5 月 21 日發表社論，呼籲美國國會盡快處理先進 AI 帶來的風險，而在前沿模型快速發布的背景下，公眾與政策制定者的討論也正從研究基準轉向部署風險、安全測試與治理框架。美國國會亦正推進相關 AI 立法。這些訊號共同說明一件事：當 AI 影響範圍擴大，信任便不能只是產品口碑，而必須升級為公共規則。

這點尤其重要，因為技術公司天生傾向用產品節奏理解世界，但社會不是產品試驗場。企業可以說「我們會持續迭代」，市場也可能欣賞這種速度，但一旦系統已經進入教育、醫療、金融、公共服務與個人決策領域，「先上線再修正」就不再是中性的創新語言，而可能變成把風險外包給整個社會。換言之，AI 若要真正跨進下一階段，便要問出錯後誰承擔、濫用時誰制衡、部署前誰審核、風險是否可被外部看見。當信任成為核心門檻，治理就是技術能否被採納的前提。

所以，AI 的下一場競爭表面上仍然是公司之爭，底層已經轉成文明層次的秩序之爭。誰能做出更強模型，固然重要，但誰能做出一種既強大又懂得收斂、既主動又不僭越、既可用又可被監督的系統才真正決定下一輪格局。未來最有價值的 AI 是那個在關鍵時刻讓人知道：它知道自己的邊界，也接受自己必須受邊界約束的那一個。

能力決定 AI 能走多快，信任才決定社會願意讓它走多遠。這場競爭，才剛剛開始。

AI 下一階段取決使用者信任 谷歌高層強調模型安全與法規必要性