人類被自己建立的系統馴化

Tony_Chan
·
·
IPFS
·

很多人談人類危機時,首先想到的是戰爭、資源枯竭、氣候問題或者某種突發性的技術失控。但如果把視角拉近一點,會發現另一種更持續、也更值得注意的變化:人類未必會被突然毀滅,反而更可能在不知不覺中被自己建立出來的系統慢慢重塑。

這裡所說的系統不只是政治制度,也包括平台機制、企業管理方式、演算法分發邏輯、金融評級、教育篩選以及各種以效率、控制和預測為目標的技術架構。這些東西最初都是人類為了解決問題而建立的。制度用來維持秩序,科技用來延伸能力,平台用來提高連接效率,數據系統用來改善判斷,它們原本都屬於工具。

問題是當工具發展到某個規模之後,它就會逐漸形成一套反過來規定人的運作標準。人類起初是系統的設計者,之後卻慢慢變成系統的適應者。這種位置的轉變就是所謂「反噬」真正開始發生的地方。

制度最初是為了降低混亂,但制度一旦穩定下來,會優先維持自身運作,而不是持續回應人的真實需要。這是任何大型結構在長期運轉之後都會出現自我保存傾向,它會要求可量化、可管理、可追責,因為這些東西最有利於內部運作。於是,人被轉譯成履歷、評分、紀錄、KPI、信用、合規程度。對制度而言,這樣比較有效率,但對人而言,這代表他的複雜性被壓縮成幾個方便比較和篩選的指標。

科技的情況也類似。科技本來是能力的延伸,但延伸到後來,很容易變成能力的外判。搜尋引擎降低記憶的必要性,導航系統降低空間判斷的必要性,推薦演算法降低主動選擇的必要性,生成式 AI 則開始降低寫作、整理、構思甚至初步思考的門檻。從功能角度看,這些都是進步,因為它們確實節省了時間,也提升了效率。但另一面是,當人越來越習慣把一部分能力交給系統處理,那部分能力本身就會逐漸弱化。久而久之,人的位置更像一個負責下指令、接收結果、再做最低限度判斷的操作端。

這種變化最容易被誤解為「科技取代人」。但更準確的說法可能是:人在主動配合一套更高效率的技術環境,並在配合過程中逐步改變自己。人在長期便利之中,降低了對完整能力的需求。當社會大部分環節都建基於這種便利,人即使意識到問題,也很難退出,因為退出的成本太高。於是,系統靠讓人離不開它來完成馴化。

平台化社會把這個過程推得更遠。平台最初只是資訊和內容的流通管道,但當內容的曝光、回應和分發都由平台規則決定時,平台就開始參與塑造人的表達方式。人會漸漸知道甚麼內容容易被看見,甚麼語氣容易引發反應,甚麼立場容易累積流量。久而久之,表達本身就會向平台偏移。這是人在一個有獎懲機制的環境裡,自然會調整自己的輸出方式。最後被改變的是注意力結構、判斷節奏,甚至自我理解的方式。

制度、科技、平台之外,另一個更深的背景是現代社會對效率的持續追求。效率本身沒有問題,問題是當效率變成最高原則後,很多本來不能被快速壓縮的東西,也會被要求服從同一套標準。例如學習、成熟、建立信任、形成判斷力、發展審美,這些都需要時間,也需要某種沒有立刻回報的過程。但現代系統傾向只承認短期可見成果,因為那樣較容易評估、較容易管理、也較容易進行資源分配。結果是人越來越早被推進競爭,越來越少有空間在未成熟時慢慢成形。

這會帶來一個明顯後果:社會表面上變得更快,但人的內在結構未必跟得上。許多人看似能夠即時反應、快速切換、持續輸出,但在深層思考、長期專注和穩定判斷上卻開始出現疲弱。這是整體環境把人訓練成適應高速流動的單位。系統需要可接入、可替換、可量化的人,而不是完整但難以標準化的人。當越來越多領域都依照這套邏輯運作,人自然會向那個方向調整自己。

所以,所謂人類的反噬不一定表現為災難式崩潰,它更可能表現為另一種狀態:人類仍然活著,社會仍然運轉,技術仍然進步,但人的主體性在長期適應之中被削弱。人依然可以工作、消費、表達、創作,甚至比以前更高效,但這些行為背後的選擇空間、自我形成能力與內在判斷,卻逐漸讓位給系統預先設計好的框架。

這也是為甚麼人類還有沒有能力在強大系統面前保留主體位置,只要人仍然能夠反思工具的邊界、質疑制度的方向、拒絕完全按照平台規則塑造自己,那麼系統始終只是工具。但如果社會長期只追求更高效率、更低摩擦、更強控制,而很少處理「人應該保留甚麼能力不能外判」這個問題,那麼系統對人的重塑就會持續加深。

人類未必會被自己創造的世界摧毀,至少不是首先以最戲劇化的方式發生,更大可能是人類先被自己建立的系統慢慢校準,最後學會以系統最容易管理的方式生活、思考和表達。到了那一步,文明表面上可能比以往更穩定,但人也可能比以往更難保持真正的主體性。這種結果可能是另一種更安靜、也更深層的喪失。

CC BY-NC-ND 4.0 授权

喜欢我的作品吗?别忘了给予支持与赞赏,让我知道在创作的路上有你陪伴,一起延续这份热忱!