祖克柏万字公开信：未来属于每个人，不存在仁慈的AGI

Meta 執行長 Mark Zuckerberg 於 10 日發表了一篇名為《未來屬於每個人》的萬字長文，主張以個人賦權、發明創造與權力制衡三大原則對抗 AI 權力集中化。

（前情提要：Meta 想做自己的 Google！單季 91 億次爬蟲把開發者 VPS 爬到報警）

（背景補充：MetaMask 推出「Agent Wallet」！支援 AI 自主 DeFi 交易，守護模式防禦鏈上風險）

Meta 執行長祖克柏（Mark Zuckerberg）於 8 月 10 日發表一篇題為《未來屬於每一個人》的萬字公開信，詳細闡述 Meta 對「個人超級智慧」的哲學與路線圖。

他主張以個人賦權、發明創造與權力制衡三大原則對抗 AI 權力集中化，並罕見地針對就業、資安、生物風險、政府暴政與 AI 失控等議題提出具體政策建議。以下動區為您整理翻譯。

通往正向 AI 未來之路 我們有幸活在歷史上一個不可思議的時刻。在未來幾年內，人們將能夠運用超越人類能力的超級智慧，去創造與發現非凡的新事物、建立新事業、表達新想法、學習新概念，並增進我們的健康與生活品質。隨著這一刻的逼近，我們必須建立一套哲學，思考如何善用超級智慧，確保它能改善我們所有人的生活、工作、社群、自由與安全。

我們這個時代的關鍵問題是：誰能取得超級智慧，以及我們要將它導向何方。它會被集中化、僅限少數機構使用，還是會成為賦權每一個人的工具？

我們提出的哲學是：以個人賦權作為繁榮的源泉，以發明創造作為超級智慧的首要目的，以權力制衡作為安全的基石。

所有新技術都會帶來機會與挑戰。超級智慧將是歷史上最重要的技術之一，因此它帶來的機會與挑戰，很可能超越我們此生所見過的一切。我們應當非常嚴肅地看待這件事。

儘管如此，令人驚訝的是，許多 AI 開發者的論述中充滿了末日色彩。我不明白，一個相信 AI 將消滅大多數工作、抹去人類多數存在意義的人，為什麼還要急著去打造那樣的未來。「AI 危險到唯一安全的路徑就是極端的權力集中」這種想法，本身就有根本性的問題。歷史告訴我們，寄望一個絕對的權力只要夠開明就會仁慈地照顧人類，從來不曾帶來安全或正向的結果。

人類歷史上見證過許多變革性的進步。每一次，人們都害怕有人會被拋下。但每一次，人類最終都讓更多人共享了更大的繁榮、健康與自由。我們相信 AI 也將如此，未來的富足可以由每個人共享。我們也相信，帶領我們走到今天的那些價值——自由、開放探索、自由企業與機會平等——同樣是打造正向未來的正確價值。

把力量交到人們手中、讓他們追求自己的抱負，是人類取得最多進步的方式。新穎的想法與重大的躍進，很少單獨來自既有的體制。它們來自腳踏車店裡相信人類可以飛翔的兩兄弟、沒受過正規教育卻想出如何發電的書籍裝訂學徒，以及車庫裡認為個人電腦應該屬於每個人的孩子。我們相信這件事將持續為真。當每個人都獲得更強大的工具，每個人塑造未來的能力只會更強，而不是更弱。

超級智慧最大的貢獻將是發明，而非自動化。早期的 AI 能回答問題、處理例行工作。很快地，它將越來越能幫助我們發現新知識——從發現新藥治癒家人的疾病，到找出改善你事業的新方法。一個人一天能問的問題有限，但超級智慧能為你的目標發明出的有價值事物，卻是無限的。

當智慧變得充沛，最重要的問題將是我們如何引導它。有人主張，應該由超級智慧本身、或由掌控它的一小群專家來決定什麼對人類最好。我們不同意。民主與經濟的歷史已經證明，「什麼是最好的人生」沒有單一的客觀答案，因此最好的做法是讓人們自己決定生命中什麼才重要。

我們相信，把超級智慧交付給每一個人，就是回答這個問題的方式。這延續了把超級電腦與網際網路放進每個人口袋與桌上的傳統。與其將超級智慧集中化，我們應該廣泛地分散它，讓每個人都有能力指揮它。這有潛力開啟一個個人賦權的新時代，讓每個人都能運用這項強大的新能力，發揮全部潛能、追求自身興趣，並以前所未有的程度改善自己的生活與這個世界。

為了讓這一切更具體，以下是 Meta 打造個人超級智慧、改善所有人生活的幾個實際方向： 每個人都將擁有一個能力超群的個人代理（Agent），它了解你、你的目標，以及你在乎的一切。你的代理將全年無休地為你工作，改善你的人際關係、健康、職涯、財務、居家管理、興趣嗜好等等。它會為你騰出時間去做你喜歡的事，並幫助你完成原本做不到的事。它將具備強大的隱私與安全選項，讓你能放心把所有個人內容交給它處理，並確知沒有其他人能存取你的資訊——就像 WhatsApp 的加密機制一樣。你將能透過任何裝置與你的代理互動，包括你的眼鏡，讓你與在乎的人相處時保持專注於當下。

舉例來說，我的代理會為我標記有趣的資訊，並協助我把想法做成原型。它透過監測我的睡眠、觀察我的訓練並給予回饋來幫助我維持健康。我的女兒熱愛烘焙，所以我的代理每個週末都會為我們規劃客製化食譜、訂購食材，並在我們一起烘焙時提供建議。

每個人都將擁有不可思議的創作工具來表達想法。我 8 歲的女兒已經能在一個晚上把她的想法寫成程式、製作出影片——這些事在過去要嘛得花我好幾個月，要嘛根本不可能。現在我們正在一起設計一台機器人。與此同時，Meta 的研究人員正在生成適用於擴增實境眼鏡的新型晶體結構，工程師則以過去所需時間的一小部分開發出新的應用程式。每個人很快都將擁有發明的超能力。

每個人都將擁有創立新事業的強大工具，經濟將變得更具創業精神。人們開始能夠自己實現想法，不必再募資或組建龐大團隊。許多過去因太困難或太昂貴而無法嘗試的想法，如今將成為可能。這代表我們會看到更多的想法與事業。我預測這不僅將帶來更大幅度的經濟成長，長期而言也會帶來更多而非更少的就業。

每個人都將擁有一位在每個學科都具備博士程度、且擁有無限耐心的個人化家教與教練，幫助你學習任何想學的東西。學生將在需要加強的領域獲得額外協助——這在今天只有付得起錢的父母才能提供。成年人則將擁有一位超級智慧學習助理，它清楚知道如何教你新的職業技能、新語言、新嗜好，或任何你感興趣的事物。

每個人都將受惠於科學...