|
“語言是人類文化的操作系統。從語言中產生了神話和法律，眾神和金錢，藝術和科學，友誼和國家，以及計算機代碼。人工智能對語言的掌握，意味著它現在可以入侵并操縱文明的操作系統。”
·“社交媒體是人工智能與人類的第一次接觸，而人類輸了。大型語言模型是我們與人工智能的第二次接觸，我們不能再輸了。”
“想象一下，當你登上一架飛機時，一般建造這架飛機的工程師告訴你，飛機有10%的可能性會墜毀，導致你和飛機上的其他人死亡。你還會登機嗎？
“2022年，在一項調查中，超過700名頂級學者和頭部人工智能企業的研究人員被問及未來人工智能的風險。半數受訪者表示，未來的人工智能系統有10%或更大幾率使人類滅絕（或永久性嚴重喪失能力）。建立今天的大型語言模型的科技公司，正陷入一場將全人類送上那架飛機的競賽。”
近日，《人類簡史》作者、以色列歷史學家尤瓦爾·赫拉利（Yuval Harari）與知名紀錄片《監視資本主義：智能陷阱（The Social Dilemma）》的制作人特里斯坦·哈里斯（Tristan Harris）和阿扎·拉斯金（Aza Raskin）共同撰文，呼吁人類爭取時間，為應對人工智能世界而升級現有機構（這套機構仍然源自19世紀），并在人工智能掌控人類之前學會掌控它。
![]()
這篇題為《你可以擁有藍色藥丸或紅色藥丸，我們已經沒有藍色藥丸了》的文章發表在《紐約時報》。紅色藥丸與藍色藥丸（red pill and blue pill）是一種流行的迷因，意思是在令人不安的知識和殘酷現實的“紅色藥丸”與保持愚昧并繼續過著平凡生活的“藍色藥丸”之間做出選擇。
文章指出，未對產品進行嚴格的安全檢查，藥品公司不能向人們出售新藥。生物技術實驗室不能為了打動股東而將新病毒發布到公共領域。同樣，具有GPT-4及以上能力的人工智能系統，其卷入數十億人生活的速度，不應該超過文化能安全吸收它們的速度。為了主導市場而展開的競賽，不應該設定部署人類最重要技術的速度。
“自20世紀中期以來，人工智能的幽靈一直困擾著人類，但直到最近，它仍然是一個遙遠的前景，是屬于科幻小說而不是嚴肅科學和政治辯論的東西。我們人類的頭腦很難掌握GPT-4和類似工具的新能力，更難掌控這些工具發展更先進和更強大能力的指數級速度。但大多數關鍵技能歸結為一件事：操縱和生成語言的能力，無論是用文字、聲音還是圖像。”文章寫道。
“起初是文字。語言是人類文化的操作系統。從語言中產生了神話和法律，眾神和金錢，藝術和科學，友誼和國家，以及計算機代碼。人工智能對語言的掌握，意味著它現在可以入侵并操縱文明的操作系統。通過對語言的掌握，人工智能正在奪取文明的萬能鑰匙，從金庫到圣墓。”文章繼續寫道。
對人類來說，生活在這樣一個世界里意味著什么？“在這個世界里，很大比例的故事、旋律、圖像、法律、政策和工具都是由非人類智能塑造的，它知道如何以超人的效率利用人類思維的弱點、偏見和成癮，同時知道如何與人類形成親密的關系？在像國際象棋這樣的游戲中，沒人有希望能擊敗計算機。當同樣的事情發生在藝術、政治或宗教領域時會發生什么？”作者問道。
“AI可以迅速吃掉整個人類文化——我們幾千年來產生的一切——消化它，并開始涌出大量的新文化藝術品。不僅僅是學校作文，還有政治演說、意識形態宣言、新邪教的圣書。到2028年，美國總統競選可能不再由人類主持。”
這篇文章認為，人類往往不能直接接觸到現實，而是被文化所籠罩，通過文化棱鏡體驗現實。“我們的政治觀點是由記者的報道和朋友的軼聞形成的。我們的性偏好是由藝術和宗教來調整的。到目前為止，這個文化之繭是由其他人類編織的。通過非人類智慧產生的棱鏡來體驗現實會是什么樣子？”
“幾千年來，我們人類一直生活在其他人類的夢中。我們崇拜神靈，追求美麗的理想，并把我們的生命獻給源于某些先知、詩人或政治家想象的事業。很快，我們也會發現自己生活在非人類智慧的幻覺中。”
文章舉例稱，《終結者》系列電影描繪了機器人在街上奔跑和射擊的場景。《黑客帝國》假設要獲得對人類社會的完全控制，人工智能將不得不首先獲得對我們大腦的物理控制，并將它們直接連接到計算機網絡。然而，只要掌握了語言，AI就會擁有它所需要的一切，將人類控制在一個類似母體的幻覺世界中，而不需要向任何人開槍或在大腦中植入任何芯片。如果有必要開槍，人工智能可以讓人類扣動扳機，只需要對人類講述合適的故事即可。
文章指出：“社交媒體是人工智能與人類的第一次接觸，而人類輸了。第一次接觸讓我們嘗到了隨之而來的苦果。在社交媒體中，初期的人工智能不是用來創造內容，而是用來組織用戶生成的內容。新聞瀑布流背后的人工智能仍然在選擇哪些文字、聲音和圖像到達我們的視網膜和耳膜，其依據是選擇那些將獲得最廣傳播、最大反應和最多參與的內容。
“雖然非常原始，但社交媒體背后的人工智能足以創造出一幕幕幻象，加劇了社會的兩極分化，破壞了我們的心理健康，并使民主解體。數以百萬計的人將這些幻覺與現實混淆。美國擁有歷史上最好的信息技術，但美國公民卻無法再就誰贏得選舉達成共識。盡管現在每個人都已經意識到了社交媒體的弊端，但由于我們太多的社會、經濟和政治機構已經與之糾纏在一起，所以這個問題還沒有得到解決。
“大型語言模型是我們與人工智能的第二次接觸，我們不能再輸了。但是，我們應該在什么基礎上相信人類有能力使這些新形式的人工智能與我們的利益相一致？如果我們繼續像往常一樣，新的人工智能能力將再次被用來獲得利潤和權力，即使它在無意中破壞了我們社會的基礎。”
文章最后強調，人工智能確實有潛力幫助戰勝癌癥，發現拯救生命的藥物，為氣候和能源危機提供解決方案，還有無數無法想象的其他好處。“但是，如果地基坍塌，人工智能組裝的摩天大樓有多高也不重要了。”
作者發出呼吁：“在我們的政治、經濟和日常生活變得依賴人工智能之前，是時候重視人工智能了。民主是一種對話，對話依賴于語言，而當語言本身被入侵時，對話就會中斷，民主就會變得無法維持。如果我們等待混亂的發生，再來補救就太晚了。
“我們已經召喚出了一個外星智能。我們對它了解不多，只知道它非常強大，為我們提供了令人眼花繚亂的禮物，但也可能破壞我們文明的基礎。我們呼吁世界各國領導人以對應其挑戰的水平來應對這一時刻。第一步是爭取時間，為人工智能世界升級我們19世紀的機構，并在人工智能掌控我們之前學會掌控它。”
尤瓦爾·赫拉利長期關注人工智能對世界的影響，著有《人類簡史》《未來簡史》和《今日簡史》等書籍，并創辦了Sapienship國際咨詢公司。特里斯坦·哈里斯和阿扎·拉斯金是“人道主義技術中心（Center for Humane Technology）”的創始人，他們制作的紀錄片《監視資本主義：智能陷阱》也被譯作《社交陷阱》，揭示了人類日益依賴社交媒體帶來的后果：人類社會正面臨一個生死攸關的危機，被人工智能、大數據和算法模型所控制，導致出現最近幾年的分裂和混亂。 | 
發表于 2023-3-29 09:17:55
QQ好友和群
QQ空間
