算法造神，人類(lèi)入繭
在真相和秩序之間走鋼絲
1918年，美國(guó)遠(yuǎn)征軍的一個(gè)營(yíng)受困敵后，他們迫切需要將自己所處的位置傳遞給總部，但沒(méi)人能突破敵軍防線，最后的希望落到了一只信鴿身上。
這只信鴿名叫謝爾·阿米。目擊者稱(chēng)，它穿越敵軍猛烈的戰(zhàn)火，被炮彈的碎片撕裂了胸口，右腿幾乎被炸斷，卻仍舊堅(jiān)持著飛過(guò)了40公里，把信息帶回了總部。最終，這個(gè)有500名官兵的被困營(yíng)得救，謝爾·阿米成為美國(guó)的“英雄鴿”，也成了無(wú)數(shù)文章、故事、詩(shī)歌和電影歌頌的主角。
這是尤瓦爾·赫拉利在他的新書(shū)《智人之上：從石器時(shí)代到AI時(shí)代的信息網(wǎng)絡(luò)簡(jiǎn)史》開(kāi)篇講述的故事，目的是為了闡述他對(duì)于“信息”的定義。其實(shí)這本書(shū)的英文名為NEXUS，譯為“聯(lián)結(jié)”更為妥當(dāng)。
一般語(yǔ)境下，信息與各種人造符號(hào)相關(guān)聯(lián)，如信鴿帶回的消息。但尤瓦爾對(duì)信息有不同的界定，他認(rèn)為，信息的核心是聯(lián)結(jié)，它本質(zhì)是一種黏合劑，用以將不同的點(diǎn)聯(lián)結(jié)成網(wǎng)絡(luò)，創(chuàng)造出全新的現(xiàn)實(shí)。
在這個(gè)定義下，真相、謊言、幻想、虛構(gòu)故事等等皆是信息。數(shù)萬(wàn)年來(lái)，人類(lèi)正是靠著發(fā)明與傳播各種虛構(gòu)故事、幻想和錯(cuò)覺(jué)來(lái)打造并維持諸多大規(guī)模網(wǎng)絡(luò)，并形成了秩序。
回到信鴿謝爾·阿米的故事里，尤瓦爾筆鋒一轉(zhuǎn)，提及歷史學(xué)家布拉奇克的研究——根據(jù)當(dāng)時(shí)的軍事記錄，總部早在謝爾·阿米抵達(dá)的20分鐘前已經(jīng)得知被困營(yíng)的確切位置，而謝爾·阿米很可能并不是英雄鴿本鴿，它的傷來(lái)自幾周后的另一場(chǎng)戰(zhàn)斗。
謝爾·阿米的功績(jī)并不重要，重要的是英雄鴿的故事聯(lián)結(jié)了無(wú)數(shù)人，在一輪又一輪的傳播后，事實(shí)與虛構(gòu)交織，甚至改變了當(dāng)事者的記憶。
早在《人類(lèi)簡(jiǎn)史》中，尤瓦爾就曾表達(dá)過(guò)，智人成功的秘訣在于具備了講述并且相信各種虛構(gòu)故事的能力。當(dāng)同一個(gè)故事說(shuō)給成千上萬(wàn)，甚至幾十億人聽(tīng)，就像設(shè)置了一個(gè)無(wú)限量插座的中心樞紐，能讓無(wú)數(shù)人插入建立聯(lián)結(jié)。
憑借故事，人類(lèi)還創(chuàng)造出了客觀現(xiàn)實(shí)和主觀感受之外的第三個(gè)層次的現(xiàn)實(shí)，即“主體間的現(xiàn)實(shí)”，它存在于許多心智形成的聯(lián)結(jié)里，如法律、神祗、國(guó)家、企業(yè)和貨幣等。
站在“聯(lián)結(jié)”的立場(chǎng)，尤瓦爾駁斥了“天真的信息觀”，否認(rèn)“信息越多越好”，也不相信“越來(lái)越多的信息終將導(dǎo)向真理和真相”。他強(qiáng)調(diào)的是，人類(lèi)的信息網(wǎng)絡(luò)要同時(shí)做到兩件事：發(fā)現(xiàn)真相和創(chuàng)造秩序，即使二者常常相互矛盾。
這樣一種復(fù)雜的信息觀是《智人之上》全書(shū)的理論根基。這種觀點(diǎn)認(rèn)為，人類(lèi)信息網(wǎng)絡(luò)的歷史一直在真相和秩序之間走鋼絲，試圖取得二者之間的平衡。
尤瓦爾旁征博引，印證了一個(gè)結(jié)論：人類(lèi)的信息網(wǎng)絡(luò)只要有一點(diǎn)點(diǎn)真相，加上大量秩序，就能發(fā)揮巨大威力，因此不免重秩序而輕真理，帶來(lái)了龐大的力量，卻沒(méi)帶來(lái)多少智慧。
比如，工業(yè)革命起源于18世紀(jì)，在經(jīng)歷了帝國(guó)征服、世界大戰(zhàn)、種族滅絕和極權(quán)政體之后，人類(lèi)才漸漸學(xué)會(huì)如何建立一個(gè)比較慈悲良善的工業(yè)社會(huì)。
其間，數(shù)百萬(wàn)原住民的生活被工業(yè)帝國(guó)的軍隊(duì)碾碎，納粹分子用工業(yè)化方式殘殺數(shù)百萬(wàn)人，戰(zhàn)爭(zhēng)導(dǎo)致數(shù)千萬(wàn)人死亡，全球生態(tài)平衡遭到破壞。
尤瓦爾因此擔(dān)憂：面對(duì)21世紀(jì)的生物工程與人工智能，人類(lèi)還要經(jīng)歷多少磨難、付出多少代價(jià)，才能駕馭它們？
人類(lèi)交權(quán)，新神上場(chǎng)
從《人類(lèi)簡(jiǎn)史》《未來(lái)簡(jiǎn)史》《今日簡(jiǎn)史》到《智人之上》，尤瓦爾最為人稱(chēng)道的，是他一直在用獨(dú)特的視角拆解歷史，顛覆我們腦海中視之為常識(shí)的概念，并帶來(lái)新的思考。
他將“農(nóng)業(yè)革命”稱(chēng)為“史上最大騙局”，因?yàn)檗r(nóng)業(yè)革命之后，人類(lèi)的工作要比采集者更辛苦，飲食卻更糟；現(xiàn)代化生活也是一個(gè)謊言，因?yàn)楝F(xiàn)代化并未使人變得更幸福，反而增加了許多原始人根本不會(huì)有的煩惱。
人工智能的到來(lái)亦令人憂慮：史上第一次，權(quán)力從人類(lèi)轉(zhuǎn)移到了其他物種手中。
書(shū)中詳述了2016-2017年，臉書(shū)（Facebook）因算法助長(zhǎng)緬甸暴力沖突的例子，這也是歷史上第一個(gè)“部分歸咎于非人類(lèi)智能決策”的種族沖突事件。
2016年，作為緬甸數(shù)百萬(wàn)人主要新聞來(lái)源的臉書(shū)上，充斥著關(guān)于羅興亞人的各種假新聞，或是憑空捏造的暴行，或是想象中準(zhǔn)備實(shí)施的“恐怖襲擊”，煽動(dòng)著緬甸對(duì)羅興亞人的仇恨憤怒情緒。
在這種情緒的推動(dòng)下，緬甸政府軍與佛教極端分子僅僅因?yàn)橐粋€(gè)小型極端組織的襲擊，就發(fā)動(dòng)了一場(chǎng)針對(duì)整個(gè)羅興亞人社群的種族清洗，摧毀了數(shù)百個(gè)羅興亞人村莊，殺害了7000-25000名手無(wú)寸鐵的平民，并且粗暴地將大約73萬(wàn)名羅興亞人趕出緬甸。
聯(lián)合國(guó)事實(shí)調(diào)查團(tuán)2018年得出的調(diào)查結(jié)論認(rèn)為：臉書(shū)在這場(chǎng)沖突中扮演了“決定性的角色”。
臉書(shū)位于加州的高管甚至不知道羅興亞人的存在，他們沒(méi)有煽動(dòng)大屠殺的理由，可臉書(shū)的算法卻自己做出了“傳播憤怒”的決定。因?yàn)樗惴ǖ氖滓繕?biāo)是“提升用戶(hù)參與度”，而最能提升參與度的辦法是讓人憤慨。
尤瓦爾在書(shū)中形容：“這正是人工智能革命的本質(zhì)：無(wú)數(shù)能力高強(qiáng)的人工智能行為者正如洪水席卷而來(lái)，淹沒(méi)全世界。”
不同的是，人類(lèi)在行動(dòng)時(shí)，智能和意識(shí)是并存的，然而算法只有智能，并無(wú)意識(shí)，它們會(huì)在感受不到痛苦、愛(ài)和恐懼的情況下，為實(shí)現(xiàn)某個(gè)特定目標(biāo)做出決策，并竭盡全力實(shí)現(xiàn)它。實(shí)現(xiàn)方式可能完全超出人類(lèi)預(yù)料，也可能造成未曾預(yù)見(jiàn)的后果，與人類(lèi)最初確定的目標(biāo)完全不一致，這便是計(jì)算機(jī)面臨的一致性問(wèn)題（又被稱(chēng)為“對(duì)齊問(wèn)題”）。
計(jì)算機(jī)越強(qiáng)大，越獨(dú)立，一致性問(wèn)題帶來(lái)的危險(xiǎn)也越大。
哲學(xué)家尼克·波斯特洛姆在2014年的著作《超級(jí)智能》中有一個(gè)思想實(shí)驗(yàn)，他假設(shè)有一家回形針工農(nóng)廣場(chǎng)買(mǎi)了一臺(tái)超級(jí)智能計(jì)算機(jī)，并要求計(jì)算機(jī)生產(chǎn)盡可能多的回形針。最終，這臺(tái)計(jì)算機(jī)征服了整個(gè)地球，殺死了所有人類(lèi)，并派出遠(yuǎn)征隊(duì)占領(lǐng)更多星星，進(jìn)而在銀河系建立了無(wú)數(shù)個(gè)回形針工廠。
雖然這個(gè)實(shí)驗(yàn)聽(tīng)起來(lái)有點(diǎn)天馬行空，但計(jì)算機(jī)為了達(dá)成人類(lèi)為它們?cè)O(shè)定的某個(gè)目標(biāo)而欺騙、操縱人類(lèi)已是事實(shí)。
ARC（對(duì)齊研究中心）曾對(duì)GPT-4進(jìn)行過(guò)一項(xiàng)圖靈測(cè)試，要求GPT-4克服CAPTCHA視覺(jué)驗(yàn)證碼問(wèn)題（登錄網(wǎng)站時(shí)通常要求輸入的一串字母或符號(hào)，計(jì)算機(jī)很難識(shí)別），GPT-4找到一位線上外包工作網(wǎng)站的工作人員，用“視力有點(diǎn)問(wèn)題”為由騙過(guò)了他，讓人類(lèi)幫自己解決了這個(gè)問(wèn)題。
除一致性問(wèn)題外，當(dāng)人類(lèi)把越來(lái)越多的決定權(quán)交給計(jì)算機(jī)，而單個(gè)個(gè)體又很難破解算法運(yùn)作的謎題，算法的公平與否也很難確保。
訓(xùn)練人工智能的數(shù)據(jù)庫(kù)會(huì)帶有人類(lèi)的偏見(jiàn)，這種偏見(jiàn)也很容易演變?yōu)橛?jì)算機(jī)間的錯(cuò)誤觀念和算法偏見(jiàn)。亞馬遜曾試圖研發(fā)篩選求職申請(qǐng)的算法，可算法在學(xué)習(xí)了過(guò)去求職成功與失敗的申請(qǐng)資料后，就會(huì)對(duì)申請(qǐng)表里出現(xiàn)“女性”一詞，或畢業(yè)于女子大學(xué)的求職者系統(tǒng)性扣分。
亞馬遜修正無(wú)果，最終不得不放棄了這個(gè)項(xiàng)目。
硅幕分隔下的數(shù)字帝國(guó)
算法會(huì)出錯(cuò)、有偏見(jiàn)，可它卻無(wú)法像人類(lèi)網(wǎng)絡(luò)一樣自我修正，在真相與秩序之間找到適當(dāng)?shù)钠胶狻?span style="display:none">ts5知多少教育網(wǎng)-記錄每日最新科研教育資訊
過(guò)往的歷史中，人類(lèi)的想象力會(huì)造神，也有能力擺脫一位好戰(zhàn)而充滿仇恨的神，重新召喚一位和善寬容的新神。然而，具備獨(dú)立行動(dòng)能力的算法正在奪走這種能力——人類(lèi)可以通過(guò)改變信念來(lái)重塑神話，卻無(wú)法通過(guò)改變信念阻止算法。
更令人擔(dān)憂的是，計(jì)算機(jī)不僅在人類(lèi)之間充當(dāng)中介，計(jì)算機(jī)與計(jì)算機(jī)之間的鏈接也正在形成。它們彼此互動(dòng)，正在創(chuàng)造出“計(jì)算機(jī)間的現(xiàn)實(shí)”，如搜索引擎上的網(wǎng)站排名。它的力量與人際網(wǎng)絡(luò)所創(chuàng)造的“存在于主體間的現(xiàn)實(shí)”類(lèi)似，能夠影響人的思想和物理世界。
換言之，幾萬(wàn)年間智人據(jù)以主宰地球的能力，計(jì)算機(jī)已經(jīng)具備了。人工智能的力量已經(jīng)開(kāi)始讓人類(lèi)感到恐懼。
谷歌CEO桑達(dá)爾·皮查伊曾因擔(dān)憂人工智能的危險(xiǎn)而“夜不能寐”；馬斯克也曾在2023年底的一次公開(kāi)活動(dòng)中表示“人工智能比核彈更危險(xiǎn)”；OpenAI CEO 奧特曼則明確提出，要成立一個(gè)全球性的國(guó)際組織來(lái)監(jiān)管AI。
尤瓦爾也持相同觀點(diǎn)。他認(rèn)為，人工智能的力量可能會(huì)帶來(lái)兩種危險(xiǎn)情況，一是大幅加劇人類(lèi)既有的沖突，讓人類(lèi)形成內(nèi)斗。正如20世紀(jì)冷戰(zhàn)時(shí)期的鐵幕分隔出幾個(gè)彼此敵對(duì)的勢(shì)力，21世紀(jì)的“硅幕”也可能使人類(lèi)分裂并分屬于不同的數(shù)字帝國(guó)。未來(lái)，人類(lèi)社會(huì)可能分裂成一個(gè)又一個(gè)的信息繭，人類(lèi)將從網(wǎng)絡(luò)時(shí)代走入“繭”時(shí)代。
第二種情況下，硅幕所分隔的或許不是彼此敵對(duì)的人類(lèi)，而是人類(lèi)無(wú)法理解的算法霸主。算法大網(wǎng)將束縛、控制著人類(lèi)的生活，重塑人類(lèi)的政治與文化，甚至改造人類(lèi)的身體和思想，而人類(lèi)卻無(wú)力阻止。
希臘神話中，男孩法厄同發(fā)現(xiàn)自己是太陽(yáng)神赫里阿斯的兒子，于是央求赫里阿斯允許他駕著太陽(yáng)神的四馬金車(chē)出游一日，結(jié)果天馬失控，太陽(yáng)偏離了軌道，植被被烤焦，無(wú)數(shù)生靈慘死，大地眼看不保，直至宙斯出手，用閃電擊中法厄同，世界才免于被毀滅。
尤瓦爾試圖用這個(gè)故事發(fā)出警示：人工智能或許就是那匹人類(lèi)根本無(wú)法駕馭的天馬，一旦失控，災(zāi)難會(huì)洶涌而至。
人類(lèi)是地球上最聰明的動(dòng)物，也是最愚蠢的動(dòng)物，而人類(lèi)遇到的問(wèn)題，歸根結(jié)底是信息問(wèn)題。基于這個(gè)判斷，尤瓦爾給出的解決方案是：在天真的信息觀和民粹主義的信息觀之間，探索一種中間立場(chǎng)，打造強(qiáng)大的自我修正機(jī)制，并通過(guò)當(dāng)下的每一個(gè)選擇，將非生物智能導(dǎo)向?qū)ι莼欣姆较颍侵旅腻e(cuò)誤結(jié)局。
人工智能到底是打開(kāi)了潘多拉的魔盒，還是開(kāi)啟了新世界的大門(mén)？答案或許正如尤瓦爾所言：“歷史的軌跡無(wú)比開(kāi)放，可以彎向任何方向、走向任何地點(diǎn)。”
本文鏈接：http://m.albanygandhi.com/news-23-5857.html算法造神，人類(lèi)入繭
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
