什么是循環(huán)？本書提到三個循環(huán)：第一個循環(huán)也是最核心的循環(huán)，即世代沿襲的人類本能。人類天生具有偏見，而且更傾向于使用大腦的系統(tǒng)行事，在這個過程中，人類原有的偏見進一步被強化，形成第一個循環(huán)。第二個循環(huán)是來自現(xiàn)代的力量，如消費類技術(shù)、資本主義、營銷和政治，它們對核心循環(huán)的人類行為進行采樣，總結(jié)出模式，再將這些模式反作用于人類，最終引發(fā)了一系列問題。第三個循環(huán)，即本書書名所指的循環(huán)，是來自人工智能的影響。AI對人類偏見進行采樣，總結(jié)出規(guī)律，最后把這些規(guī)律反作用于人類，形成第三個循環(huán)。
人工智能將改變我們所知的世界。但真正的危險不是某個機器人會奴役我們，而是我們自己的大腦。我們的大腦經(jīng)常使用捷徑、偏見和隱藏的過程來做決定——我們正在使用同樣的方法來創(chuàng)造技術(shù)，為我們做出選擇。作者雅各布·沃德認(rèn)為，人工智能對人類最大的威脅不在于機器人的反撲，我們的大腦才是最需要堤防的因子。在決策時，大腦會受到偏見、情緒等因素影響。而當(dāng)我們在選擇要喂養(yǎng)哪些信息給智能產(chǎn)品時，往往也會把這些盲點和謬誤一并復(fù)制進去。
人類的思維本來就有認(rèn)知偏誤，行為也受各種無形的外力牽引。而在當(dāng)今模式識別科技與引導(dǎo)式?jīng)Q策的相互作用之下，智能產(chǎn)品幫我們寫好了一切行為的劇本，人類選擇因此受到限縮。沃德提醒，如此一來，不僅不公不義的現(xiàn)象更加嚴(yán)重，人類創(chuàng)新的本能和思考的能力亦將大幅退化——這才是我們在面對智慧科技時真正應(yīng)該擔(dān)心的事情。
>>內(nèi)文選讀
這個星球上，我們占據(jù)的空間已經(jīng)遠遠超出了自然的范疇。而現(xiàn)在，我們?yōu)榱诵屎屠麧櫍谥匦略O(shè)定地球、人類的模式。我們放松了對甲板上的系統(tǒng)的控制，這將會從根本上改變船上每個人的行為，這些改變將會傳給后代子孫，而他們甚至可能還沒有意識到自己做了什么。這種模式將會自我重復(fù)，并且一代又一代在行為和技術(shù)循環(huán)中持續(xù)下去。這就是本書的主題。
我為本書起名《循環(huán)》，但實際上，我想要闡述的循環(huán)有三個。讓我們想象一下，一個小循環(huán)嵌套在第二個循環(huán)中，第二個循環(huán)嵌套在第三個循環(huán)中。如果想要清楚地看到每個循環(huán)，還需要檢視其他循環(huán)。我將從最小的循環(huán)開始，它是我們做的一切事情的核心，它已經(jīng)旋轉(zhuǎn)了數(shù)萬年，甚至數(shù)百萬年。
最核心的循環(huán)是我們所沿襲下來的人類的行為，是進化賦予我們的天生的好惡傾向和依靠慣性生活的能力。這個循環(huán)無所不含，包括我們的種族偏見、準(zhǔn)確判斷風(fēng)險能力的缺失，等等。這是本書的第一部分，因為要理解其他循環(huán)，還需要懂得它們是如何依賴于這個循環(huán)的。
一旦我們理解了這一點，我們就可以看看第二個循環(huán)。第二個循環(huán)是來自現(xiàn)代的力量，如消費類技術(shù)、資本主義、營銷和政治，它們對核心循環(huán)的人類行為進行采樣，然后再將這些模式反過來用在我們身上，最終引發(fā)了一系列問題，如煙癮、賭癮，以及房地產(chǎn)和機器學(xué)習(xí)領(lǐng)域的系統(tǒng)性種族主義等。
最外層的循環(huán)就是本書書名所指的循環(huán)。計算機會對古今人類的好惡傾向進行研究、采樣，并將其輸入自動模式識別系統(tǒng)，然后據(jù)此以一種細水長流的形式，將內(nèi)容推送給我們，讓我們更習(xí)慣于不假思索地接受。我為即將到來的這一切感到憂心忡忡。這個循環(huán)扼殺了我們的音樂審美，取而代之的是Spotify根據(jù)我們上周的歌單給出的推薦。這個循環(huán)對我們的政治傾向、社交喜好進行采樣，在Facebook上將我們與合拍的人放在一起，這樣我們就會形成強大的群體身份認(rèn)同，并全身心融入群體中，以至于對群體以外的人毫無興趣。這個循環(huán)會篩選所有可用的求職者，標(biāo)記出具備本領(lǐng)域佼佼者特征的人，那么你作為招聘人員，可能一兩天就能完成招聘，無須耗費幾周時間，甚至你可以足不出戶。在這個循環(huán)中，人們擁有的選擇急劇減少，資本主義對效率的追求又加劇了這一趨勢，那些讓我們無意識接受信息的系統(tǒng)設(shè)定令人無法抗拒，人類主觀能動性因此備受威脅。
這其實已經(jīng)發(fā)生了，但真正的威脅還要隨著時間的推移而顯現(xiàn)。而最大、最持久的影響至少需要一代人的時間才會顯露。不如這樣想：我們被無意識的傾向引導(dǎo)著，但幾乎不會覺察到這種傾向遭到了分析和利用。而以此為基礎(chǔ)的模式識別和決策指導(dǎo)技術(shù)則讓我們措手不及。在當(dāng)前的社會中，我們的政策和規(guī)劃缺乏長期的敏銳度，無法識別和控制那些決定著人類未來的事情。這就是本書的主題。
我希望在本書中闡明，我們所開發(fā)的那些會改變后代人類行為的技術(shù)，將給我們帶來什么挑戰(zhàn)。當(dāng)今時代，依靠這些技術(shù)，我們的行為可能會變得更有效率、回報更高、更可控。我們可能會立即獲得經(jīng)濟利益，或許在短時間內(nèi)，我們可以免于做一些困難重重，或是令人生厭的工作。對于我在這里描述的每一個危險的例子，都有其復(fù)雜的益處。但是，我們能否用達爾文的眼光展望未來，看看是否存在這種可能：一代又一代人的選擇越來越少，而且情況一路惡化？我們能否以某種方式預(yù)測它，并采取行動糾正它，即使這樣做的回報要在我們自己，以及孩子們都已經(jīng)離世之后才能顯現(xiàn)出來？如果我們做不到這一點，我擔(dān)心在一兩代人的時間里，我們將演變成一個完全不同的物種，對于那些代替人類決策的技術(shù)，就算做出了錯誤選擇，我們也無法凝神反抗，只能順從無助地接受。
但我認(rèn)為我們可以對抗這個循環(huán)。我們只需后退一步，勾勒出循環(huán)的輪廓，識別出存在于我們所有人身上的使循環(huán)成為可能的古老特性，再找到如今循環(huán)侵入我們生活的路徑，然后消除它對我們未來的影響。