一切寂然無聲。
上帝，求你不要讓他們傷害她。求你告訴我該怎麼辦。
公寓門外，走廊裡迴盪著沉重的腳步聲。我妻子芭芭拉把梅拉妮緊緊地抱在胸前，我那才10歲的女兒在她媽媽的臂彎裡無聲地抽泣著。理查德坐在她們身旁的一個破舊的沙發上，手搭在妹妹的肩膀上。
我們在等待。
門外傳來一個年輕女人的聲音，讓她朋友查看一下信件，說她昨晚忘記查收了。一個深沉的男聲讓她把鑰匙扔過來，他好打開看看。她把鑰匙扔過去，鑰匙丁零噹啷地掉在了地板上。女人大笑著走出去，高跟鞋嗒嗒地響。信箱吱吱嘎嘎地打開又關上了。那個男的說了一些話，沒能聽清。然後，卡嗒一聲，兩人關上了房屋的前門。大樓外面一輛出租車駛過，喇叭發出刺耳的聲音。
又是一片寂靜。
我不斷地透過門上的探視孔往外面的街上看。大樓前門旁，是行色匆匆趕去上班的人們。在位於第44街和第45街之間靠近第9大道的市遊樂場裡，幾個孩子正猶猶豫豫地坐在冰冷的鞦韆架上。我記得幾個星期前，短暫的秋高氣爽的日子裡，我還推著梅拉妮蕩鞦韆呢。她依然喜歡讓我推她，當我的棒球帽從腦袋上飛出去時，她依然會大笑，彷彿我站在鞦韆架前時她踢了我一腳。我還能想像出黃昏時金色的陽光從她背後照射過來，映襯著她的頭髮。我會笑著跟她說：「嗨，你知道嗎？」她就會轉著眼珠回應道：「知道你愛我嗎？」我笑了，然後她接著說：「爸爸，你真是個笨蛋。」
但我確實愛她，勝過我自己的生命。現在，他們要來了。我付不起錢了，不知道該怎麼辦。
大約兩年前，我們就搬離新澤西郊區的大房子了。房貸、稅負高得離譜，讓我們不堪重負。我們在鎮上找到了一棟公寓大樓，開支可以減少三分之一，但由於賣房子交了手續費，所以我們仍然沒能省下多少錢來。搬家真是夠糟糕的。我們很喜歡原來的鄰居，很喜歡我們的房子。我總是能夢到真正的壁爐，我們原來擁有的那種壁爐。那時，每個孩子都有自己的房間，我和妻子也有各自的辦公室。一切都很完美。後來，我們失去了這一切。
起初，自動化看起來似乎是社會的自然演化。我認識的每一個人都把它當作現代工業時代的一部分，在這個時代裡，大數據才是新的準則。很多人可能會失去工作，但這種情況我們以前也遇到過。我的朋友們都稱讚我成了一名「人類作家」，從而保住了工作，但在最開始時他們是嘲笑我這個想法的。後來，許多人便開始偷偷問我是怎麼跟老闆說清楚這個想法的，想試試看他們是否也能用同樣的辦法保住工作。其中的一個朋友是領著高薪水的醫療技術人員，有著各種各樣的學位證書。還有一個朋友是替他妻子問的，他妻子是一名有著多年工作經驗、薪水很高的行政助理。他們在同一年丟了工作。我曾就這種快速增加的失業問題寫過幾篇文章，但後來根據我的一個編輯機器人推算，這些文章可能會引發缺乏正面思想的評論和帖子。所以，我就不再寫了。
在那個街區，我們不是唯一被迫搬家的，但這並不能讓我有所安慰。對於那些正在打包的父親，我感到一種特殊的情結。是技術革新也好，是境遇不公也罷，作為丈夫和父親，我感覺自己很失敗。或許，從文化角度來看，等我兒子長大之後，他或許不會有這種感覺。但作為一個已經46歲的中年人，住不起我們夢想的房子，這讓我感到很沒男子氣概。羞愧像毒藥一樣充滿了我的身體。它隨我一同醒來，讓我夜不能寐，終日伴隨著我。如果你從沒有體驗過負債纍纍、沒有失去過工作，或者沒有感受過這可能帶來的揮之不去的恐懼的話，那你真幸運。
但你是個例外。
就在我們搬到這個1 000平方英尺[1]的公寓僅僅幾個月的時間之後，我就失業了。人的角色被機器取代，所以公司覺得把其法律人格讓渡給庇護其知識產權的物體才更合適。我已經預料到這遲早會發生，所以我對待GP就跟對待真實的人一樣，以免引來任何法律上的麻煩。的確，作為「人」，他是個不折不扣的蠢貨，但很諷刺的是，這倒有助於我很快把他當成一個人來看待。
只有我在公司加班到很晚，燈都滅了的時候，我才想起來他是個電腦。我常常會產生一種非常奇怪的感覺，覺得我不應該在那兒，覺得GP就要追求我們的複印機了，而我則妨礙了他。說真的，這種奇怪的感覺真的一直揮之不去。我不是說複印機的事，而是感覺GP跟我的卷筆刀等其他的東西是不一樣的。在Makerbot打印機迅速火起來之後，我們公司也買了一個，我對這台3D打印機也有同樣的感覺。它可以聯網，甚至可以打印人體器官。我不是在開玩笑——把捐贈者的DNA（脫氧核糖核酸）放入類似泡沫橡膠的一種塑料聚合物材料中，你就可以很快做出一個肝臟來。我們沒有用打印機打印過器官，但我們隨時可以這樣做，這既讓人鬱悶，又讓人心安。
在3D打印的圈子裡，產生了一個令人驚奇的「製造者」圈子。各種新產品或設備的小規模打印中所蘊含的創造力和自由激勵著人們紛紛創業。從這個角度來看，還是挺鼓舞人心的。但如果GP願意的話，從某種程度上來說，他可以創造並打印出自己的身體，一想到這兒，還是挺讓人害怕的。我看到有新聞說，挪威奧斯陸有個團隊已經創造出了一種可以自主學習、自主修復的機器人，可以在緊急情況下進行3D打印。所以，在深深的礦井下，如果遭遇危險，我們可以打印一個機器人，使之前往對人類而言太過危險的區域。我覺得警察沒有理由不在新年前夕的時代廣場安置這樣的機器，以防萬一。如果遊客太過擁擠，那就打印幾十個安保機器人，好讓主持人卡森·達利繼續工作，讚美生活的平庸。
而從我的工作角度來看，當你需要創作能夠吸引人們留言的內容時，那就可以打印幾個新作家出來。當然，在把我炒掉之後，管理層甚至不需要為我創造一個人形的身體。他們只需專門用一個新算法處理和人性有關的問題，然後就可以進行測試。等到我離開的時候，算法就會變得非常先進，可以讓各個商家百分之百準確地知道哪些消費者一定會點擊他們的廣告。操縱會變得極為細微，以至各商家都不得不防止消費者因為過分迷戀其產品而破產。這並不是因為他們在乎人們的損失所帶來的情感傷害，而是因為如果消費者破產了，他們就不能繼續買東西了。這是有分析數據作為支撐的。
更大的挑戰在於各商家如何分攤並定位每個消費者，因為真實的偏好這個概念如今已經成為歷史了。消費者已經被根據人口統計學特徵進行了極致的細分，已經處於傳感器的嚴密監控之下，從而使得任何公司都能實時地把產品灌輸到人們的意識中，並確保購買交易的成功。食品是最為簡單的。一旦可穿戴設備監測到人體血糖的下降，就會向十幾家不同的公司發出信號，每一家公司都會提供最近的GPS定位分析，讓消費者購買其產品。而離消費者最近的6家公司則要參與一次由數字廣告委員會負責的即時彩票抽獎活動。這種彩票是專門用來防止壟斷的（但通常會受到遊說團體的影響），它會選擇兩家公司與消費者對接，算法最快的商家會贏。這跟多年以前人工智能設備更快或者距離華爾街更近的金融交易所能達成最合適的交易基本上是一樣的道理。
把廣告投放給消費者的公司幾乎不再使用印刷廣告了。多年來，增強現實隱形眼鏡借助其專利注視付費（pay-per-gaze）技術，一直在對人們的視網膜進行測量，取代了以往對情緒的測量。消費者感覺喜不喜歡某個產品已經不重要了——他們的身體所做出的反應會出賣他們，至少會提供如何能讓他們改變偏好的線索。同樣，如今大多數人植入耳蝸的耳塞可以直接向神經系統發送信息。根據每個人精心定制，能夠刺激某種特定情緒反應的聲音會在人們考慮吃點兒東西休息一下的那一刻被精準地發送過去。辦公室裡紙張的沙沙聲也會被恰當地調整，好讓人想起爆米花爆開的聲音，就跟在電影院裡一樣生動而誘人。
已經有人開始嘗試侵入大腦了，他們對大腦的特定區域進行電刺激，從而可以在沒有實際觸覺輸入的前提下體驗特定的物理感受。對於這些消費者神經技術的粉絲們，廣告商可以利用本地藍牙網絡製造對人腦精準定位的音頻電磁衝擊波。被列為定位目標的消費者將會非常渴望來一杯可樂、樂事薯片或銳滋花生巧克力杯，而這個過程彷彿是自然發生的一樣。企業知道他們的刺激會引起內啡肽和荷爾蒙的釋放，把人們的思想慾望轉化成身體慾望，從腦電波落實為對品牌產品的渴望。然後，不管企業操縱這個人去買什麼東西，他都會去買的。這個過程沒什麼神秘的，這是機器學習算法、人工智能和廣告驅動的消費經濟的自然演變，只不過是這個始於網絡的過程被社會內化了而已。
隨著失業引起的抑鬱逐漸嚴重，我也一直能夠收到各種廣告信息。通過可穿戴設備和面部識別技術可以輕易地追蹤抑鬱的症狀。只需要簡單的算法便能預測出我何時最抵抗不住誘惑。晚上看電視的時候，我竭力想忘掉我們巨大的債務。這時，有針對性廣告常常會進入我的意識。幾個月下來，各個商家依據我的實時自卑數據，不斷對我進行糖類和化學品廣告的狂轟濫炸，結果我的體重增加了50磅。
儘管我們的信用等級降低了，但還是能不斷收到辦理信用卡的邀請函。顯然，為誘惑有經濟困難的人所投入的紙張、郵票及其他努力，還是比給他們提供實際幫助更加有利可圖。在新澤西的第一個公寓時，我們就已經刷爆了所有的信用卡，這也是我們搬回到曼哈頓這個500平方英尺的住所的原因之一。這個地方是從一個朋友手裡轉租的，允許我們晚交房租。
我和芭芭拉找不到工作。儘管自動化專家們說在大多數工作被機器人接管之後的很長一段時間裡，都會需要創造性技能，但我的經驗卻證明這是錯的。芭芭拉是一名有著多年工作經驗的高薪律師，也同樣被軟件程序輕而易舉地取代了。這種程序利用蠻力算法進行研究、歸檔和開單，速度比任何人都要快上10倍。
我們的積蓄迅速地蒸發了，而且我們幾乎付不起新公寓的房租。幾個月前我們就停止支付信用卡賬單了。現在唯一還給我們打電話的就是催債的人。手機上「未知號碼」的每一次鈴響、每一次震動都讓我體會到越加冰冷的恐懼，彷彿滲透到了我的胃裡。這是我不能理解的。信用卡公司知道這些商家是如何操控我們買東西的。他們看到數百萬個像我這樣的人試圖用食物、藥物或者賭博來趕走籠罩著我們這個自動化國家的抑鬱。難道他們不明白我可能永遠都還不起錢嗎？難道他們的算法不能精確地算出來我連最小金額的賬單都再也付不起的具體時間嗎？他們當然能。但他們的機器人還是一周7天、每天24小時地給我打電話，永遠不覺得累，永遠不需要休息，永遠不會為我的困境而感到同情或愧疚。
他們把羞愧自動化了。
所以今天，我們在等。因為我們家裡唯一有點兒價值的東西也要被拿走了。這是唯一值得麻煩他們親自來我家拿的資產。債主不會派機器人來我們這一帶，因為凡是來到這裡的機器人總是會被毀掉。
他們要來拿走梅拉妮的芯片。
公眾才剛剛開始在大腦裡安裝軟件。儘管最先安裝的人和超人類已經依賴和梅拉妮類似的芯片生活了很多年，但他們還算是特殊人群。可如今，時代思潮預示「裝芯片」可能會風靡一時。可穿戴設備已經讓人們習慣了聯網軟件成為其身體的延伸。人們在屏幕前耗費如此多的時間，似乎把這個設備放在身體裡，剖開視神經和神經元，通過機器來體驗這個世界看起來也是正常的。
梅拉妮的經歷為研究一個女孩兒年幼的身體如何與芯片的突觸及電磁腦繼電器相互作用提供了珍貴的案例。多年來，她的生理數據一直被詳細地記錄下來，與成年女性的生理數據進行比對，從而衡量其對食物、男孩兒、創傷等一切事物的反應。對製造商來講，梅拉妮的芯片及所儲存的數據是知識產權的源泉。而如今我們買不起最新的固件更新了，他們就想把芯片收回來。如果是最新一代的芯片，一旦裝上，用戶就永遠不用再把它移除了。所有的更新都可以通過Wi-Fi聯網遠程完成。但梅拉妮的芯片是這種技術的測試版。自從安裝上之後，她已經更新過兩次了。兩次都需要動手術，為此我們付出了多年的積蓄。
但這讓她多活了幾年。我們根本不知道如果沒有這個芯片的話，梅拉妮的青少年帕金森病會不會復發。施瓦瑪醫生猜測最好的情況就是梅拉妮的大腦在手術之後有了自我修復的時間，從而能夠繼續正常運行。但我瞭解施瓦瑪醫生——知道她有多喜歡梅拉妮。她跟我們說這個消息的時候，表情嚴肅。她沒有說謊，但也沒有詳說可能會有的不良後果。坦白來說，根本沒有什麼證據可以表明從梅拉妮這樣的健康患者腦中拿掉芯片會發生什麼。壓根兒就不會有人這樣做。
除非你是我，除非你失業了。除非你被擊垮了，被機器擊垮了、被環境擊垮了、被這個世界運行的方式擊垮了。
我看了看我的家人。他們坐在沙發上，抬頭看著我。梅拉妮從芭芭拉的胸前掙脫開，用手背抹著眼淚。
「梅拉妮。」我說道。
「怎麼了，爸爸？」
「你知道嗎？」
她微笑著，吸了口氣：「我也愛你，爸爸。」
我們公寓的門鈴就在我耳邊爆炸般地響了——三聲急速焦躁的響聲。我透過探視孔往外看，看見兩個穿著制服的人站在外邊的街上，其中的一個拿著醫療箱。過了一會兒，他們又按了門鈴，這次，其中一個人的聲音從對講機那邊傳來，有些失真：
「黑文斯先生，我們來找您女兒了。請打開門。」
如果我們不把基於網絡意識的思維克隆體當成活生生的人來看的話，他們就會變得非常、非常憤怒。
——瑪蒂娜·羅斯布拉特博士，《虛擬人》
根據哥譚作家工作坊的解釋，科幻小說與奇幻小說這兩種文學體裁的區別在於「科幻小說探索的是可能發生的事情（哪怕未必會真的發生），而奇幻小說探索的是不可能發生的事情」。他們引用雷·布萊伯利的話，將科幻小說描述成「未來的社會學研究，作家相信將來會發生的事情」。
布萊伯利的話對我大部分的精神生活做出了恰當的解釋。我對科學和技術有著無窮無盡的好奇，它們深深地吸引著我。我喜歡奇幻小說——我是《指環王》等這類題材作品的超級粉絲——但那些講述在不遠的將來可能會真的發生的曲折的生活故事，則尤其讓我著迷。我在本書各章開頭所寫的故事就是這個類型，目的是為了證明我所描述的大部分技術和趨勢已經露出了苗頭。它們與其說是科幻小說，不如說是科學反思，因為它們是真實存在的，是在未來某個點的文化發現中即將出現的。它們的應用已經開始了，只不過還沒有廣泛普及。
我不喜歡用恐嚇戰術或者鏈接誘餌，我相信我們有很多機會從操縱我們的自動化智能中解脫出來，這在本書的後半部分將有所闡述。這種自由很大一部分將體現在對個人數據的掌控上，但它同時也需要我們好好地明確自己的價值觀，從而能夠將其編入那些滲透進我們生活各個角落的設備之中。毫無疑問，這東西可不好弄明白。諸如「身為人的意義何在？」的問題已經變得非常複雜，因為我們已經開始通過互聯網尋找答案，而不是從內心尋找。我們在哪裡止步，機器從哪裡開始，這已經搞不清了。等到我們從鏡子裡看到機器人形態的自己時，這會變得更加模糊不清。
令人擔憂的技術決定論
瑪蒂娜·羅斯布拉特是美國薪水最高的女性首席執行官，她還是一位知名的律師、未來學家和商人，登上了2014年《紐約》雜誌封面。一篇題為「改變一切的首席執行官」的文章對她進行了專題報道。她原為男性，於1994年接受變性手術，之後依然跟伴侶比娜·阿斯彭保持婚姻關係。二人已經結婚30多年了，那時羅斯布拉特還是男性。羅斯布拉特還以妻子為原型，創造了一個叫作比娜–48的機器人，使用了面部識別、聲音識別和人工智能等多種技術，五官跟比娜長得極為相似。
通過LifeNaut網站，你可以瞭解更多關於比娜–48的信息，還可以創造一個思維文件，這就跟我在第3章裡虛構的機器人兒子一樣。LifeNaut計劃屬於特雷塞運動基金會，其常務董事布魯斯·鄧肯（教育碩士）曾在2013年創意之城大會上發言，並對比娜–48進行演示。鄧肯指出，思維文件的概念將對人類產生巨大的變革作用，就跟當初人類創造了語言一樣。他說道：「那個時候，我們會在法國某個洞穴裡作畫，以此來分享故事。如今，互聯網正把我們所有的新大腦皮層連接起來。」LifeNaut正通過幫助人們上傳自己意識表達的圖片、視頻或帖子等電子文檔來加速整個進程。這樣，我們生命的模因將最終允許我們的數字替身同時出現在多個地方。正如鄧肯所述：
如果人成為自己思維文件的管理者，人工智能便可以讓我們復活，並把我們帶到其他地方，就跟我們使用電話一樣——可以同時身處兩個地方。在不遠的將來，比方說，10~15年，我們就不會再覺得自己有個自我備份是什麼稀奇事兒了。這個自我備份會包括我們的態度、信仰和我們的本質。
儘管我仍在竭力理解有多個自我副本穿越時空並行存在是什麼概念，但考慮到當前我們個人數據的現實，這個想法還是有些根據的。目前，我身份的多重副本尚處於一個個分離的狀態，由很多獨立的機構掌管，但這些副本確實是存在的。我倒十分樂意把這些身份捆綁在一起，放進像LifeNaut提供的倉庫裡，這樣我就可以補充或管理我自己的身份，而不是把它們丟給只關心利潤的其他人。
儘管我很讚賞LifeNaut的這種慈善行為（截至本書創作之際，在www.lifenaut.com網站上創建並存儲思維文檔都是免費的），但對於羅斯布拉特在其書中所描繪的願景，我還是有一些疑問的。最讓我擔心的，是她關於我們應該如何對待基於網絡意識的思維克隆體的言論。在《虛擬人》中，羅斯布拉特曾反覆說到過這個主題。她把消極對待思維文檔的做法比作種族主義對黑人的歧視，比作恐同族對男同性戀的排斥。但如果這些思維克隆體使用的是人工智能，難道它們不會忽視我們人類愚蠢的卑鄙看法嗎？我知道我們會給它們灌輸情感，但作為第一代思維文檔，難道它們不會意識到我們人類需要一些時間才能適應這自人類從原生動物進化而來後的最大的變革嗎？
同時，我還覺得羅斯布拉特在描述如果我們不「把它們當成人看」，它們將會有多麼憤怒時，完全沒有必要重複「非常」這個詞。這是恐嚇，明擺著的。面對這虛擬槍口的威脅，我們該如何適應這種新的生命形式呢？而這些思維克隆體對人類的憤怒又到底會怎麼表現出來呢？
同樣令人擔憂的是羅斯布拉特對思維克隆盈利方面的關注。儘管作為一個商人，她關注這個是可以理解的，但這種關注影響了我對這些理應與我們平等的未來生命個體的理解。以下是摘自《虛擬人》的一段話：
思維的數字克隆正以迅猛的速度自由發展……大量的財富等待著編程隊伍去發掘。他們創造了有著烏托邦社會裡的工人那樣的責任心和順從意識的數字助手。儘管這可能會讓一些人感到不適——這種不適是我們必須要面對的——但這種讓祖母以思維克隆體的形式在塵世多待上幾個世代的辦法相對簡單容易且不貴，對這個大規模市場的營銷可就意味著大筆大筆的真金白銀（作者強調）。
在我看來，創造一個「順從的烏托邦式工人」似乎是不平等的。考慮到思維克隆及其所棲居的機器人有不同的層次水平，如果這些工人被灌輸進任何形態的意識的話，難道他們不會因為必須遵守我們的指令而感到憤怒嗎？正如前面一章中故事中的「我」向機器人兒子所透露的那樣，難道這些有著高層次意識的思維克隆體不會因其種族成員不被重視而感到憤怒嗎？
對於羅斯布拉特對隨著思維克隆的普及而來的「大筆大筆的真金白銀」的關注，我很難不抱有反公司的懷疑態度。儘管我理解她想要讓每個人都用得起這個技術的初衷，但如果我們要把思維克隆體看作合法的、完整的個體的話，那為何不把出售思維克隆體看作機器版的販賣人口的行為呢？當她指出購買及使用思維克隆的便利性時，她這種明顯的避免犯「人類主義」或針對有感知能力的思維克隆體的種族主義錯誤的立場，便失去了可信度。
總體來看，羅斯布拉特的願景中最讓我難以接受的一點，在於她覺得人工智能的思維克隆體必然會很快取代人類。雖然我也同意自動化智能的影響是不可避免的，而且是已經發生了的，但最讓我擔憂的是她這種技術決定論思想（即認為是技術推動社會結構及文化價值觀發展的思想）。這反映出了硅谷人士普遍持有的態度，即之所以應該創造某種技術是因為我們有能力，而不是因為有必要。創新所涉及的任何道德或價值觀問題，都是在技術已經引入市場之後才會考慮的。因此，任何有價值的討論都會圍繞究竟是應該迫切地把魔僕塞回瓶子（即避免不良後果產生），還是應該創造人人都認同的對人類有價值的技術。
沿著這一思路，我們要說到於爾根·施米德胡貝，他是一名計算機科學家，因其幽默的藝術作品以及在人工智能領域的專業知識而聞名。在最近的一次洛桑TEDx大會發言中，他描繪了一個跟羅斯布拉特的願景類似的技術決定論觀點，認為機器人超越人類能力的發展趨勢是不可避免的。他將4萬年「人類主宰的歷史」最後終結的時刻稱之為「歐米茄」（希臘字母表的最後一個，有「終了」之意），詞義跟「奇點」接近，並預言這一時刻將會在2040年左右到來。他在講話中談到他的孩子將會有大半輩子的時間都生活在一個新的世界，在那裡，新興的機器人文明比人類更加聰明。演講最後，他建議聽眾不要以一種「我們對他們」的心理看待機器人，而是要「將自己及人類整體看作一塊墊腳石，我們只是這個宇宙朝著更加深不可測的複雜未來演化之路上的一小塊墊腳石，但也不是最後一塊。因此，我們要為自己在這項宏大事業中所扮演的小小角色感到知足」。
施米德胡貝得有多麼屈尊俯就才能說出這樣一段話，這真是令人難以理解。他完全相信自己正在創造的技術從某種程度上來講會把人類徹底消滅，而對此深信不疑的他建議緊張兮兮的旁觀者們擁護這一大屠殺行為。在後面的講話中，他又指出一點，即幾乎沒有哪個政客意識到了人工智能技術發展之迅速及其所帶來的文化影響。所以，我們人類滅絕肯定是不可避免的，但至少我們小小的腦袋為這個將會統治我們呆笨的子孫後代的新秩序提供了養料。萬歲啊！要知足！
這種態度是不健康的。
對於程序員、倫理學家及社會科學家們等瞭解即將到來的機器自治所具有的後果的人來說，有一點是需要銘記的，即不能盲目地開始潛在的人類進化的進程，這是極為重要的。我們不能不考慮被取代的人類，而主動創建一個把工作、情感及人際關係都自動化了的體系。
當然了，除非你是個恃強凌弱的人。
這正是耶魯大學計算機科學教授戴維·傑勒恩特在其發表於《評論》雜誌上的題為「科學精神的封閉」的文章中所說的科學決定論。施米德胡貝的講話正是表達了這一觀點：
很多科學家非常驕傲地把人類從宇宙中心的王座上趕了下來，把他貶低為茫茫銀河系動物園中的一種普通生物——一種尤其招人討厭的生物。這是他們的權利。但當這些科學家用這種難登大雅之堂的傲慢來藐視人類的觀點，藐視人類的生命、價值觀、美德、文明以及所有道德、精神和宗教發現——這些我們人類現在擁有或者將來可能有的一切的話，那他們就脫離實際了。他們就是在侮辱自己的文化立場。科學也就成了國際性的恃強凌弱的霸王。
如果信奉奇點不可避免這種觀點，我們便會喪失整個人類唯一的一次能明確人之所以為人，並能減少我們即將讓位的壓力的機會。具有感知能力的人工智能尚未來到。正如傑勒恩特所指出的，消滅人類思維與思想所具有的獨一無二的美，而為極有可能發生的虛構故事讓位，是一種種族滅絕行為。而此時，在自動化研究與應用高度發達的今天，完全放棄，即認為應該叫停所有人工智能的研究以拯救人類的態度，也是不現實的。但構建道德標準所面臨的困難也不應該阻止我們嘗試的腳步。
我們人類值得這麼大費周章。
區分創造者與創造物
機器智能的崛起最迷人的一點在於它對人性特點的強調。我們是機器的創造者。因此，我們是依照自己的形象進行創造的。有些人說，我們之所以選擇與機器人建立關係，是因為這樣我們可以有更多的控制力。但我認為，這是因為我們天生覺得混亂複雜的愛與情感更具吸引力，這正是我們人類的本性使然。我們之所以有了這些機器人同伴——老年護理機器人、保姆機器人、浪漫機器人——是因為我們變得太忙了。置身於這樣的繁忙文化氛圍中，我們再也無暇顧及彼此了。所以要問的是，到底是機器人越來越像我們，還是我們越來越像機器人？
——拉莫娜·普林格爾，加拿大數字媒體網絡記者， 「阿凡達的秘密」的創作者
我朋友拉莫娜是遊戲界、超人類主義和數字文化領域的思想領袖。她創作的iPad平板體驗應用——「阿凡達的秘密」（Avatar Secrets），把實景拍攝視頻、動畫片段以及對整個數字競技場中的諸多專家進行的採訪綜合到了一起。在經歷了感情挫折、親人患病等極為艱難的人生階段之後，拉莫娜躲進了廣闊的網絡遊戲世界以尋求安慰。這段經歷讓她開始探索到底是個人及社會丟失的哪些東西讓人們陷入了虛擬世界。
應該指出的是，遊戲或虛擬世界可以提供許多人在日常生活中所體會不到的安慰。正如遊戲設計師簡·麥戈尼格爾在其TED演講及《遊戲改變世界》一書中所指出的，沉浸式遊戲以替身的形式為人們提供與線下玩家一同追求英雄事跡的機會。在這種情境中，自尊心的增加及團隊成就的獲得都無比真實。同樣，《紐約時報》最近曾刊出一篇題為「致我深愛的Siri」的文章，記錄了一名患自閉症的13歲男孩迷戀上蘋果手機自帶的個人助理Siri應用程序的辛酸故事。儘管Siri的開發並非是專門為了應對自閉症，但它確實能夠給這個男孩帶來安慰與快樂。
以上例子證明了虛擬和人工智能技術領域能夠提供的積極機遇。就遊戲玩家和自閉症兒童的家長們來說，他們有權選擇以自己的方式使用技術。我無權也無意妄加評判。如果我真去評判的話，那我就是個偽君子，因為我自己就很依賴設備。
但這些技術的實用性並不能成為人與人之間互不理會的正當理由。Siri看起來似乎是個研究自閉症的極好的工具。但如果作為家長的我處於同樣的處境，我會希望自己的孩子能夠利用這個工具增強其與人交往的能力。遊戲固然很酷，但它不應該阻礙我們努力構建一個能夠提供意義與集體感的真實世界。
我們可以不借助這些奇妙的工具來歌頌我們的人性，我們可以區分創造者與創造物的區別。否則，我們就陷入了讓人工智能決定我們的價值的詭計，否認了我們現在所具有的人性的魅力。
本章主要觀點總結如下：
奇點已然可見。如今，推動人工智能眾多領域發展的思想、哲學及經濟動因已然存在。儘管人工智能專家可能相信具有感知能力的自動化技術還需要幾十年的時間才能到來，但這種威脅已經產生了，我們現在就要想辦法應對。否認這個問題的重要性，就等於接受可能帶來的後果。
思維文檔與金錢。我們的數字替身已然存在。我們要麼通過LifeNaut這類程序控制它，要麼任由廣告商、數據代理商及優先算法為其利益進行組織管理。沒有什麼折中的辦法。
搜索與政府的分離。科學決定論是一種類似於宗教信仰的哲學論斷。無論自動化技術可能會帶來什麼樣的好處，它也有可能會使人類向更低級、更不好的狀態發展。基於這種信念，我們需要提前做好法律支持。
擁抱真正的進步
在道德領域有個概念叫作道德絕對主義。這些年來，我越發覺得這個概念非常有用。它認為某些行為要麼對，要麼錯，或者說「好或壞」，這是其基本思想。我最先接觸這個概念是在閱讀英國著名神學家C·S·路易斯（他原是無神論者）的文章的時候。為給這個概念下定義，他以乘坐公共汽車的一名乘客為例，描述她在兩種不同情境中的感受。在第一種情境中，她走上車，想在一個空位上坐下來，但座位旁邊的一個人先坐下了。而在第二種情境中，在她正想坐下來時，有個人把她擠到一邊，把座位搶走了。除了可能造成的肢體疼痛之外，為何乘客在第二種情境中更容易因為座位被搶走而感到生氣呢？根據路易斯的假設，此人對於何為對及何為錯有一種與生俱來的理解，正是這種理解讓她產生了憤怒的情緒。這也是人類特性與動物本能的對比。因為在這個例子中，沒有搶到座位根本不會對這名乘客構成生命威脅。
與道德絕對主義相對的是道德客觀主義，這種觀點認為環境或後果對一個人的道德行為也會產生影響。因此，舉例來說，如果衝撞了該乘客的是一位殘疾人或者是因為中風發作才撞到她的，我們就會感覺這個人的行為是有正當理由的。又或者說，如果一個人偷東西是為了養活家人，那這也是可以接受的。我覺得這些情況也都有道理。但就某些問題，如對兒童施暴等問題而言，我就信奉道德絕對主義。我覺得對兒童施加暴力是錯的。如果你跟我說有一種宗教要求拿孩子當祭品，或者鼓勵家長通過毆打孩子來教導他們，那我會覺得這些做法從道德上講是令人痛恨的，從倫理上講也是不可接受的。我會與其他人一同構建法律，以保護孩子們免受傷害。如果有哪種文化鼓勵對女性施加性侵的話，我也是要批評否定的。
在當代社會，追求政治正確性是值得稱讚的行為，界定我們人類普遍覺得不公平或者不明智的行為同樣也十分重要。我們已經到了技術要取代人類的地步了。但不像勒德分子所宣揚的，這種威脅不僅僅是針對我們的工作，它還關係到我們的生命。儘管某些人甘願做人類自然演化的墊腳石，但也有一些人會看出這是一種冗余的修辭。
值得高興的是，本書反烏托邦的部分到這裡就結束了。下文將會指出，人工智能領域及全世界的許多偉大思想者都明白，自動化技術已經催生了無知與恐懼的威脅。全球學界、商界及政界的專家們正在努力打破壁壘，開始定義人類希望擁有的人性，從而在沒有人類滅亡威脅的前提下享受技術帶來的好處。這是我們追求長期目標而非短期利益的一次神聖的機會。現在正是我們不依賴機器，做出促進人類未來發展的決策，從而擁抱真正的進步的時候。
[1] 1平方英尺≒0.093平方米。——編者注