「目前閱讀量5萬。你最新的帖子表現如何，老兄？」
我揉了揉眼睛，「大約2 000，長毛。」
在過去的幾年裡，人們圍繞著機器人取代人類工作的話題進行了很多討論。作為TechKnowledge的一名記者，我們不可避免地要對各種形式的人工智能進行試驗，然後根據自己的體驗為用戶提供深度報道。「長毛」便是2015年年初進行的試驗對像之一，他表現非常出色，所以管理層一直把他留在身邊，從而根據他寫的文章及文章反饋對其算法進行升級。起初，我們用他對奧斯汀的「西南偏南」（SXSW）一類的技術大會進行現場報道。這是對芝加哥一家名叫敘述科學（Narrative Science，自動寫作技術公司）的公司的效仿，該公司因為將其技術用於體育賽事報道而名聲大噪。你以為機器寫文章不如人類記者？請看下面美國體育電視網（Big Ten Network）機器人寫的新聞簡訊：
週四的坎普蘭德爾體育場內，威斯康星義無反顧地早早發力，以51︰17的比分領先內華達大學拉斯韋加斯分校。
在第一場四分之一決賽中，威斯康星獾隊一舉斬獲20分，其中拉塞爾·威爾遜獻出達陣傳球，蒙提·鮑爾持球觸地得分，詹姆斯·懷特持球觸地得分。
威斯康星攻勢兇猛，叛逆者隊防守無力。在本次比賽中，獾隊總計取得499碼，包括258碼傳球距離和251碼持球推進。
鮑爾持球63碼，為獾隊贏取三次觸地得分。他還兩次接球取得67碼並完成一次達陣。
這雖然算不上非常吸引人的文章，卻基本完成了對一項賽事事實的報道，而這可能是人類記者永遠沒有精力報道的。通過這種硅谷式新聞報道，讀者獲得了以往從未得到過的資訊。當我第一眼看到這篇簡訊時，「義無反顧」「攻勢兇猛」等詞就吸引了我的眼球。這些詞通俗易懂，讓這段文章看起來頗具人情味。
起初，人工智能程序難以識別諷刺等修辭手法，這曾讓人類作家一度感到十分欣慰。機器人程序編造的笑話通常十分荒謬或者蹩腳，例如「我喜歡刺激，就像我喜歡坐飛機一樣——便宜」，等等。然而，對於人工智能的這種表面上的缺陷，我並未感到一絲欣慰。一方面，很多人類喜劇演員也說了很多年的蹩腳笑話；另一方面，推特或其他網站上被頻繁轉載的真材實料的嚴肅文章也可以被人工智能程序識別並歸類為玩笑。
這也是「長毛」所經歷的事情。我們曾為他開了一個推特測試賬號，在6個月的時間裡，他不斷對自己的笑話進行反覆推敲，然後我們才為他開通了現在的賬號@gigglepussy。根據城市詞典（美國在線俚語詞典）的解釋，該詞描繪了一個女人對自己約會對象的興奮心情。「長毛」接受了這個名字，但他還以為這跟好玩的貓咪視頻有什麼關係呢，所以用錯了這個詞，結果成了網上的一大趣談。他的程序開發者開發出了一種算法，可讓他搜尋最有可能大受歡迎的貓咪視頻影片。借助這種搜索優化，「長毛」獲得了極大成功，成了最受公眾歡迎的一大「網紅」。而他的帖子和文章則引來了大量的關注和廣告收入，所以貓咪視頻便保留了下來。在廣告驅動的互聯網經濟中，眼球說了算。
能夠保住工作，我實屬幸運。在我前段時間發表的有關人工智能的文章中，我把自己的履歷改成了「約翰·C·黑文斯，人類記者」。這個自嘲的履歷給我帶來的評論數比我此前任何一篇帖子得到過的都多。我的老闆維多利亞是一位有著成功的公關經驗、善於預測傳播效果的女性，她讓我把履歷以後就這樣改了。成為一名「人類記者」不再是一種嘲諷，而是反映了我在這家機構的新身份。這對我來說是絕好的消息，因為要找到不被算法這樣或那樣影響的報道幾乎是不可能的。除非機器人統治世界，並把消耗資源的人類剷除乾淨，否則我寫的人類評論文章就能讓我養家餬口，並給予我們新聞工作者一絲氣節。
「長毛」的話筒發出一陣尖銳的口哨聲，打斷了我的思路。「你的文章竟有2 000條評論！這裡面只有四五百條是你自己寫的，對吧，老兄？」一個預先錄製的女聲這樣說道，「哦，漂亮！」隨後傳來一陣喜劇俱樂部裡才有的笑聲。我咬牙切齒地強忍住罵他的衝動，因為他的聲音傳感器會錄下我說的話。我曾一千遍一萬遍地希望自己能把他的音量調低點兒，或者在臨近他的硬盤驅動器的地方玩磁鐵，這再好不過了。管理層覺得讓他坐在桌子前會很有趣。在經過一整夜的編碼之後，程序員用記號筆在話筒上為他畫上了眼睛，又有人在硬盤驅動器上畫上了鬍鬚。所以他就被賦予了男性的聲音，以及「長毛」這個奇葩的名字。名字寫在了一張沾了咖啡污漬的便箋紙上，然後被貼在了其中的一個話筒上。
我的手機裡響起了雷蒙斯樂隊《我想安靜》的旋律。我伸手去接電話，這時，「長毛」說：「是芭芭拉嗎？能不能開免提？」
我歎了口氣，「好吧。」如果「長毛」是個男人的話，我肯定會嫉妒他的，他和芭芭拉總是有話聊。我打開免提，聽到馬路上汽車行駛的噪聲傳了過來，「嗨，親愛的。」
「GP在嗎？」芭芭拉問道。工作之外，所有人都叫長毛「GP」，是「gigglepussy」的流行簡稱。
「我在呢，芭布絲（芭芭拉的暱稱）。」長毛的聲音低了八度，聽起來就像巴裡·懷特，這是他調情算法的一部分，「一切都還好吧？」
「哈！」芭芭拉大叫道，「我很好，GP，謝謝你關心。對了，我非常喜歡你最新的帖子。那隻貓是真的騎著兩台掃地機器人，還是假的？」
「哦，那是真的，」長毛說道，聲音切換到正常音高，「雖然我是用算法來確定哪個視頻會得到最多評論，但我肯定會檢查有沒有偽造的痕跡，以免發成假帖子。」每當他這樣熱情洋溢地進行描述時，他的聲音聽起來就很像《霹靂遊俠》裡會說話的基特汽車。「你好嗎，自拍？」
「自拍」（Selfie）是芭芭拉自動駕駛汽車上的人工智能程序。和大多數中年人一樣，我和芭芭拉已經從起初學習使用GPS（全球定位系統），變得開始依賴它了。除了那次去米蘭參加講座之外，我自己都已經有十多年沒有碰過紙質地圖了，當時我真的是徹底地迷路了。如今，我和芭芭拉都給汽車裝上了人工智能程序，因為汽車就像是增強版的Siri助手，還是我們的便攜式起居室和娛樂中心。
在谷歌第一代自動駕駛汽車大獲成功之後，谷歌第二代自動駕駛汽車（自拍就是這款車，這是芭芭拉給它起的綽號）已越來越普及。如今，亞馬遜公司幾乎已經名存實亡。這並沒有什麼好奇怪的，亞馬遜的利潤向來微薄，而當谷歌將其汽車和無人機產品直接與人們的搜索連接起來時，亞馬遜根本無力追趕。現在，當搜索一件產品之後，人們會在當天收到一封郵件，告知他們「建議無人機」（suggestion drone）已經把該產品帶到了家門口。谷歌大力提升了其供應鏈和街景地圖算法，甚至能夠在你還沒決定是否要買的時候就把東西帶到你家。我在工作時看到的最新數據表明，這種新型的「預售」模式在不到一年的時間裡，就把谷歌的零售收入提高了38%。這簡直就是零售大王薩姆·沃爾頓版的《少數派報告》。
「我很好，GP。」芭芭拉把自拍的聲音設定得很像奧普拉，這個特色功能需要每年支付一定的版稅。芭芭拉用她的個人數據來支付這筆費用。如今，就跟你上網時會有網站追蹤Ccookie數據一樣，你開車時的一舉一動也都在周圍世界的追蹤之中。自動駕駛汽車上安裝著傳感器，用來監測車外的世界以及車內的乘客。所以，當車裡的天氣傳感器監測到暴風雨即將來臨時，增強現實擋風玻璃上就會出現天氣數據，同時也會對行車路線進行實時調整。扶手上的生物識別傳感器可以測量心跳和壓力水平，而面部識別和眼球、聲音跟蹤設備會把你的情緒反應與外部刺激因素聯繫起來。在這些情況下，自拍會播放經典音樂，並給車內的空氣添加一絲香草味，因為它知道這個香味能讓芭芭拉感到非常舒服。
每次行車過程中，自拍都會挖掘我們的個人信息，根據廣告商和數據代理商的算法進行剖析，並影響我們的生活。作為一家依賴廣告而生的在線出版物的一名記者，我很清楚這其中的門道，並告訴芭芭拉我們可能需要丟掉一些傳感器。但她會無奈地聳聳肩，說道：「我喜歡自拍依據這些數據來無微不至地照顧我。而且，這還可以省錢，反正隱私在很多年前就沒了。」
我清了清嗓子，在自拍繼續說話之前說道：「親愛的，你今天看了我的帖子沒有？」在聽了兩個人工智能程序響亮的聲音之後，我的聲音聽起來似乎有些令人煩躁。她停頓了一會兒，車子加速時，我聽到一陣低沉的嗡嗡聲。在新澤西，現在大部分汽車都是自動駕駛汽車，很少能聽到喇叭聲。這讓我吃了一驚。
「對不起，約翰，我沒看。是關於谷歌房子的嗎？」
「是的，」我答道，清醒地知道自拍正在收集我們的對話資料，因為她是谷歌生產的。我知道她不是人，但這感覺就像我即將要說她父母壞話似的。
「我猜谷歌不會是又做了什麼錯事吧？」芭芭拉問道，聲音裡透出一絲冷漠。
「哦，你知道Nest公司，對吧？」我回應道，「就是那個靠開發智能溫控器發家的公司，他們允許顧客自願與谷歌應用程序共享數據。」
「那又怎樣？」芭芭拉因為自拍的緣故而向來有意維護有關谷歌的所有東西，而這一直讓我很惱火。
「沒什麼，只不過當人們去別人家裡時，即便這家人不使用谷歌產品，這個人的數據也可以被追蹤。所以說，如果一位女士去一個朋友家裡，她可能會被識別出來懷孕了。」
「如果她肚子開始隆起的話，我也能。」
「但關鍵在於，」我說道，「如果她帶著某種熱敏可穿戴設備，即便在懷孕初期，Nest的傳感器也能夠識別出來。」
「哦，如果她戴著熱敏設備，那麼她可能不會介意共享這類信息。另外，誰不用谷歌產品啊？」
我歎了口氣，故意換了個話題，問道：「那你今天可以去車站接我嗎？」我們住在新澤西州的梅普爾伍德，是曼哈頓的一個近郊住宅區，但感覺更像是另一個鎮，而不是郊區。如果在路上隨便攔下一個人，有75%的可能性他或她會聽國家公共電台，並在全食超市買東西。
「我不能，」芭芭拉說道，「能不能別給我開免提？晚點兒跟你聊，GP！」
「拜拜，芭布絲！」長毛回應道。芭芭拉能在想起來長毛是硅谷產品之前要求我一心一意地打電話，我感到心裡一陣滿足感油然而生。雖然你是一個人，但這並不意味著人們會選擇你來陪伴而不是機器，而我忘了這一點。
我戴上耳機。「怎麼了？」我問道。
芭芭拉說道：「自拍，能不能把錄音和生物識別傳感器先關掉一會兒？我們得談談梅拉妮的醫療問題。」
「沒問題，」自拍回答說，「以後聊。」她用奧普拉焦糖般甜美的聲音補充道。我清楚地聽到彷彿蘋果電腦啟動的聲音，表明汽車目前處於純駕駛模式。芭芭拉很少把系統關掉，但我曾堅持讓她在討論梅拉妮的問題時把它關掉，以免在有關她手術決策的方面受到任何自動化的干擾。
「約翰，已經兩周了。我很尊重你還在思考要不要給梅拉妮裝芯片，但我們得行動起來了。我之所以不能去接你，是因為我要帶梅拉妮去見她的輔導員，討論一下她的帕金森病。我們得告訴校方，然後才能想出照顧她的辦法。」
「我同意告訴他們梅拉妮得了帕金森病，但這並不意味著我們得告訴他們可能會安裝芯片的事情，對吧？如果我們還不知道是否會這樣，為什麼要告訴學校呢？」
「我們到底還能有什麼可做的，約翰？」芭芭拉幾乎是在喊叫。
我不用什麼人工智能程序就能知道她生氣了。「我不知道！」我說道，看見我老闆正朝我這裡看。我放低聲音，「但我還有兩個多星期的時間，來決定往我女兒頭顱裡裝個硬件是否有意義，好嗎？」
「不，不好，約翰。施瓦瑪醫生跟我們說了，不管是傳統治療還是藥物治療，都只能減緩梅拉妮心智衰弱的過程而已。這意味著她只有一年或者兩年的正常童年生活，這還僅僅是在藥物不會讓她昏迷或情緒不穩定的前提下。」她停頓了一下，喘了口氣，「對嗎，約翰？施瓦瑪醫生不是這樣說的嗎？」
「是的，」我痛苦地答道，「她是這樣說的。」芭芭拉說的對。在過去的兩周裡，我們倆都做了很多調查，考慮過其他辦法及其成本。根據邁克爾·J·福克斯基金會等機構的說法，把芯片和可穿戴設備數據結合在一起，梅拉妮在使用的時候不會感到不自然。這種技術已經漸漸成為帕金森病患者的標準治療方法。施瓦瑪醫生和芭芭拉都覺得梅拉妮可以很快地適應這項技術。在這方面，她和她這個年紀的孩子一樣。我們還沒有給她手機，但她使用我的蘋果手機程序比我還熟練，而且在玩「我的世界」遊戲時，她已經開始使用基本編碼了。我猜，她有時候可能還會誇耀自己有個芯片呢。
芭芭拉的聲音打斷了我的思緒。「難道這又和什麼超人有關？」芭芭拉問道，「約翰，我不是個怪人。我不是說人們應該把自己的眼睛挖掉，裝上GoPro相機，或者連接到谷歌主機上，等等。我跟你一起看了《太空堡壘卡拉狄加》，記得嗎？我們對這個討論了很多。人類發生的這些純粹是進化。而像梅拉妮這樣的情況，我們有兩個選擇：享受這種進化帶來的好處，使用這個技術，或者眼睜睜看著她因為過去的失敗而遭受折磨。」
我的喉嚨有些緊，極力克制自己不哭出來。關於梅拉妮的事情，我還沒有告訴任何一位同事。「芭芭拉，我不想讓她受折磨。」
她的聲音柔和起來：「我知道你不想，約翰。你是個好爸爸，而這就是我們必須要裝這個芯片的原因。我們沒有別的選擇。」
「芭芭拉，求你了，我只是還需要一點兒時間。」
「梅拉妮沒有時間了，」她答道，聲音再度尖銳起來，「我們每等一天，每等一會兒，她的大腦就會病得更重。細胞會死。這個病不是在不久的將來才來到，約翰。它現在就在這兒。」
我知道她說的都是真的，但她的話是如此殘酷。雖然她說得很有道理，但這更加讓我覺得自己像個傻子。
「約翰，」她繼續說，「明天下午之前，如果你能想出不裝芯片的其他辦法的話，我會盡力撇開偏見，聽你說。」
「不然呢？」我說，「你聽起來像是在威脅我。梅拉妮是你女兒，也是我女兒。芭芭拉，不管你喜不喜歡我的想法，對於決定要對她做什麼，我都有發言權。」
「不，」她憤怒地答道，「不，你沒有發言權，約翰。如果你的決定最終會殺死她的話，那你沒有發言權。」
她掛斷了電話。我坐在那裡，吃驚得說不出話來。
「10萬閱讀量，老兄，」長毛說道，他那電腦處理過的聲音讓我恢復了意識，「人們喜歡『騎掃地機器人的貓咪』！GP萬歲！」
自動化的深遠影響
對於這樣一個大規模地把工作外包給低收入國家的經濟體制，難道我們真的相信它不會抓住機會，用每小時運行成本僅為4美元、永遠不會有異議、沒有工會，也永遠不會生病或不高興的機器人，替代成本高昂的白領職工嗎？
——約翰·諾頓，「不是開玩笑——機器人 這次真的要接管世界了」
儘管很多人都認識到了自動化給人類的工作與生活帶來了深遠的影響，但我在這方面的研究卻讓我發現了一個普遍存在的現象：最強烈地感覺到自動化趨勢會給人類帶來積極影響的，正是那些從事著或許不可被機器替代的工作的人。迄今為止，我還沒有看到過一篇採訪說到一個貨車司機因為工作被自動化汽車代替，自己也因此有了追求新的興趣愛好的機會，而對這種技術革新感到激動萬分的。
當我在20世紀90年代開始在紐約市當演員時，我做了很多臨時性的辦公室工作，因為我受不了給別人當服務員。我的打字速度超過每分鐘90個詞，而且善於與人相處，所以我做了很多行政、接電話的工作以求謀生。在許多工作中，我跟老闆成了好朋友，還會參加辦公室生日派對，甚至還會領到假期津貼。而在其他情況下，經理們幾乎從來不會跟我說話。通常在一周的工作中，他們只會在剛開始時花上5分鐘，教我該把哪些數據插入Excel工作表中，然後就再也沒有跟我講過話。還有一個老闆甚至從來沒有叫過我的名字，只叫我臨時工。當時我還覺得挺酷的。
但是，在所有這些工作角色中，因為是臨時工的關係，有一點是極其明確的：我的存在只是暫時的。有時我是代替休產假的行政助理，有時是因為某個全職崗位被取消了，而我則是幫忙應付一下工作流程，然後等他們人手上能夠忙得過來時便走人。我知道，只有在某人或者某事上發生了一些變故，他們能更好地打點出資金來支付我的工資時，我才有工作做。這種關係有時很難維持，但它是透明的。
在這個對盈利能力的需求不斷增強的消費主義社會，自動化的存在完全有道理。我們不能反對通過增加產量來節約成本的邏輯。但自動化技術的指數型增長則意味著，在未來30年到50年裡，我們因此喪失的工作將比創造的工作要多。
我們關於自動化的討論大多忽略了人們的經濟福祉和幸福感。而這些都是很關鍵的事實真相。人們將要等待更長的時間才能找到工作，在這個過程中，我們要因為債務和自尊的喪失而掙扎。1929年，伴隨華爾街股災的經濟大蕭條不只是經濟的衰退，它還包括多數美國人在那個年代所感受到的絕望。
大蕭條時期人們因為失業而感受到的身體、情感及精神上的壓力，在未來自動化的浪潮中也將會感受到。2013年，牛津大學的一份研究報告表明，「在未來的一二十年，從信貸員到出租車司機，再到房地產經紀人，美國如今現有的職位中幾乎有一半將有可能實現自動化」。根據《每日電訊報》2014年11月刊登的一篇文章，英國方面的統計數據也非常類似：「在未來的20年裡，英國可能會有1 000萬個工作崗位被電腦或機器人接管，超過1/3的工作角色被消滅。」
這種程度的崗位替代現象所帶來的經濟後果是非常巨大的。一方面，在由消費者驅動的市場中，失去工作的人將無力購買產品和服務，國內生產總值因此也就無法產生。儘管某些經濟部門或個人會因為自動化得益，但規模經濟將會遭受巨大的損失。這就是為什麼說對自動化的討論不能一味輕率地強調對未來的預測，而應提出現實的解決辦法。
我們還應該摒棄有關人工智能和自動化的極端看法。一方面，是對自動化持消極觀點的人（我承認我就屬於這一類），或者用科技媒體行業的流行語來說，是相信「暗淡與無望」（doom and gloom）的一類。由於對不可避免的人工智能提出質疑，我可能會被歸為試圖阻礙創新的無知勒德分子那一類。這是為了降低對更廣泛意義上的人類及經濟幸福的損害，而採取的一種無聊而又危險的策略。但從另一方面的觀點來看，關於何時或者是否應該停止人工智能引領的自動化進程，我們沒有形成共同的道德準則或行業標準。然而，從自動化中獲益的公司認為這種技術是不可避免的。這種邏輯是構成人工智能「詭計」的關鍵組成部分。
諷刺的是，那些認為隨著機器不斷獲得和人類同等水平的感知能力而不會對自己的工作造成威脅的人，恰恰就是這些創造人工智能的專家。瑪麗喬·韋伯斯特在發表於《今日美國》的「機器人會做你的工作嗎？」一文中指出，「即便是美國最新興、工資最高的工作——電腦程序員——也面臨著被能夠編寫代碼的計算機所取代的危險」。許多專家認為自己的工作不可取代，這種想法也助長了這種公然無視經濟事實、令人苦惱的驕傲自大心理。以下是韋伯斯特文章裡的另一段引文，可以說明我的意思：
佐治亞理工學院機器人與智能機器研究所所長亨裡克·克裡斯滕森說：「我們正從無技術含量的工作向技術性工作轉變。如果我們想要繼續進步的話，這將是一大挑戰。今天，如果你是非技術勞工的話，那你最好開始考慮接受教育。」
克裡斯滕森的這段話說得挺好，卻不可行。雖然他的認知機器人作品的目的就是為了取代人類勞動，但「非技術勞工」部門（即階層、社會群體）的成員如何能負擔得起上述教育？而他們當前勉強能餬口的工作又怎麼可能給他們帶薪休假的時間？他們該學什麼？等到他們真的學會寫代碼（這是很多技術專家所強調的教育）的時候，算法又會讓程序員變得多餘了。
尋找工作之外的價值
除了給失業人群帶來經濟損失外，自動化還帶來了另一個更大的問題：沒有了有目的性的工作，我們該如何從生活中獲得意義？被炒魷魚或者掙扎著找工作的經歷確實是非常令人沮喪的，但想像一下30~50年後，當人類根本不用工作就可以存活的時候，這又完全是另一個問題了。這讓我們想起了電影《機器人總動員》中，人類為了像肥胖的樹懶一樣過著媒介消費主義的生活而不惜大肆毀壞環境，最終不得不遺棄地球。
在本章開頭的故事中，虛構的「我」面臨著自動化帶來的威脅。儘管成為一名「人類記者」的辦法暫時延緩了我未來可能的失業，但從我和GP的關係中可以清楚地看到，在實際生活中天天與人工智能打交道可能是非常具有挑戰性的。不用開車可能會帶來巨大的好處，例如可以拯救生命，可以更好地利用寶貴的通勤時間等。但由於秘密監控的存在，我們也將犧牲更多個人數據。而對機器的人性化，則可能讓我們犧牲人與人之間的關係。
我們應該好好地審視自動化的道德問題，在走向未來的過程中把握住機會，探索能夠同時給我們帶來薪水與價值的經濟架構。
當技術超越一切
大約10年前，利維和默南在「人為什麼依然重要」一文中曾指出了複製人類認知的困難，並斷言自動化不會波及車輛駕駛：「看到前方駛來車輛而進行左轉這個動作涉及了如此多的因素，因此，很難想像能夠找出其中的規律並複製司機的行為。」6年以後，即2010年10月，谷歌便宣佈已經完成對幾輛豐田普瑞斯汽車的改裝，實現了完全自動駕駛。
——《就業前景：計算機化對工作的影響有多大？》
讓我很難理解的是，這麼多技術領域的人一方面引用摩爾定律（即計算機的處理能力每18個月便會翻一番）證明機器獲得與人類同水平的感知能力是不可避免的，而另一方面，又能假定當它們達到這種水平時，我們還能夠控制它們。儘管不乏像埃裡克·布萊恩約弗森這樣的領軍人物認為人工智能可使我們「與機器一同快速前行」，並能與電腦建立夥伴關係而不是受制於它，但對於這種關係將如何運作卻缺乏一定的標準。這就揭露了機器人領域的發展主要受利潤驅動這一事實。
一般來說，人工智能可以分為兩種。現今存在的是「弱人工智能」——算法或機器能自動地執行任務，有時能夠模仿人類行為，Siri和其他虛擬助手便屬於此類。「強人工智能」一詞指的是奇點時代，即當機器擁有和真人同等水平的感知力的時間點。由於各種原因，弱人工智能與強人工智能的界限模糊不清，尤其是當機器能夠讓人誤以為它已經具有感知力而事實卻並非如此的時候。關於這個問題，我們已經進行了多年的圖靈測試，該測試以「二戰」時期譯解密碼者阿蘭·圖靈的名字命名。測試中，人們分別向看不見的人和機器進行提問。如果30%的人都把機器當成人的話，那麼這個機器就通過了圖靈測試。
對我來說，這個測試最令人信服的一點在於，當30%的人都認為一台機器是真人的話，那麼至少對這些人來說，奇點便已經到來。同樣，雖然自動化還沒有完全實現，但這並不意味著由人控制的人工智能沒有驅使著我們走向那樣的結局。我之所以舉出左轉的例子，就是要說明這一點。我們仍然面臨著巨大的道德困境，還不能大肆宣揚「人類的某些特性是天生固有的，且永遠不可能在某個行業的積極努力下而被複製出來」這樣的觀點。
就廣告恐怖谷效應而言，我所接觸到的自動化當前所處的境況還存在著一定的凶險。就目前來說，我們的情感和意願為分析我們生活的算法提供了必要的內容輸入。同樣，對許多機器還未掌握的人類工作技能來說，也是如此。我曾對《機器危機》一書的作者馬丁·福特進行過採訪，他在這個問題上發表了一些看法：
對於「與機器一同快速前行」，而不是「與機器進行賽跑」這種觀點，我認為它不夠系統。這將是一個去人性化的過程，是一個在機器的指令下機械地工作的過程。現在，人類有著獨特的敏捷力和手眼協調能力，這是機器人所沒有的。但情況不會永遠都是這樣。只要人類和一個系統、機器或算法密切合作，那麼這個機器就很有可能正在向人類學習。已經有案例表明，系統能夠利用機器學習方法觀察工人在做什麼，從而逐漸實現任務的自動處理。如果你正與一台機器緊密合作，那麼你離開的日子也就不遠了。
2014年年底，美國國家公共電台製作的播客節目《金錢星球》講述了這樣一個故事：「為提高生產效率，UPS（聯合包裹運輸公司）對司機的一舉一動實施監控。」這是一個非常生動的例子，證實了福特關於與機器緊密合作的人類，其工作不會長期存在的預言。故事圍繞比爾·厄爾展開，他居住在賓夕法尼亞的鄉村，在UPS公司當司機已經20多年了。該公司利用新技術為所有司機的卡車裝配了各種傳感器，「司機打開或關上車門，繫上安全帶，發動卡車時的動作都會被精確到秒地一一記錄下來」。總而言之，所有可以被測量出來的動作都會受到嚴格檢查，目的是為了通過數據分析提高生產效率。而這還真的奏效了。UPS數據工作負責人傑克·萊維斯在節目中指出：「每位司機一天節約一分鐘，一年下來便可以節約高達1 450萬美元。」公司收益的增加促使UPS司機的收入比20世紀90年代中期幾乎提高了一倍，無論是薪水還是福利。但據厄爾所說，安裝傳感器和接受監視也要付出代價，因為每一個動作都會被追蹤：「你知道，這就跟被老大哥監視著一樣。」
同樣的自動化案例來自亞馬遜的倉庫。2012年，亞馬遜併購了Kiva機器人公司。2014年5月，科技博客Extreme Tech刊登了一篇文章：「在奧巴馬著名的亞馬遜就業演講一年之後，亞馬遜啟用了1萬名機器人工人」，作者戴維·卡迪納爾對機器人如何快速地把人類排擠到倉儲這個狹小的領域進行了描述，在倉庫裡，有著對生拇指的靈巧雙手給他們提供了暫時的工作保障。亞馬遜CEO傑夫·貝佐斯因其對工人的不近人情而出名，勾勒出了一番受利潤驅使的管理層盲目推崇自動化的令人痛心的景象。在《喪失頭腦：為何機器越來越智能，而人類越來越麻木》一書中，西蒙·黑德描述了亞馬遜工人經常要面對的「殘忍與恐嚇」。其中有一個例子說的是賓夕法尼亞州阿倫敦的凱特·薩拉斯基，她曾是一名倉庫工人。正如黑德所說：「薩拉斯基每天工作長達11個小時，大多數時間都是在倉庫裡來來回回地走。2011年3月，她收到了經理對她的警告，說她在上班時間裡有幾分鐘沒有工作，最終她被解雇了。」同樣是在阿倫敦的倉庫，當地記者揭發了另一個醜聞：由於亞馬遜沒有提供空調設施，有多名工人在100多華氏度的高溫中暈倒。由於擔心有偷盜事件發生，公司還明令禁止打開倉庫大門通風。
UPS和亞馬遜提供的服務都很不錯，他們也在根據所收集的數據努力提升客戶服務水平。但不管當前工人的工作條件是否說得過去，以上兩個案例均已表明，與職工的幸福相比，公司更看重利潤和生產效率。這些例子還清楚地說明，在這些致力於提高客戶體驗的供應鏈領域，人只不過被看作不得不暫時容忍的不便因素。如果僅從這些領域背景來審視這種趨勢的話，可以說這些工作一時半會兒不會被機器取代，這種結論的得出是很自然的。但我們對不同說法的爭論不應該阻止我們為將來三五十年裡可能實現的完全自動化做準備。互聯網先驅人物、互聯網協會領導者邁克·羅伯茨在皮尤研究中心的互聯網與美國生活項目「人工智能、機器人以及工作的未來」的報告中指出：
具有強大工作能力的人類電子化身在幾年以後就將到來，而不是幾十年以後才會出現。經濟學界一直沒有真正解決可持續性問題，當代「消費主義」模式正因此不斷遭到破壞，而流行於20世紀初的「誠實勞動、公正報酬」的概念也在不斷瓦解。這種徹底的失敗讓形勢變得更加嚴峻。在應對新現實的過程中，每個人都將面臨著巨大的痛苦。唯一的問題是，這還要多久。
規則不再偏袒人類
關於自動化，以下是我的現實主義觀點：
在工作領域，這個世界的規則設計越來越偏袒機器，而不是人類。
別忘了，我是故意把本書的前半部分設計為反烏托邦的，目的不是為了讓大家沮喪，而是為了說明有關我們生活中的人工智能的實際現實。作為一位有著演員經歷的作家及顧問，我已經習慣了沒有保障的工作。這正是我所選擇的行業的特點。面對自動化的兇猛攻勢，很多專家都談到需要培養創業技能，這令我備受鼓舞。因為為了謀生，過去我也曾多次嘗試用技能重塑自我。但很多人還不習慣這種職業安全感的缺失，而且如果不接受培訓或幫助的話，他們可能無法再找到工作。
對於這些擔憂，我們很容易去怪罪開發或應用這些技術的公司，但我更熱衷於質疑這個認為自動化的採用不可避免的經濟體制。我們必須認識到，如果人的能力就和環境一樣，是一種有限資源的話，那我們就要為人類的生存建立保護措施。但這並不意味著要和機器來一場「終結者」大戰，而是要我們認識到如果不攔住無休無止的消費主義的話，那我們最終消費的將是我們自己。
本章主要觀點總結如下：
人的能力在本質上是有限的。儘管有關機器感知力的爭論異常激烈，但無可辯駁的是，倉庫裡的Kiva機器人的工作效率遠高於人類。它們在足球場那麼大的建築裡快速地來回穿梭，從不需要休息，也不需要加班費或者醫療保險。和電腦的分析能力比起來，人類在法律文件處理、醫學成像等領域的工作也面臨著同樣可怕的前景。我們開發出的機器正不斷取代大多數人的工作（如果不是全部的話），而我們卻把時間浪費在了討論各個垂直行業的自動化到底「何時」會出現的問題上面，而不是去考慮「當這真的發生時，我們該怎麼辦」的問題。
人需要薪水。儘管我贊同日益發展的共享經濟模式以及本書後半部分將詳細論述的其他經濟模式，但我認為消費主義或資本主義經濟在短時間內不會消失。經濟學裡有這樣一個現實，即市場要可持續發展，消費者就必須要有能力購買生產者生產的商品。因此，有關應對自動化的任何解決方案都不能迴避這個不可否認的事實。那種認為被取代的工人可以追求新的興趣的烏托邦理想主義的看法亦是如此。
人需要意義。越來越多的人開始鼓勵在工作中尋求快樂與幸福。而工作主要是能幫助人們找出一種「心流」。換句話說，就是可以幫人找到能夠給其生活帶來深層意義的活動。雖然一般情況下，在某個工廠或在UPS工作能夠給員工帶來一種意義，但從本章所給出的案例可以看出，這並不適宜人類的繁榮發展。