我的看法是這樣的。在2010年代初期,科技業積極地將自己塑造成一個仁慈且無所不知的形象,而科技媒體也對此推波助瀾。 Netflix的演算法比你更了解你自己,Stitchfix利用量子力學為你打造完美造型,等等。
“Target公司比女孩的父母更早知道她懷孕了”,這被報導為一件好事,儘管有點詭異。大數據正被用來透過個人化和推薦系統,為世界上每個人打造一個完美的小世界。
所有這一切都與真正的科技奇蹟和社會變革不謀而合,其中社群媒體和智慧型手機是兩大最顯著的現象。前所未有的新科技讓全能神話顯得非常可信。
而最大的玩家則非常重視神話中仁慈的一面,例如連結世界、實現民主化、不作惡等等。
但是,當你全知全能且仁慈時,你就必須面對惡的問題,而這正是實際發生的情況。人們越來越憤怒,因為一個全能的存在竟然會允許壞事發生。
有趣的是,人們最先放棄的假設恰恰是善意。人們更容易相信大型科技公司會利用其無所不能的權力作惡,而不是相信它們實際上並不無所不能。
所以我認為,在2020年代,為了避免落入「邪惡問題」的陷阱,神話的建構方式有所不同。如今的大型科技公司領導者不再是仁慈之神的使者,而是混亂惡魔的召喚者。
他們不是說“我已經帶領我們進入了繁榮的大數據時代,一切都很好,都在掌控之中”,而是說“我們正處於混亂的通用人工智能時代的邊緣,如果你想有機會控制這件事,我就是我們最好的選擇”。
這樣做是為了免除由此可能產生的任何不良後果的責任,我認為這並非完全是偶然。這其中很多都是2012年的老面孔。他們吸取了教訓。你不能再表現得那麼能幹,那麼掌控局面了。
這次我們不再擁有至高無上的權力;電腦(即將)擁有至高無上的權力,我們只能盡力控制它。而且,很抱歉,它未必會仁慈。也許會,但願如此。但也可能不會。無論如何,這不是我們的錯。
2012年的故事是:我們找到了利用大數據實現各種造福人類目標的方法,順便也能印鈔票。我們是執行者。我們肩負重任,並為我們的工作感到自豪。你願意加入我們,共同完成這項使命嗎?
2025年,人工智慧將不可避免地做出這樣或那樣的破壞性行為。我們已經找到了扭轉局面的方法,至少可以從這場不可避免的災難中獲利。你願意加入我們嗎?