我的看法是这样的。在2010年代初期,科技行业积极地将自己塑造成一个仁慈且无所不知的形象,而科技媒体也对此推波助澜。Netflix的算法比你更了解你自己,Stitchfix利用量子力学为你打造完美造型,等等。
“Target公司比女孩的父母更早知道她怀孕了”,这被报道为一件好事,尽管有点诡异。大数据正被用来通过个性化和推荐系统,为世界上每个人打造一个完美的小世界。
所有这一切都与真正的技术奇迹和社会变革不谋而合,其中社交媒体和智能手机是两大最显著的现象。前所未有的新技术让全能神话显得非常可信。
而最大的玩家则非常重视神话中仁慈的一面,比如连接世界、实现民主化、不作恶等等。
但是,当你全知全能且仁慈时,你就必须面对恶的问题,而这正是实际发生的情况。人们越来越愤怒,因为一个全能的存在竟然会允许坏事发生。
有趣的是,人们最先放弃的假设恰恰是善意。人们更容易相信大型科技公司会利用其无所不能的权力作恶,而不是相信它们实际上并不无所不能。
所以我认为,在2020年代,为了避免落入“邪恶问题”的陷阱,神话的构建方式有所不同。如今的大型科技公司领导者不再是仁慈之神的使者,而是混乱恶魔的召唤者。
他们不是说“我已经带领我们进入了繁荣的大数据时代,一切都很好,都在掌控之中”,而是说“我们正处于混乱的通用人工智能时代的边缘,如果你想有机会控制这件事,我就是我们最好的选择”。
这样做是为了免除由此可能产生的任何不良后果的责任,我认为这并非完全是偶然。这其中很多都是2012年的老面孔。他们吸取了教训。你不能再表现得那么能干,那么掌控局面了。
这次我们不再拥有至高无上的权力;电脑(即将)拥有至高无上的权力,我们只能尽力去控制它。而且,很抱歉,它未必会仁慈。也许会,但愿如此。但也可能不会。无论如何,这都不是我们的错。
2012年的故事是:我们已经找到了利用大数据实现各种造福人类目标的方法,顺便还能印钞。我们是执行者。我们肩负重任,并为我们的工作感到自豪。你愿意加入我们,共同完成这项使命吗?
2025年,人工智能将不可避免地做出这样或那样的破坏性行为。我们已经找到了扭转局面的方法,至少可以从这场不可避免的灾难中获利。你愿意加入我们吗?