제 생각은 이렇습니다. 2010년대 초, 기술은 스스로를 자비롭고 전지전능한 존재로 적극적으로 포지셔닝했고, 기술 언론도 이에 동조했습니다. 넷플릭스의 알고리즘은 당신 자신보다 당신을 더 잘 알고 있었고, 스티치픽스는 양자역학을 이용해 당신에게 딱 맞는 옷을 만들어 주는 등, 그 외에도 많은 것들이 있었습니다.
"타겟은 부모보다 먼저 한 소녀의 임신 사실을 알고 있었다"는 보도는 다소 섬뜩한 면이 있지만, 기본적으로는 좋은 일로 받아들여졌습니다. 빅데이터는 개인화와 추천 시스템 덕분에 전 세계 모든 개인에게 완벽한 작은 세상을 만들어내는 데 활용되고 있었습니다.
이 모든 것은 진정한 기술적 기적과 사회적 변화, 특히 소셜 미디어와 스마트폰의 등장과 맞물려 일어났습니다. 이전에는 볼 수 없었던 새로운 기술들은 전능함이라는 신화를 매우 그럴듯하게 만들었습니다.
그리고 가장 큰 주자들은 신화의 자비로운 측면, 즉 세계를 연결하고 민주화하고 악하지 않은 것 등에 매우 주력했습니다.
하지만 당신이 전지전능하고 자비로울 때, 당신은 악의 문제에 직면하게 되고, 실제로 그런 일이 일어났습니다. 사람들은 전능한 존재가 나쁜 일이 일어나도록 내버려 둔다는 사실에 점점 더 분노했습니다.
재밌는 건, 사람들이 가장 쉽게 포기하는 가정이 바로 자비심이었다는 겁니다. 빅테크 기업들이 전능함을 악의적인 목적으로 이용하고 있다는 주장이, 실제로 전능함이 없다는 주장보다 훨씬 더 설득력이 있었다는 거죠.
그래서 저는 2020년대에 이 악의 문제라는 함정을 피하기 위해 신화들이 조금 다르게 만들어지고 있다고 생각합니다. 오늘날 거대 기술 기업들은 자비로운 신의 중개자가 아닙니다. 그들은 혼돈스러운 악마들을 소환하는 자들입니다.
"저는 우리를 빅데이터의 번영하는 시대로 이끌었고 모든 것이 잘 통제되고 있습니다"라고 말하는 대신 "우리는 AGI의 혼란스러운 시대로 접어들었고 이것을 통제할 기회를 원한다면 제가 최선을 다하겠습니다"라고 말하고 있습니다.
이는 이로 인해 발생할 수 있는 모든 부정적인 결과에 대한 책임을 면제해 주는 역할을 하며, 저는 이것이 완전히 우연이라고 생각하지 않습니다. 2012년 당시의 많은 사람들이 그랬던 것처럼요. 그들은 이미 배웠습니다. 그렇게 유능하고 상황을 주도적으로 이끌어가는 것처럼 보여서는 안 됩니다.
이번에는 우리가 전능한 게 아닙니다. 전능해질 컴퓨터가 전능하며, 우리는 최선을 다해 그것을 통제할 뿐입니다. 그리고, 죄송하지만, 컴퓨터가 선의를 베풀지 않을 수도 있습니다. 어쩌면 그럴지도 모릅니다. 바라건대요. 하지만 아닐 수도 있습니다. 어느 쪽이든 우리의 잘못은 아닙니다.
2012년의 이야기는 이렇습니다. 우리는 빅데이터를 이런저런 자선적인 목적으로 활용하는 방법을 알아냈고, 이는 우연히도 우리가 돈을 찍어낼 수 있게 해 줄 것입니다. 우리는 그 주체입니다. 우리는 책임감을 갖고, 우리의 업적에 자부심을 느낍니다. 이 사명에 함께하시겠습니까?
2025년에는 AI가 우리가 원하든 원하지 않든 이런저런 파괴적인 행위를 저지를 것입니다. 우리는 이 상황을 우리에게 유리하게 바꾸는 방법을 알아냈고, 이 피할 수 없는 재앙에서 최소한 수익을 창출할 수 있을 것입니다. 이 임무에 함께하시겠습니까?