‘더 프로젝트(The Project)’를 맡게 될 사람이 누가 됐든, 어마어마한 임무를 떠안게 될 것입니다. AGI를 개발하되, 가능한 한 빠르게 개발해야 합니다. 미국 경제를 전시 체제로 전환해 수억 개의 GPU를 생산해야 합니다. 보안 체계를 확립하고, 스파이를 색출하며, 중국 공산당의 전면적인 공격을 방어해야 합니다. 한편으로는 수억 개의 AGI가 미친 듯이 AI 연구를 자동화하고, 1년 만에 10년 치의 발전을 이뤄내며, 곧 가장 뛰어난 인간조차 훨씬 능가하는 AI 시스템을 만들어낼 것입니다. 이 모든 과정이 통제 불가능한 상태로 치닫지 않도록 막아야 합니다. 만약 제어권을 인간으로부터 빼앗으려는 ‘불량 초지능(rogue superintelligence)’이 나타난다면, 이를 저지해야 합니다. 동시에, 그러한 초지능을 활용해 상황을 안정시키고 적들을 앞설 수 있는 새로운 기술을 개발해야 합니다. 그리고 그 기술을 신속히 미군에 통합해 군사력을 재편해야 합니다. 그와 동시에, 역사상 가장 긴장된 국제 정세 속에서 이를 헤쳐나가야 할 것입니다. 정말이지, 그 역할을 맡을 사람은 엄청나게 뛰어나야 할 겁니다.

 

​

 

우리를 부르는 목소리에 응답해야 할 사람들에게, 그 길은… 고된 여정이 될 것입니다. 하지만 그것은 자유 세계, 나아가 인류 전체를 위한 우리의 의무이기도 합니다. 만약 우리가 그 시기를 버텨내고 뒤돌아볼 수 있다면, 그것은 우리가 평생 해온 일 중 가장 중요한 일이 될 것입니다. 그리고 우리를 위한 안전한 시설이 마련된다 해도, 지금처럼 터무니없이 호화로운 AI 연구자의 삶과 비교하면 불편할지도 모릅니다. 하지만 그렇게 나쁘지는 않을 거예요. 샌프란시스코도 이미 독특한 분위기의 ‘AI 연구자 대학 도시’ 같은 느낌이니까요. 아마 별반 다르지 않을 겁니다. 여전히 같은 좁은 집단이 낮에는 스케일링 곡선에 진땀을 흘리고, 주말에는 모여서 AGI와 그날의 연구실 정치에 대해 수다를 떨겠죠.

 

​

 

다만, 한 가지 차이가 있다면… 이번에는 그 모든 것이 너무도 현실적인 문제가 될 거라는 점입니다.