글로벌 베스트셀러 《사피엔스》의 저자 유발 하라리 6년 만의 신작 《넥서스》
“거센 강물 속의 흙덩어리처럼 정보의 급류에 휩쓸려 허물어질 것이며,
인류는 우주의 데이터 흐름 속의 잔물결에 불과했던 존재로 드러날 것이다”
많은 전문가들과 기업가들이 AI가 인류 문명을 파괴할 가능성, 심지어는 인류의 절멸을 부를 가능성이 있다고 대중에게 경고해왔다. 2,778명의 AI 전문가들을 대상으로 실시된 2023년 설문 조사에서 3분의 1 이상이 발전된 AI가 인류의 멸종처럼 나쁜 결과를 초래할 확률이 10퍼센트 이상이라고 응답했다. 2023년에 중국, 미국, 영국 등 약 30개국 정부가 블레츨리 선언에 서명하며, “AI 모델의 가장 중요한 기능들에는 심각하거나 심지어 파멸적인 피해를 초래할 잠재력이 내재되어 있다”는 사실을 인정했다.
어떤 사람들에게는 문명이 붕괴할지도 모른다는 경고가 과장된 넋두리처럼 들린다. 강력한 신기술이 등장할 때마다 그것이 종말을 부를 수 있다는 종말론적 불안이 생겨났지만 우리는 여전히 여기 있다. 산업혁명이 진행되면서 러다이트의 종말론적 시나리오는 실현되지 않았고, 블레이크의 ‘어두운 사탄의 공장’은 역사상 가장 풍요로운 사회들을 만들어냈다. 오늘날 대부분의 사람들은 18세기 선조들보다 훨씬 더 나은 생활 조건을 누린다. 마크 앤드리슨과 레이 커즈와일처럼 AI의 미래를 낙관하는 사람들은 지능형 기계가 이전의 어떤 기계보다도 유익할 것이라고 약속한다. 이들에 따르면, 인간은 훨씬 더 나은 의료, 교육 및 기타 서비스를 누릴 것이며, AI는 심지어 생태계 붕괴를 막는 데도 도움이 될 것이다.
하지만 불행히도 역사를 자세히 살펴보면, 러다이트(기계파괴)들이 완전히 틀리지는 않았으며, 우리가 실제로 강력한 신기술을 두려워해야 할 이유가 충분히 있다. 결국에는 신기술의 긍정적인 면이 부정적인 면보다 클지라도, 해피엔딩에 이르는 길에는 많은 시행착오와 우여곡절이 따른다. 새로운 기술은 종종 역사적 재앙으로 이어지는데, 이는 그 기술이 본질적으로 나빠서가 아니라, 인간이 그것을 지혜롭게 사용하는 방법을 학습하는 데는 시간이 걸리기 때문이다.
산업혁명이 대표적인 예다. 19세기에 산업 기술이 전 세계로 확산되기 시작했을 때, 그것은 전통적인 경제, 사회, 정치 구조를 뒤엎고 완전히 새로운 사회를 만들 수 있는 길을 열었다. 많은 사람들이 새로운 사회는 더 풍요롭고 평화로울 것이라고 생각했다. 하지만 좋은 산업사회를 건설하는 방법을 배우는 것은 결코 간단치 않았으며, 많은 값비싼 실험과 수억 명의 희생이 따랐다.
한 가지 값비싼 실험은 근대 제국주의였다. 산업혁명은 18세기 후반에 영국에서 시작되었다. 19세기에 산업 기술과 생산 방식은 벨기에부터 러시아에 이르는 유럽 국가들뿐 아니라 미국과 일본에서도 채택되었다. 이 산업 중심지들의 제국주의 사상가, 정치인, 정당 들은 실행 가능한 유일한 산업사회는 제국이라고 주장했다. 그들의 주장은 비교적 자족적인 농경사회와 달리 새로운 산업사회는 해외시장과 원자재에 훨씬 더 많이 의존하며, 제국만이 이런 전례 없는 욕구를 충족시킬 수 있다는 것이었다. 제국주의자들은 산업화를 이룩했으나 식민지 정복에 실패한 국가는 더 무자비한 경쟁자들에게 필수 원자재와 시장을 빼앗길 것이라며 두려워했다. 일부 제국주의자들은 식민지 획득이 자국의 생존에 필수적일 뿐만 아니라 나머지 인류에게도 이롭다는 주장을 펼치기도 했다. 이들은 제국만이 이른바 미개발 세계에 새로운 기술의 축복을 전파할 수 있다고 단언했다.
이리하여, 영국과 러시아처럼 이미 제국을 보유하고 있던 산업국가들은 제국을 더 크게 확장했고, 미국, 일본, 이탈리아, 벨기에 같은 국가들은 제국 건설에 나섰다. 대량 생산된 소총과 대포로 무장하고, 증기기관으로 이동하며, 전신으로 지휘를 받는 산업 군대는 뉴질랜드부터 한국, 소말리아부터 투르크메니스탄까지 전 세계를 휩쓸었다. 수백만 명의 현지 주민들은 이 산업 군대의 바퀴에 자신들의 전통적인 생활 방식이 짓밟히는 것을 목격했다. 적어도 한 세기의 비극을 겪은 후에야 대부분의 사람들은 산업 제국이 끔찍한 발상이었으며, 산업사회를 건설하고 필요한 원자재와 시장을 확보하는 더 나은 방법이 있다는 것을 깨달았다.