[기술이 인류를 구원한다는 착각] 0804 발제 - 제1장 소멸되지 않기-인간의 가치와 효율적 구원
‘미래를 위해’라는 확신에 찬 허언들
“미래에 대한 논의의 틀을 결정할 수 있는 자는 현재에서 권력을 갖게 되는 법이다.” 지금 우리 사회에서 누가 미래 논의를 선점하고 있는지 생각해 본 적 있는가. 얼마 전 대통령은 3대 메가 프로젝트라는 이름으로 AI·반도체 중심의 투자 계획을 발표했다. 두 명의 반도체 회사 수장에게 90도로 인사를 하며 영웅이라고 칭송하기까지 했다. 그 광경은, 이유를 명확히 설명하지 못하겠으나 몹시 이상했다. 대통령과 두 명의 반도체 수장이 현재 우리 사회 권력의 정점인 것은 명확했고, 사람들은 ‘내 주식은 우상향’이라며 안도했을 것이다.
조만장자가 된 일론 머스크가 주목을 받기 시작하던 때를 기억해보자. 화성을 개발하겠다는 기술업계 신성에게 많은 이들이 투자하고 그에게 마이크를 쥐어줬었다. 당장 먹고 살기도 급한 사람들에게 SF에서나 나올 법한 사업 계획서를 내미는 격이었는데도 불구하고 세계는 그를 조만장자로 만들었다. 일론은 미래에 대한 논의를 선점했고, 그 전략은 명중했다. 일론이 살아 생전에 화성에 도시를 지을 가능성이 얼마나 될까. 그 가능성이 아주 낮다고 하더라도 일론은 살아있는 동안 세계 제일의 부자로 살다가 갈 것이다.
최근 한 젊은 미래학자가 청년들의 소중한 푼돈과 노동력을 갈취하는 사건이 있었다. 청년들의 미래를 위한다는 명분으로 사람들로부터 돈을 빌린 후 갚지 않고 본인만 호의호식했다는 이야기다. 유명인들과의 친분을 과시하며 청년들의 환심을 사서 유명저자와 유명강사라는 자리까지 꿰찼다. 알고보니 그가 내민 이력도 가짜였다. 청년들이 ‘미래’에 대한 불안으로 짓푸라기라도 잡고 싶을 때 그 틈새를 파고들어 이용해먹었다는 이야기는 사이비 종교나 그루밍 범죄에 가까운 레퍼토리다. 그가 설파한 미래의 대한민국은 세계를 주도하는 최강 리더국가라나 뭐라나.
미래에 대한 불안은 인간이 가진 가장 취약한 부분 중의 하나다. 일찍이 인류는 이 취약한 부분을 종교에 의지함으로써 극복해보려 했으나 그 종교마저 원죄의식을 심어 최후심판과 윤회라는 이름으로 인류의 정신을 꽤나 갉아먹었고 현대에 이르러서는 선민의식과 확증편향으로 사람들을 이분시키는 일에 기여하고 있다. 미래에 대한 논의를 선점한다는 것이 과연 인간에게 어떤 효과를 주는 것인지 이야기해보지 않을 수 없다. 미래에 대한 확신에 가까운 언사 - 예를 들어, AI 흐름에 올라타지 않으면 빠르게 도태될 것이다, AGI는 어쩔 수 없는 미래이니 받아들여야 한다 등 – 들이 난무하는 이 AI 시대에는 더욱 그렇다.
[기술이 인류를 구원한다는 착각] 1장에서는 인류의 소멸에 대한 불안을 강조하며 기술이 만들어낼 미래 유토피아에 대한 찬양으로 억만장자가 된 몇몇 사람들의 이야기가 나온다. 그 중에서도 대중에게 많이 알려진 ‘특이점’에 대한 이야기가 심상찮다.
“기술의 진보가 앞으로도 계속 가속화함으로써 인류의 일상의 모습이 한순간에 상상도, 이해도 할 수 없을 정도로 본질적인 변화를 겪는 하나의 지점, 이것이 특이점이다. 특이점 주창자들은 특이점에 도달하면 초지능을 가진 AI가 인간-기계 혼합체와 함께 유토피아를 불러오고, 모든 결핍을 없애고 불로장생이나 영생을 누리게 해줄 의생명학적 발견을 해낼 것이라고 말한다. 물리학 법칙에 위배되지만 않는다면 특이점 이후의 인류 문명에서 이룩하지 못할 일은 없다는 것이다. 제일 유명한 특이점 주창자 레이 커즈와일은 늦어도 2045년에는 특이점이 올 것이라고 말했다.” 2045년, 지금부터 19년 후에 인류는 과연 특이점을 맞이하고 상상할 수 없는 유토피아의 블랙홀로 들어가게 될까?
실리콘밸리와 기술업계 전반에서 특이점을 믿는 사람들이 놀랄 정도로 많다고 한다. 이들 중에는 특이점 이후에는 지구를 떠나 우주에 살게 될 것이라 주장하는 유명인들이 있다. 미래에 우리는 ‘항구적 성장’과 ‘인류 소멸’ 중에 하나를 택해야 하는데, 기술로 항구적 성장을 이룩해 낼 수 있다는 것이다. 제프 베조스는 인류 문명이 침체에 빠지지 않도록 우주회사 블루오리진을 만들었고, 일론 머스크는 우주 식민지 계획을 ‘항구적인 소멸’과의 투쟁으로 표현한 적이 있다. 말하자면 지구 에너지가 유한하기 때문에 인류의 생존을 위해 지구를 벗어나 우주로 향해야 한다는 주장인 것인데, 우주의 에너지는 과연 무한한가,에 대해서는 간과하고 있다.
특이점과 같은 주장들이 기술업계에서 인기를 누리는 비결은 간단하다. 첫째, 모든 문제를 기술의 문제로 환원시켜 버린다. 세상의 모든 부조리는 특이점이 오거나 초지능 AI가 대신 해결해 주거나, 우리가 우주로 나가면 해결된다. 지구온난화는 나노기술이 해결해 주고, 병이나 죽음 등 육신의 문제는 정신을 컴퓨터로 이식하면 해결된다. 둘째, 항구적인 성장이라는 약속을 통해 기술업계의 수지타산과 잘 정렬되어 수익을 올려주고 있다. 셋째, 추종자들 스스로 모든 제약 사항을 무시해도 된다고 생각하게 하여 초월감을 갖게 한다.
불안 조장, 단순화, 초월감 – 이로써 얻게 되는 경제적 이득. 이 구조가 현재 기술업계를 잠식하고 있는 보이지 않는(?) 종교다. 전산학자 겸 예술가인 재런 래니어는 “특이점은 신흥종교이며 그중에서도 특별히 괴짜스러운 신흥종교이다. 그 특이점은 메시아의 재림이자 지상낙원의 실현이며, 아마겟돈이자 세계의 종말이기도 하다. 광신도들은 꼭 자기네가 살아 있을 때 세계 종말이 온다고 생각하는 법이다”라고 했다.
AI·반도체 이슈가 모든 정치경제사회 이슈를 잠식해 버릴 만큼 거세다. 이슈를 장악한 큰 목소리들 때문에 정작 다른 문제들은 소외되버린 상황. 우리는 큰 거부감이나 준비없이 AI라는 미래에 들어와버렸다. 그러나 지금의 모양새는 ‘이래도 되나’ 싶을 정도로 한 가지 목소리에 쏠려있다. “AI로 다 된다”, “AI에 우리의 모든 먹거리가 있다.” AI는 인류에게 정말 유토피아를 만들어줄 것인가? 그럴 수 있을 것이다. 미래는 아직 오지 않았고, 어차피 불확실하니까 말이다. 그렇게 주창해서 돈을 많이 벌고, 그 때에 이르러서는 또 다른 기술적 먹거리를 가져와 사람들을 홀리면 되니까 말이다. 사이비 교주들은 종말과 휴거를 주장하다가 안 일어나면 대부분 또다른 종말을 만들었고, 다른 핑계을 만들어 신도들을 계속 끌어모았다.
오늘도 조만장자는 이런 인터뷰를 했다고 한다. “인류 멸종 확률은 10~20%”, “5년 후면 AI가 인간을 앞설 것이다”,“10년 후면 인간은 침팬지가 될 것이다” 사람들은 그의 말에 겁을 먹거나 흥분하거나 하며 스마트폰에 눈을 박고 있을 것이다. ‘구원’이 뭔지 제대로 알지도 못하는데, 기술이 인간을 구원해줄 것이라 주창하는 사람들. 어디에서 구원이 올까. 적어도 조만장자의 거들먹거리는 말에서 오지는 않을 것 같다.
| 