원글: http://zziraci.com/8438

일요일에 청소년들과 SF 소설을 읽고 있습니다.

두 주에 한 권씩 읽는데, 첫번째 소설은 아이작 아시모프의 <아이 로봇>입니다. 고전의 반열에 오른 책이지만 여전히 따끈따끈한 문제가 많더군요. 재미있게 읽었습니다. 

수업시간에 나눈 강의 자료를 나눕니다. 

흔히 로봇이라고 하면 ‘인간을 닮은 기계’를 떠올리지만 본래 의미는 이와는 다르다. 잘 알려져있듯 ‘로봇’은 체코어로 노동을 뜻하는 ‘robota’가 어원이다. 즉, 인간의 노동을 대신하는 기계가 로봇이다. 여기서 인간 노동이란 주로 공장 노동자의 일을 가리킨다. 공장에 들어있는 수 많은 로봇 팔 등을 떠올리면 된다. 단순하고 반복적인 일, 정밀하고 정확한 일에 로봇이 쓰인다.

그러나 아이작 아시모프의 소설 <아이, 로봇>에서 말하는 로봇은 이처럼 단순히 인간의 노동을 대신하는 기계 덩어리를 가리키지 않는다. 우리가 떠올릴 수 있는 로봇, 인간을 닮아 인간의 일상적인 일을 대신하는 존재로 그려진다. 첫 등장하는 유모 로봇 로비가 바로 그렇다. 유모, 아이 돌봄이란 ‘노동-일’이기도 하지만 위에서 언급한 ‘공장노동’과는 확연하게 구분된다. 아직까지도 육아는 ‘노동’의 영역에 잘 들어오지 못한다. 이 때문에 아이와 함께 놀아주는 로봇은 위에서 소개한 공장에서 일하는 기계와는 전혀 다른 문제를 던져준다. 로봇을 어떻게 사용하느냐의 문제를 넘어, 그것을 어떻게 대해야 하느냐를 묻게 만든다. 만약 뒤에 나오는 로봇, 예를 들어 광물을 채취한다던가 공사를 대신하던가 하는 로봇으로 소설을 시작했다면 전혀 느낌이 달랐을 것이다. 이 소설은 ‘로봇이 우리 가까이 있으면 어떨까?’라는 질문으로 시작한다.

“내 말 잘 들어요. 앞으로는 우리 딸을 기계한테 맡기지 않을 거예요. 그 기계가 아무리 똑똑해도 말이에요. 기계는 영혼도 없고, 속으로 무슨 생각을 하는지 아무도 모르잖아요. 아이는 금속 기계한테 맡겨지려고 태어난 게 아니에요.” (23쪽)

웨스턴 부인의 저 말은 위에 던졌던 질문에 대한 하나의 대답이다. 기계 덩어리를 곁에 두는 것은 뭔가 꺼림직하다. 인간의 일을 대신하는 기계는 끔찍하기까지 하다. 여러분이라면 어떤가? 아이를 로봇에게 맡기는 사람이 있다면 어떨까? 만약 어린 시절 부모가 로봇에게 여러분을 맡겼다면? 여러 생각이 들텐데, 그것은 ‘인간의 일’이라는 고유한 영역이 있다고 생각하기 때문이다.

소설은 수잔 캘빈 박사를 인터뷰하는 식으로 전개된다. 수잔 캘빈 박사는 U.S. 로보틱스에서 일하면서 로봇에게 일어난 다양한 문제를 경험한 인물이다. 소설을 읽으면 로봇의 발전사를 대충 훑어볼 수 있는데, 처음에 등장한 로비가 인간의 말에 단순하게 반응하는 존재였다면 이후에는 말을 하기도 하며, 욕구를 갖기도 하고, 딜레마에 빠져 망가지기도 한다. 결국 나중에는 세계를 ‘조정’ – 이를 ‘지배’라는 말로 바꾸어도 무방할지도 – 하는 존재로 그려진다. 로봇을 따라 사회도 덩달아 발전하는데, 나중에 가면 초공간 우주 여행으로 우주에 여러 식민지를 만들기도 한다.

놀랍게도 소설 속에서 수잔 박사는 1982년 생이다. 그가 로봇 심리학자로 U.S. 로보틱스에서 활약하기 시작한 것이 2008년이었다! 첫 주인공 로비는 20세기 후반, 1998년을 배경으로 한다. 그러나 2016년에 사는 우리는 로봇을 볼 기회도 별로 없다. 장난감 로봇이라면 몰라도, 로비처럼 숨바꼭질을 하며 놀 수 있는 로봇이란 아직도 먼 미래에나 가능한 이야기다. 이 소설은 1950년 대에 쓰여졌는데 작가가  상상한  반세기  후는  꽤 매력적인 세상이었다. 현실은 기대에  미치지 못하지만 어쩌면 우리에게는  이것이 다행이라고 할 수 있다. 과연 소설에서 던지는 질문에 지혜롭게 답할 수 있을지 의문이기 때문이다.

소설 속에서 로봇은 인간을 닮고, 인간의 일을 대신하기 위해 출발했지만 궁극적으로는 인간의 능력을 뛰어넘기에 이른다. 세번째 등장하는 로봇 큐티의 질문을 보자. 큐티는 인간이 자신을 만들었다고 하는 주장을 믿지 않는다. 어떻게 열등한 존재가 우월한 존재를 만들어 낼 수 있다는 말인가?

“두 사람 자신을 보세요. 깔보려고 하는 소리가 아니에요. 두 사람 자신을 보라고요! 두 사람을 구성하는 물질은 약하고, 강도와 지구력도 떨어지고, 에너지를 유기물의 완전한 산화 작용에 의존하고 있어요. … 두 사람은 정기적으로 의식을 잃고, 기온이나 기압이나 습기나 열기가 조금만 변해도 효율성이 떨어져요. 두 사람은 임시 방편으로 만든 제품이 분명해요. 하지만 난 완성된 제품이에요. 전기 에너지를 직접 흡수해서 거의 백 퍼센트 효율적으로 활용하죠. 몸은 단단한 금속으로 구성되어 있고, 항상 의식이 깨어 있고, 극단적인 환경을 쉽게 견딜 수 있어요. 이런 사실은 그 어떤 존재도 자신보다 우수한 존재를 만들 수 없다는 확실한 명제에서 볼 때, 두 사람의 멍청한 가설이 엉터리라는 걸 증명해요.” (91쪽)

오류는 인간의 것

이 얼마나 멋진 ‘합리적 의심’인가? 그런데도 로봇은 인간의 명령을 따라 주어진 임무를 수행한다. 그것은 모든 로봇이 제1원칙에 구속되어 있기 때문이다. ‘로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.’ 좀 거칠지만 이를 다른 말로 바꾸면 로봇은 인간의 이익을 위해 존재한다.  이는 매우 복잡한 문제를 낳는다. 과연 인간에게 끼칠 수 있는 ‘해로움’이란 무엇을 말하는 걸까? 허비, 마음을 읽어 거짓말 하는 로봇은 이 문제 때문에 결국 딜레마에 빠져 망가져버리고 만다.

“어떤 종류의 해를 끼치면 안 된다는 걸까요? … 어떤 종류든! 그렇다면 마음이 상하는 건 어떨까요? 인간의 자아가 위축되는 건? 인간의 희망이 사라지는 건? 이것도 해가 될까요?”(184쪽)

모든 사람에게 해를 끼치지 않는, 모든 사람이 만족할 수 있는 상황이란 없다. 개별 인간의 욕망을 충족시켜 줄 수는 있지만 그것은 인간 사이에서 늘 문제를 일으키기 마련이다. 쉽게 생각하자. A에게는 A가 좋다고 하고, B에게는 B가 좋다고 하는 사람이 있다고 치자. 만약 그가 여러분의 이성친구라면! 그는 여러분에게 과연 이로운 존재일까? 한 인간에게 이로운 것이 다른 인간에게도 이로울 것이라는 보장은 없다. 아니, 거의 대부분 한쪽의 이익은 다른쪽의 손해를 낳는다.

이를 조금 수정하자. 만약 로봇이 소유주의 이익을 위해서만 행동한다면? 여기서 즉각 나오는 문제는 한 인간이 로봇을 도구로 다른 인간을 해치는 경우이다. 예를 들어 로봇을 군대나 도둑으로 만드는 경우를 떠올릴 수 있다. 특정한 조작으로 이런 일을 미연에 방지할 수 있다고 하자. 다른 인간에게 해를 끼치지 않는 한에서 한 인간에게 이로움을 준다고 하자. 그러면 괜찮을까?

여기에도 문제는 발생한다. 한 인간에게 한 때 이로운 일이 과연 이후에도 그럴까? 여러분의 일상을 돕는 로봇을 상상하자. 청소년의 게임에 대해서 로봇은 무엇이라 반응할까? 마약과 같이 짧은 쾌락을 주지만 건강을 망치는 것은 어떤가? 자살은? 더 나아가 존엄사의 문제에 대해 어떻게 판단할까?

개구쟁이 천재로 소개된 브레인은 초공간 여행을 가능케했다. 비록 인간이 초공간 이동 순간 죽음을 경험하지만 무사히 돌아올 것을 알기에 브레인은 초공간 여행을 실행했다. 물론 그 긴장-불안정 때문에 유머(!)를 갖게 되었지만.

“… 딜레마가 전혀 없었던 건 아니예요. 비록 죽음은 한순간이고 그 의가 약화되었는데도 브레인을 불안정하게 만들기에 충분했거든요. … 그 결과는 일종의 유머로 나타났어요. 유머는 브레인이 현실을 부분적으로 도피하는 방법이었습니다. 정말 짓궂은 장난꾸러니가 된 거죠.” (282쪽)

소설 속에서 거의 모르모트 수준으로 갖은 고생을 하는 두 인물 파웰과 도노반은 인류 역사 가운데 처음으로 초공간 여행을 경험한다. 매끈한 우주선으로 실려 갔다가 돌아온 것에 불과했지만. 생각보다 우주선은 안전했고, 브레인의 계산은 틀림이 없었다. 음식도 충분했다. 그러나 만약 그 둘이 폐쇄공포증을 가지고 있었다면? 혹은 목욕도 못하고 콩 따위나 먹는 상황에 과도한 스트레스를 받아 미쳐버리거나 했다면? 그들이 유쾌한 정신을 가지고 있었으니 망정이지 그렇지 않았다면 충분히 위험할 수 있는 상황이었다. 비록 생명에는 해가 되지 않더라도.

소설에는 나오지 않지만 거꾸로 이런 로봇도 가능하다. 

우울한 로봇 <은하수를 여행하는 히치하이커를 위한 안내서>의 마빈

이제 로봇은 인간의 연산 능력을 훨씬 뛰어넘는 존재가 되었다. 게다가 인간에게 해를 끼치지 않는 존재라는 게 여러 경험을 통해 입증되었다. 물론 그 ‘해로움’에 대한 의문이 아직 남아 있지만 이는 잠시 잊어두자. 만약 그렇다면 그토록 합리적으로 판단하는 로봇을 공직자의 자리에 앉히는 것은 어떤가?

“… 난 로봇이 좋아요. 인간보다 훨씬 좋아하지요. 만일 로봇이 공직 생활을 해도 된다면 정말 훌륭한 공직자가 될 거예요. 로봇의 기본 원칙 때문에 인간에게 해를 끼칠 수 없고, 독재나 부정부패는 물론이고 멍청한 편견도 갖지 않을 테니까요.” (326쪽)

수잔 박사의 이 말은 어떤가.  고개를 끄덕일  만하지  않나? 정치란 늘 소수가 이익을 독점하는 게 문제니. 만약 내년 대선에 완전한 인공지능이 나온다면 어떨까? 투표권이 있다면 인간에게 투표하겠는가 아니면 완벽한 인공지능에게 투표할 것인가? 책에서 말하는 것처럼 정치가 ‘지배’를 위한 게 아니라 ‘조정’을 위한 것이라면 합리적 조정자, 로봇을 그 자리에 앉히는 것은 매우 합리적인 선택으로 보인다.

결국 소설은 수퍼 컴퓨터가 세계 조정자의 역할을 하는데 이른다. 그런데도 세계의 갈등은 끊이지 않는다. 어찌된 일일까? 수잔 박사는 그 모든 것이 수퍼 컴퓨터의 계산 안에 있다는 주장을 펼친다. 지역적으로는 갈등이 벌어질지 모르지만 이것은 인류 전체의 이익을 위해 필요한 것이다. 이제 또 다른 원칙이 필요하다. 제0원칙이라 불리는 것이다.

‘로봇은 인류에게 해를 끼쳐서는 안 된다. 그리고 위험에 처한 인류를 모른 척해서도 안 된다.’ 이것은 앞에서 질문한 첫째 문제, 한쪽의 이익이 다른쪽의 해로움일 경우에 대한 대답이다. 비슷하게 앞에 던졌던 둘째 질문에 대한 대답도 가능하다. ‘로봇은 인간의 삶에 해를 끼쳐서는 안 된다. 그리고 위험에 처한 인간의 삶을 모른 척해서도 안 된다’ 논리적으로는 완벽한가? 모르겠다. 그보다 더 중요한 것은 논리가 아니라 윤리의 문제이다.

과연 ‘인류의 이익’이라는 것은 무엇일까? 한 때 서점가를 달구었던 <정의란 무엇인가>의 질문을 빌려보자. 여러분이 버스의 운전사다. 그런데 앞에 갑자기 사람이 나타났다. 그 사람을 피하려면 핸들을 옆으로 꺾어야 한다. 그런데 절벽 옆 좁은 도로 위다. 핸들을 옆으로 꺾으면 승객이 위험하다. 여러분은 어떻게 하겠는가? 가정을 더하자. 승객이 10명, 도로에 등장한 사람이 1사람이라면? 거꾸로라면? 혹은 여러분의 버스가 일반 버스가 아니라 죄수 호송차였다면? 그리고 앞에 나타난 것이 어린 아이였다면!? 우리를 당혹스럽게 만들 수 있는 방법은 아직도 많이 있다.

이런 까다로운 순간 수퍼 컴퓨터는 어떻게 판단할까? 그리고 그 선택은 만족스러운 선택이었을까? 한 걸음 더 나아가 그것은 ‘옳은’ 선택이었을까? 우리는 여기서 이로움과 해로움을 결정하는 또 다른 무엇이 있다는 것을 발견하게 된다. 이로움을 선택하기에 앞서 이로움을 어떻게 정의할 것인가의 문제가 남는다. 로봇의 3원칙에 0원칙을 더하더라도, 질문은 여전히 남는다. ‘무엇이 해로움인가? 무엇이 이로움인가?’ 사실 이것은 인간이 답해야 하는 문제이기도 하다. 이 소설이 단순히 재미난 소설을 넘어 묵직한 질문으로 다가오는 것은 이러한 문제로 우리를 이끌기 때문이다.

지금까지 로봇과 인공지능을 섞어 사용했다. 사실 이 둘은 전혀 다르다. 2016년 세계를 뜨겁게 달구었던 ‘알파고’를 기억하자. 알파고는 바둑 ‘두는 법을 계산’하는 기계이기는 했지만 바둑을 ‘두는’ 기계는 아니었다. 중계 방송을 본 사람은 알파고의 결과에 따라 사람이 바둑을 놓는 장면을 기억할 것이다. 한편 일본 만화에 흔히 등장하는 로봇을 생각하자. 마징가, 건담 따위의 로봇은 인간이 타지 않으면 움직이지 않는 무쇠 덩어리에 불과하다. 인간을 닮은 기계지만 스스로 움직일 수는 없다.

소설은 이 둘이 결합되어 있다. 양자두뇌를 탑재한 로봇.  그러나 앞에서 언급했듯 이 둘은 다르며 현실에서도 서로 따로 발전하고 있다. 인간의 행동을 닮은 로봇과 인간처럼 사고하는 컴퓨터로. 과연 이 둘이 결합되어 진짜 인간 같은 존재가 등장하는 날이 올까? 흔히 떠올릴 수 있는 것은 로봇의 금속 뼈대에 인간의 피부를 입히는 것이다. 영화 <터미네이터>가 유명한 예다. 이 소설도 그와 비슷한 문제를 다룬다. ‘바이어리’가 그렇다. 이를 ‘안드로이드’라고 부른다. 인간과 구분하기 힘든 로봇!

한편 반대의 경우도 있다. 인간이 상실한 기능의 일부를 로봇이 대신한다고 하자. 예를 들어 팔을 잃은 사람이 로봇팔로 교체한다면? 현실에서도 일부 가능하지만 지금은 인간의 것만큼 만족할만하지는 않다. 기계와 결합한 인간, 이를 ‘사이보그’라고 부른다. 대표적인 인물로 스티븐 호킹이 있다. 만약 과학이 더 발전하면 어떨까? 사이보그는가 인간보다 더 훌륭한 능력을 갖지 않을까? 훨씬 힘이 세다던가 하는. 나중에는 무한한 생명을 위해 기계 인간이 되고자 하는 인간마저 상상할 수 있다. <은하철도999>의 철이가 바로 이를 목표로 여행을 떠나는 인물이다.

..?!!?

인간과 로봇, 사이보그와 안드로이드. 이는 결국 인간의 경계를 묻는 질문을 가져온다. 이들이 마구 뒤섞인 사회에 산다면 우리는 인간을 무엇으로 정의할 것인가? 몸 전체를 기계로 바꾼 것은 인간인가? 거꾸로 인간에게서 태어나지 않은 기계, 인간과 똑같은 그는 여전히 기계에 불과한 것일까? 소설에서는 실리지 않은 또 다른 로봇의 이야기가 있다. 바이어리의 이야기에서 이미 이 문제가 간단히 다루어지기도 했다. 소설에서는 그를 로봇으로 의심하는 사람이 이렇게 말한다.

“당신이 로봇이라면 시민권을 인정받을 수 없습니다.” (314쪽)

아무래도 인간이 기계가 되는 쪽보다는, 기계가 인간이 되는 쪽이 어려워 보인다. 그러나 정말 그것은 불가능할까? 아이작 아시모프의 다른 소설 <이백살을 맞은 사나이>(링크)는 이 문제를 다루고 있다. 이 소설에서 아이작 아시모프는 기계가 인간이 되는 것도 가능하다고 말한다. 가능성 여부보다 더 큰 문제는 어떻게 가능할 것인가 하는 점이다. 아이작 아시모프의 생각이 궁금하다면 소설을 읽어보자. 영화 <바이센테니얼 맨>을 보는 것도 좋다.

기왕에 상상의 나래를 펼친 이상 하나 질문을 더해보자. 사이보그와 안드로이드가 뒤섞인 세상, 모두가 사회의 구성원으로 인정받는 시대가 열렸다고 하자. 그 과정이야 어떻게 되었든 사이보그도 인간도, 안드로이드도 모두 동등한 존재로 인정받는다. 그래서 안드로이드 친구도, 사이보그 친구도 있다. 그렇다면 가족이란 어떻게 될까? 만약 안드로이드나 사이보그를 이성친구로 만들 수 있다면? 더 나아가 안드로이드 혹은 사이보그와도 결혼할 수 있을까?

거듭 말하지만 이런 질문은 단순한 공상에 그치지 않는다.