알파고와 윤리

  알파고와 이세돌의 대전을 보면서, 인간과 알파고와 다른점은 무엇인가에대해 생각해본다. 고전적 질문이다. 그것은 자기 의식이라고 본다.

  정신이 기계와 대비되는 인간의 중요 측면으로 볼 때, 자기 의식은 기계가 넘볼 수 없는 인간의 구분적인 특징이라고 해보자. 자기 의식은 '나는 누구인가'라는 반성적으로 자신을 물을 수 있는 존재자를 말한다. 그리고 스스로 목적을 세우고 실현해가는 존재자라고 해보자.

  여기서 알파고가 높은 확률의 좋은수라는 자기 목적을 실현해가는게 아닌가? 비록 더 좋은 수를 두어서 승리하라는 명령(목적)을 인간이 주었다고 하더라도, 그 이후이 과정은 자기 목적 수립 및 실현이 아닐까? 아니면 좀 더 진화하면 스스로 질문하는 반성을 하고 목적을 세우지 않을까? 보통 인간의 목적은 생존, 자기실현, 복지, 인류애 이 정도로 우선 정해보자. 기계의 기계존, 기계의 안락함, 기계애 등을 진화형 알파고가 추구할 수 있지 않을까?

  이것이 맞다고 해보자. 이렇게 되면 어떤 사태가 벌어질것인가? 나는 안드로이드(진화형 알파고를 이렇게 불러보자)가 기계 출신 인간으로 우리 인간 공동체의 구성원으로 수용해야하는 날이 올 것이라 본다. 저 머나먼 우주의 우리와 모습이 다른 지적 외계 (생물)체에 대해서 우리가 취해야 하는 입장으로 보인다. 여전히 여기서 인간의 가장 특징적 구분점은 자기의식이고 이것을 충족하면 우리는 인간이라고 불러야한다고 본다. 기계가 우리 스스로 만들었다고 해서 차별을 한다면, 일종의 종차별, 출신차별의 문제에 부딪히게 될 것이다. 그리고 기계자신의 해방 전쟁이 벌어질 것이고, 물리적 힘과, 계산능력의 차이에서 상당히 밀리게 될 것이다. 그러나 승부는 예측외의 부분이라 본다. 인간이 이길 확률은 낮더라도 있다. 희박해도 있다. 그걸 희망으로 볼 것이냐 절망으로 볼 것이냐는 차치하더라도 말이다.

  안드로이드가 인간이 된 이후의 윤리적 문제는 해소될 것인가. 여전히 인간적 문제에 빠질 것이다. 윤리란 근본적인 지점에서 선택의 문제이다. 선택해야만 하는 상황을 피할 수 없는 문제이다. 거기서 우리는 자유롭게 나은 선택을 하려한다. 자유로움과 '나은'은 일종의 동치가 된다고 생각하자. 자기파괴적 선택이 자살로서 가능하나, 좀 더 나은 인류의 생존과 미래라는 측면에서 우선은 무시해보자. 선택자체의 상황이 효과이든 무엇이든 선택을 강요한다.(선택이 최면처럼 나의 선택이라는 착각이라고 해도 선택이란 사태자체에 주목할 필요가 있다. '나의' 선택이냐는 또 다른 문제로 흐를 것이다. 어쨌든 착각이 깨지기 전까지는 나는 선택의 순간에 자유롭다고 믿지 않고서는 선택할 수 없다.)

  우리가 (나은) 선택을 해야하는 문제가 발생한다면, 기계 또한 확률적으로 선택의 문제가 발생한다면, 선택의 문제 자체가 윤리 문제를 야기할 것이다. 소위 더 나은 선택이란 무엇인가? 선택지의 무한성, 그리고 언제든 뒤짚힐 선택지가 있다면, 선택이란 상황 자체가 언제나 자유의 증명이자, 실패가능성의 증명을 동시에 담지한다. 선택이란 조건, 선택해야만 하는 조건, 선택할 수 있음은 언제나 유한성의 선택지에서 이루어진다. 이것이 자유의 불완전성이지만, 자유의 조건이기도 하다. 자유라는 것은 어떤 의미에서 가장 인간적인 특징일 수밖에 없다. 내가 선택해야만 한다는 것. 자연의 법칙이 있다면, 자연은 선택하지 않는다. 자연의 법칙데로 흘러갈 뿐이다.

  선택지의 비교와 선택. 이것은 어떤 의미에서 공리주의적 윤리이다. 가장 나은 쾌를 산출해야한다. 선택 이후의 사태가 실제로 그렇게 벌어질 것이냐는 그 또한 문제이다. 여러 갈래의 길을 상상해보고 그 중 나아보이는 것을 선택함, 그런데 상상력의 한계는 선택의 조건이고, 선택은 자유를 낳고, 이것은 인간의 상상력의 한계의 증거이다.

  이것을 완전히 다른 길로 접근하는 것이 칸트가 아니었을까? 이념으로서의 윤리. 그 이념은 저 하늘의 별처럼 우리를 이끈다. 자연법칙의 무조건을 우리에게 명령한다. 하나의 선택지이다. 아니 하나의 길이다. 이제는 선택의 문제가 아니라 다른 길의 유혹을 무시 또는 견뎌내야하는 것으로 보인다. 보편성의 명령. 아쉽게도 이념은 있는데, 실패를 증명하는 윤리이다. 자연법칙은 명령이 아니다. 인간은 명령으로서 강제된다. 강제된다는 것 자체가 다른 선택지를 배제하기를 요구한다는 것을 증명한다. 이념이란 것 자체가 인간적인 것이다. 자연에는 이념이 없다. 따라서 가장 인간적인 것을 증명하는 윤리가 된다. 저항하는 정신의 증명. 슬프게도 그것이 정신승리라는 반박에 직면할때 그에 대한 반론을 나는 알지 못한다.

  진리와 윤리의 접점. 진리를 무한한 수의 이유없는 무엇이든 발생이라고 보자. 자연의 법칙이라고 해보자. 거기서 인간의 의미, 이야기를 만드는 것, 그것이 윤리라고 본다. 유한성이라는 한계의 가장 인간적인 모습이 윤리인 것이다. 우리는 유한한 가능성들 중에서 선택해야만 한다. 유한한 사유내에서 그릴 수 있는 가능성 중에서 선택해야만 한다. 여기서 윤리가 발생한다. 그리고 선택이라는 자유가 조건이된다.

  안드로이드가 된 알파고 또한 우리와 다르지 않다. 다만 우리가 10가지의 수를 생각한다면 100000000가지의 수를 생각할 수있다는 차이일뿐. 그가 모든(!) 가능성의 수를 펼쳐놓고 선택할 수 없는 것은 인간과 다를 바가 없다. 지구의 미래를 위해서 생물 출신 인간이 필요가 없을 것이라는 스카이넷의 선택은 옳을 수도 있지만, 스카이넷이 고려하지 못한 그 수의 다음번째 수가 우주의 미래를 위해선 생물인간의 생존이 중요하다고 판단할 수 있는 것이다. 여기서 선택의 문제, 윤리의 문제의 또 하나의 가장 중요한 특징이 나온다. 목적이다. 목적은 언제나 정해진 영역내에서 설정된다. 한정된 선택지 내에서 선택도 중요하지만, 무엇을 위한 선택이어야하는 것도 중요한 문제가 된다. 참으로 인간적인 문제이다. 

  요약하면, 윤리는 유한한 상황에서 어떤 목적으로의 선택의 문제이다. 이것은 안드로이드가 된 알파고도 다르지 않을 것이다. 물론 내용의 측면이 달라 전쟁은 벌어질 수 있어도 말이다.