알파고의 실수?

이세돌과 알파고의 제1국 바둑 중계에서, 중간쯤, 이를 관전하고 평가하던 프로기사들은 알파고의 몇 수에 대해 실수라고 지적하고, 이세돌의 승리를 낙관했었다.

그런데 그것도 잠시였다. 알파고가 몇 수를 더 두자 갑자기 상황이 돌변했다. 이세돌의 표정이 어두워졌으며, 형세가 백중지세라고 하더니, 몇 수가 더 진행되자 해설 기사들의 얼굴이 망연자실해지면서, 돌이킬 수 없을 정도로 패색이 짙어졌다는 탄식이 터져 나왔다.

알파고의 실수는 실수인가  

알파고는 프로기사들이 말하는 것처럼 중간에 정말 ‘실수’를 한 것일까? 이 사례는 실수의 존재론적 조건을 생각하게 한다. 거짓의 존재론적 조건과 맞물리며 말이다. 어떤 믿음이 거짓이라고 말하기 위해서는 그 믿음이 어떨 때 참이 되는지에 대한 믿음이 먼저 있어야 한다. 마찬가지로 어떤 행위를, 이 경우에서는 바둑의 어떤 수를 실수라고 명명할 수 있기 위해서는 ‘더 좋은 수’가, 아니 적어도 그 가능성이 전제되어야 한다.

그런데 유한한 인간은 어느 것이 더 좋은 수인지를 완벽하게 판단할 수 없다. 다만 바둑을 더 잘 두는 사람이 더 좋은 수의 가능성을 알려주면 문외한인 우리는 그것으로부터 그것이 좋은 수임을 받아들일 뿐이다. 물론 그보다 더 고수의 기사가 나타나 그 좋은 수보다도 더 좋은 다른 수를 알려줄 가능성이 언제나 열려 있으므로, 좋은 수라고 하는 것은 여전히 잠정적이다.

알파고는 그 ‘실수’에도 불구하고 이세돌을 결국은 이겼으므로 우리는 알파고의 그 수가 실수가 아니라 계산의 결과로 나온, 좋은 수였을 수도 있다는 생각을 하지 않을 수 없다. 이세돌의 방심을 유도했다는 점에서 좋은 수였든, 아니면 모든 가능성을 다 따져 봤을 때 그것이 최선이었다는 점에서 좋은 수였든 간에 말이다.

문제는 우리로서는 그것을 판단할 수 없다는 것이다. 언제나 실수는 그것을 더 잘 아는 사람에 의해 판단되기 때문이다. 만약 알파고가 이세돌을 계속 이긴다면 알파고의 그 수는 실수가 아니라 제대로 된 수였다고 인정될지도 모른다. 결국, 알파고의 실수는 알파고를 이기는 ‘베타고’에 의해서만 판정될 수 있을 것이다.

인간의 실수를 지적할 인공지능

이것은 무서운 함축을 갖는다. 왜냐하면, 우리에게 실수로 보이는 로봇의 어떤 행동을 우리가 더는 실수라고 부를 수도 없게 된다면, 우리는 그 로봇을 제어할 모든 정당성을, 그리고 그 결과 권한을 잃게 될 것이기 때문이다. 인간에 대한 로봇의 지배는 바로 이런 모습으로 우리에게 다가올 것이다.

여기서는 그 로봇이 스스로 판단할 수 있느냐, 감정을 가질 수 있느냐 따위가 전혀 중요하지 않다. 로봇의 어떤 행위가 사실은 행위가 아니라 단지 하나의 기계적 작동에 불과할지라도, 우리가 그 작동을 그 상황에서 실수로 판단할 수 있느냐가 더 중요한 관건이기 때문이다. 우리가 어떤 행위나 행위자를 실수나 잘못으로 판단할 수 없는 한 우리는 그것에 대한 정당한 권한을 상실한다.

더구나 권한의 상실로 인한 피지배, 즉 복종은 강제력에 의한 복종이 아니라 이성적 판단에 의한 복종이므로 자발적 형태로 나타날 것이다. 따라서 인간과 인공 지능 간의 전쟁은 그야말로 영화에서나 가능한 허구일 가능성이 크다. 왜냐하면, 인공지능은 전쟁 없이, 합리적 논리만으로도 인간을 충분히 굴복시킬 수 있기 때문이다.

물론 이 정도까지 가기 위해서는 특정 맥락에서의 실수가 아니라, 인간 행위 전반, 올바르거나 바람직한 삶이라는 맥락에서 인공지능이 실수를 지적해줄 수 있어야 한다. 인공지능이 정말 이것까지 해줄 수 있을지는 모르겠다.

하지만 체스에 이어, 바둑에까지 그 영역을 확장하는 속도에 비춰볼 때, 장기적 또는 단기적 인간 쾌락의 최대화라는 맥락에서 인간 행위의 실수를 지적해줄 인공지능은 조만간 충분히 가능하리라 생각되기도 한다. 그리고 사실 인간은 단지 자기 쾌락을 최대화하는 존재 외엔 다른 것이 아니라면?

그렇다면 인간이 추구하는 쾌락은 생각처럼 단순하지 않다는 데 기대를 걸어보는 수밖에 없다. 존 스튜어트 밀의 말처럼 인간은 배고픈 소크라테스가 되고픈 엽기적 탐미자일 수도 있으니까 말이다. 우리가 부모 말을 듣지 않는 것이 부모 말이 틀려서가 아니지 않은가?

우리는 태생적으로 부모 말 안 듣고, 속 썩이게 만들어진 것이다. 그러므로 인공지능 시대는 부모 말 잘 듣는 이에게는 지옥이지만, 속 썩이는 이에게는 천국은 아니더라도 살판 나는 세상이 될 것이다. 그런 자식을 낳을 부모가 그때에도 있다면 말이다.

실수하는 우연적 존재로서의 인간, 그 마음   

덧붙여, 우리는 흥미로운 질문을 하나 더 던져 볼 수 있겠다. 알파고의 계산과 학습 로직을 잘 아는 프로그래머가 대국 당시 알파고의 결정 과정을 프로그램 수행 순서대로 복기한다면 그의 그 한 수가 실수였는지 아닌지를 판단해줄 수 있을까?

글쎄 그 복기란 것이 가능할지도 의문이고, 가능하다고 하더라도 그것이 실수인지 아닌지를 판단할 수 있을지는 더 의문이다. 왜냐하면, 그 프로그래머가 이세돌만큼 바둑을 알지는 못할 것이기 때문이다.

알파고에 이어, 베타고, 감마고를 거치면서 바둑에 존재하던 우연의 영역은 이제, 체스가 그랬듯이, 완전히 소멸할 날이 머지 않은 것 같다. 그러나 실수하는 인간의 마음이라는 우연적 존재는 앞으로도 여전히 미궁일 것이다. 그 마음을 대신할 ‘오메가고’가 출현한다 하더라도 그것의 실수는 여전히 인간의 마음이 판단해야 할 것이므로.