기계가 계산할 수 없는 기적과 우연, 그리고 민주주의

22대 국회가 개원했습니다. 유권자의 소중한 한 표, 한 표를 읍소하며 당선된 300명의 국회의원이 과연 유권자를 위해 제대로 일하는지 지켜보고 감시해야 할 때입니다. 이들이 어떤 일을 하는지, 어떤 일을 해야 하는데 안하는지에 따라 우리의 삶이 달라지니까요. 참여연대 의정감시센터는 칼럼을 통해 유권자의 시각에서 22대 국회와 정치를 비평합니다. 무엇보다 ‘중’요한 건 ‘꺾’이지 않는 ‘정’치개혁이니까요.

추락하고 공격받는 민주주의… AI의 출현

기묘한 풍경이다. 21세기도 사반세기가 지난 가운데, 민주주의는 한 세대의 극성기를 넘기고 전 세계적 위기와 공격의 대상이 되었다. 흔들리는 이행기의 국가뿐 아니라 민주주의가 더없이 발전했다고 믿었던 서구 국가에서 목도하는 민주주의의 하락 장세는 믿기 어려울 정도다. 파시스트와 나치가 등장하던 1920년대부터 1940년대의 정치가 역사학자의 서재에서 당대의 정치를 분석하는 정치학자의 책상 위로 올라왔다.

그런데 그 역사적, 심지어 전통적이기까지 한 위기와는 전혀 다른 양상의 위기가 눈앞에 와 있다. 과거 산업혁명이 노동 대중을 탄생시켜 근대 민주주의로 나아가는 길을 열었다면, 우리 눈앞의 새로운 혁명은 인류라는 ‘종’이 지구상에서 보낸 시간을 끝내고 다음 장을 펼칠 만큼 파괴적이다. 불과 3, 4년 사이에 무섭도록 다가온 인공지능 혁명이 그것이다.

민주주의는 어떤 미래를 맞이할 것인가? 극우와 포퓰리스트를 동반한 권위주의의 회복, 인민주권의 의미에 수많은 물음표를 던질 인공지능 혁명 속에서 민주주의는 안과 밖의 거대한 도전에 직면해 있다.

사심 없는 기계가 탐욕스러운 정치인보단 낫지 않을까?

인공지능의 여파는 방대하지만, 여기서는 민주주의를 구성하고 있는 정치적 과정에만 초점을 맞추고자 한다. 여타 수많은 결정 과정에서처럼 인공지능이 민주주의의 의사결정 구조에 개입하는 것은 단순한 기술적 진보를 넘어 통치의 근본 질서에 관한 본질적인 질문을 던지는 행위다. 데이터 기반 효율성이 정치 영역에 침투하는 속도는 우리의 예측을 앞질러 갈 것이다.

인공지능 기술의 개발 기반은 소수 자본 또는 국가에 의해 좌우되지만, 그 활용과 영향력은 통제하기 어려운 개인 수준에 확산하여 있다. 여론의 형성과 설득, 그리고 정책 도구로서의 활용은 경계 없이 번져 나갈 것이다. 우리는 인공지능이 민주주의를 보조하는 수준을 넘어 주권을 대리하거나 유권자의 사고방식 자체를 규정하려 하는 잠재적 변화에 주목해야 한다. 이를 통제할 구체적인 입법 원칙을 마련하는 것은 인간이 구축해 온 세계 질서의 토대를 누가, 어떤 원리로 규정할 것인가를 결정하는 가장 근본적인 과업이다.

민주주의의 고질적인 비효율과 갈등을 인공지능이 완전히 대체할 수 있다는 믿음은 과거 플라톤이 주창한 철인정치의 논리와 맞닿아 있다. 철인정치가 형이상학적 진리를 독점한 자에 의한 통치였다면, 현대의 인공지능은 방대한 연산 능력을 무기로 ‘수학적 객관성’이라는 새로운 권위를 형성한다. 사심 없는 기계의 판단이 인간 정치인의 탐욕이나 어리석음보다 공정할 것이라는 기대는 국회와 사법부를 기계로 대체하자는 대중의 푸념을 정당화한다.

그러나 공화주의의 고전적 가르침은 단호하다. 헌정주의의 핵심은 완벽한 기계에 의존할 수 없는 전제 위에 서 있다. 서로 다른 이해관계가 충돌하고 타협하는 혼합 정체의 역동성 속에 시민의 자유가 존재한다는 믿음이 공화제의 토대다. 민주주의는 최상의 효율을 찾아내는 연산 과정이 아니라, 비효율을 감수하면서도 우리 공동체가 동의할 수 있는 지점을 찾아가는 과정이기 때문이다.

인간을 위한 인공지능: 원칙과 제안

따라서 인공지능 관련 입법의 제1원칙은 인공지능을 결코 정치적 결정의 주체로 승격시키지 않는 데 두어야 한다. 인공지능은 기술적 보조 도구로 엄격히 한정되어야 하며, 공동체의 가치를 선택하고 책임지는 결단의 영역은 오직 인간 주권자의 몫으로 남겨져야 한다. 이를 위해 인공지능을 단순한 소프트웨어가 아니라, 공권력 행사에 영향을 미치는 ‘공적 의사결정 보조 시스템’으로 법적 정의를 세워야 한다.

이는 대한민국 헌법 제1조의 주권재민 원칙과 제10조의 인간 존엄 가치를 수호하기 위한 선언이다. 정책 배분을 좌우하는 지능형 시스템을 ‘고위험 시스템’으로 분류하고, 헌법적 가치 수호의 관점에서 ‘인간에 의한 최종 결단권’을 명시적으로 보호해야 한다. 공권력이 시민을 ‘분류 대상’이 아닌 ‘결정 주체’로 대우하는 원칙이 무너지는 순간, 인공지능은 도구가 아닌 통치의 새로운 형식이 되고 만다.

기술의 효율성으로 민주주의의 피할 수 없는 사회적 비용과 피로감을 대체하려는 유혹은 거셀 것이다. 그렇기에 우리는 개별 인공지능의 성능 경쟁을 넘어 인간 사회의 ‘전체 지능’을 고도화하는 길을 모색해야 한다. 인공지능에 판단력을 외주화하는 것이 아니라, 인공지능을 매개로 시민과 공동체의 사고 역량이 함께 상승하는 상태, 즉 ‘고도화된 전체 지능’을 지향해야 한다.

이는 기계가 인간을 대신해 생각하는 체제가 아니라, 기계가 제공하는 정밀한 데이터를 바탕으로 인간이 더 깊고 넓게 사유할 수 있는 공적 환경을 만드는 것을 뜻한다. 정치가 지닌 본연의 속도, 즉 차이를 확인하고 설득하며 숙성시키는 ‘인간의 속도’를 인공지능의 연산 속도가 침범하지 못하도록 절차와 규범으로 조절해야 한다. 민주주의의 진보는 처리 속도가 아니라 참여의 깊이에 달려 있으며, 역사의 어느 지점에서도 게으른 시민은 민주주의를 지킬 수 없었음을 상기해야 한다.

디지털 불복종권: 비효율적이라도 인간적 대안 선택

인공지능이 유권자를 대하는 방식 역시 자치 원리와 정면으로 충돌할 위험이 크다. 알고리즘은 유권자의 선호를 분석해 확증 편향을 강화하고, 시민을 예측 가능한 데이터 틀 안에 가둠으로써 ‘길들여진 유권자’를 양산할 가능성을 내포한다. 통계적 확실성을 지향하는 시스템은 민주주의의 생명력인 다양성과 우연성을 거세하며, 정보의 선별권을 기계에 넘겨준 시민은 스스로 판단하는 능력을 상실한 채 설계된 논리적 필연성 속에서만 선택권을 행사하게 된다.

특히 과거 데이터의 편향을 학습한 알고리즘이 특정 계층을 배제하거나, 마이크로 타겟팅으로 시민의 판단 환경을 조작하는 행위는 실존적 위협이다. 그러므로 인공지능 입법은 어떤 방식의 배제와 조작이 가능한지를 시민이 충분히 이해할 수 있도록 구체적으로 적시하여, ‘알고 있는 시민’ 위에서 민주주의가 작동하도록 보장해야 한다.

이러한 지적 종속을 방지하기 위해 시민이 인공지능의 제안에 명시적으로 거부하고 불복종할 수 있는 ‘디지털 불복종권’을 보장해야 한다. 알고리즘의 최적해가 인간의 양심이나 공동체의 역사적 맥락과 충돌할 때, 비효율적일지언정 인간적인 대안을 선택할 권리는 주권의 핵심 방어선이 된다.

또한 인공지능의 즉각적 응답 속도가 정치적 판단의 경솔함으로 이어지지 않도록 중대한 정책 결정에서는 숙려 기간과 토론 절차를 보장하는 ‘법적 지체 장치’를 강제해야 한다. “기계가 이렇게 말했다”는 이유로 토론이 끝나지 않도록, 인간이 다시 묻고 검증하는 절차가 법률 문면에 새겨져야 한다. 숙의는 민주주의가 생존하기 위해 지불해야 하는 가장 고귀한 시간적 비용이다. 무관심한 시민은 민주주의를 지킬 수 없다.

데이터 커먼즈, 책임 귀속 원칙도 중요

정치적 의사결정에 활용되는 데이터가 기술 권력에 독점되지 않도록 ‘데이터 커먼즈’ 체제를 구축하는 일도 중요하다. 인공지능의 학습 데이터와 설계 원칙은 공공 자산의 성격을 갖는 만큼, 투명성, 추적가능성, 이의제기 가능성을 확보하여 다양한 주체가 상호 견제할 수 있는 구조를 세워야 한다.

기술 권력이 정치 위에 군림하는 테크노크라시를 경계하며, 알고리즘의 복잡성 뒤에 전문가들이 시민의 눈을 가리는 현상을 막아야 한다. 인공지능의 영향력이 국경을 넘어 발생한다는 점을 고려할 때, 이는 국가적 데이터 주권 수호와 보편적 인권 보호 사이의 균형을 잡는 문명사적 과업이기도 하다. 민주정치의 인민 주권을 지키기 위해서는 시민을 무력감에 빠지지 않게 해야 한다.

정책 결정에 대한 검증 방식 또한 민주적이어야 한다. 정책 알고리즘의 위험을 점검하는 과정은 전문가의 지식과 시민의 생활 감각이 결합한 다층적 구조여야 한다. 국회 공청회와 무작위 시민 숙의 과정이 입체적으로 작동할 때 인공지능은 비로소 민주주의의 조력자가 될 수 있다.

이와 함께 알고리즘의 작동 방식을 이해하고 비판적 사고를 견지할 수 있는 ‘디지털 시민성’ 교육을 강화하는 것은 다가올 시대를 위한 근본적인 투자다. 기술 시대의 판단 능력은 기술의 구조를 모르는 상태에서는 자라기 어렵다. 시민 스스로가 알고리즘의 논리에 질문을 던질 수 있을 때, 민주주의는 기술의 파고 속에서도 자생력을 유지한다. 무지한 시민은 민주주의를 위기에 빠뜨리는 법이다.

마지막으로 인공지능의 보조를 받은 결정에서 실책이 발생했을 때 기계 뒤로 숨어 책임을 회피하는 것을 막기 위한 ‘책임 귀속의 원칙’이 명문화되어야 한다. 정치는 오직 책임지는 존재만이 행할 수 있는 행위이며, 인공지능의 판단이었다는 변명으로 주권을 유기하는 행위를 원천적으로 차단해야 한다. 인간 사회의 지능은 기계 학습의 성과가 아니라 그 사회가 실천하는 합의와 정의의 고도화로 평가되기 때문이다. 무책임한 시민은 민주주의의 주인이 될 수 없다.

인공지능을 통한 인간을 위한 정치

결국 인공지능과 민주주의에 관한 질문은 인간이 주인으로 남을 것인가, 아니면 기술 시스템의 부속품으로 전락할 것인가를 결정하는 질문이다. 기술이 진보할수록 우리는 더욱 치열하게 인간의 자리를 확인해야 하며, 데이터가 불가능하다고 말할 때에도 ‘그럼에도 불구하고’ 수행하겠다고 선언하는 주권자의 목소리를 법적 질서의 근간으로 삼아야 한다.

민주주의는 기계가 계산할 수 없는 기적과 우연을 허용하는 체제다. 인공지능의 연산이 끝나는 바로 그 지점에서 우리의 주권적 정치는 비로소 시작되어야 한다. 어디를 보아도 지금 인공지능에 몰두하는 정부와 정치권은 인공지능의 개발과 확산을 위한 산업과 교육 환경을 제시하는 데 머물러 있다.

인공지능을 성장의 도구로만 생각하고 있다. 정치의 질문이 어떤 강력한 기술을 소유했느냐에 머물러서는 안 된다. 시민에게 절대 꺾이지 않는 자립의 정신과 책임의 주체성이 있어야 민주주의를 방어할 수 있다. 인공지능을 통해 인간의 정치를 어떻게 강화할 것인가를 묻는 근본적 전환을 시작해야 한다. 이것이 이 기묘한 시기를 지나 다가올 두려운 시대를 향해 우리가 던져야 할 가장 묵직한 입법적 과제이자 철학적 응답이다.