“브레인 해킹, AI가 민주주의를 잠식하고 있다.”

다음은 25일 대한상공회의소 회의실에서 열린 한겨레 포럼에서 로렌스 레식(하버드대 로스쿨 교수)의 발표 가운데 일부다.

AI는 관심 유도(engagement)를 극대화하는 비즈니스 모델에 최적화돼 있다. 이용자들의 ‘주의(attention)’를 해킹해 광고 수익을 창출한다.
이것은 브레인 해킹이다. 설탕과 지방의 조합으로 사람들이 음식을 계속 먹게 만드는 바디 해킹과 비슷하다. AI는 클릭 가능성을 높이려고 이용자들의 성향을 바꾼다. 극단적 정치 성향이 예측 가능성을 높이기 때문에 급진화(radiclalization)를 유도한다.
AI는 우리의 심리적 취약점을 파고든다. 참여를 유도하는 가장 수익성 높은 전략이 바로 증오의 정치다. 콘텐츠가 더 극단적일수록 더 많이 반응하고, AI는 이를 학습한다. 단순히 사람들이 좋아하는 것을 보여주는 데 그치지 않고, 사람들의 선호를 바꿔 더 예측 가능한 상태로 만든다는 이야기다.

레식은 “극단적인 정치적 견해를 가진 사람일수록 행동 예측이 쉬워 AI의 목표물이 되기 쉽다”고 경고했다.
1974년 리처드 닉슨은 워터게이트 사건 이후 진보 성향과 보수 성향 유권자들 사이에서 모두 지지율이 빠졌다. 트럼프는 버블에 갇힌 지지자들 덕분에 지지율이 버티고 있다. 아직도 2020년 선거가 부정선거라는 트럼프의 주장을 믿는 공화당 지지자들이 70%에 이른다. 완전히 다른 맞춤형 현실(bespoke reality)에 갇혀 있기 때문이다.
앤드류 보스워스(페이스북 최고 기술책임자)는 “사람들이 원하는 걸 보여주는 것일 뿐”이라고 주장했다. 설탕과 소금, 지방으로 만든 가공식품처럼 중독성은 존재하지만 결국 개인 선택의 문제라는 입장이다.
“내 할아버지도 베이컨을 두고 그런 말을 했지만 나는 그런 할아버지를 존경했다. 나는 소셜 미디어가 내 가족에게 베이컨보다 훨씬 더 많은 해를 끼쳤다고 생각한다. 이것은 민주주의의 문제다. 페이스북은 자기들 문제가 아니라고 주장하고 있다.”

“기후위기를 막기 위해 민주주의를 일부 희생한다면 동의할 수 없지만 이해할 수 있다. 아프리카의 굶주림을 끝내기 위해 민주주의를 훼손해야 한다면 역시 동의하지는 않지만 이해할 수는 있다. 하지만 빅테크 기업들이 더 많은 돈을 벌기 위해서라면 절대 동의할 수 없다.”
영화 ‘콰이어트 플레이스’에서는 외계인들이 소리를 듣고 공격하기 때문에 침묵하는 가족의 이야기를 다룬다. 레식은 민주주의도 마찬가지라고 본다. 지금은 외계인이 아니라 인공지능이 우리를 침공한 상황이다.

레식은 “홍수가 닥쳤을 때 우리가 할 일은 높은 지대로 이동하는 것”이라면서 “우리는 민주주의를 보호하기 위해 안전한 곳으로 옮겨가야 한다”고 강조했다. 인공지능의 힘으로부터 민주주의를 보호해야 하는 절박한 상황이라는 이야기다
해법은? 레식은 시민의회(citizen assemblies)를 제안했다. AI의 영향에서 자유로운 민주주의 실험이 필요하다는 제안이다. 시민의회는 시민 대표자들을 나이와 지역, 연령에 따라 무작위로 선정해서 숙의하고 해법을 모색하는 정책 실험이다. 아일랜드와 프랑스 등에서 낙태와 기후 정책을 주제로 사회적 합의를 끌어낸 사례가 있다.
“우리는 참여 비즈니스 모델이 초래하는 위협을 넘어서야 한다. 저항하지 않으면, 민주주의는 무너진다.”