[마냐의 북라이딩] 샘 올트먼의 욕망이 만든 AI의 꿈 그리고 오픈AI의 악몽. (⌚5분)
통제되지 않는 AI 진화를 놓고 속도조절론이 등장하는 동시에 미중 AI 대결이 격화되는 시대다. 우리는 호남반도체를 위해 데이터센터, 전력 시설을 확충하느라 난리인데 미국에서는 데이터센터를 짓는 동네마다 저항도 거세다. 어지러운 AI 격변기의 속내를 들여다 보는데 이만한 책도 없다. 끝내 소개해본다.
이 책은 월스트리트저널 기자였던 카렌 하오가 AI 신화를 산산조각 낸 기록이다. 본 적 없는 수준의 촘촘하고 탄탄한 취재를 기반으로 했다. 260명과 진행한 300차례의 인터뷰는 물론, 서신과 문건을 토대로 챗GPT 개발 과정에서 가장 중요한 장면들을 재현했다. 600쪽이 넘는 분량에도 불구하고, 긴박하게 움직이는 생생한 이야기 덕분에 숨 돌릴 틈 없이 빠져들었다.
오픈AI에서는 무슨 일이 벌어진 것인가
불신지옥이었다. 세상에서 가장 강력한 AI 기업인 오픈AI 내부 얘기다. 창업 동지였던 올트먼과 일론 머스크의 소송전에서는 올트먼이 승소했으나 온갖 낯뜨거운 비화가 드러났다. 범용 인공지능 AGI가 인류 전체에 이익이 되도록 하겠다는 사명을 앞세워 머스크와 올트먼이 의기투합했던 오픈AI는 초심을 모조리 버렸다.
사실 챗GPT의 성공은 스케일에서 나왔다. 뒷단에서 돌리는 양을 무시무시하게 확 키워버렸다. 전력? 데이터? 그게 다 돈이다 보니 투자 받는 것으로 부족했고, 결국 비영리 포기가 수순이었다. 인류 미래의 수호자를 자처했는데 자본주의 탐욕의 화신이 되는 것은 시간문제였다.
2023년 11월 오픈AI 이사회의 외부 이사들과 내부 임원들이 올트먼을 쫓아내려고 했던 쿠데타는 5일 만에 실패했지만 곪은 속을 드러낸 계기였다. 당시 오픈AI 고위 경영진들은 올트먼이 말하는 중요한 정보나 기본적 사실관계도 믿지 못했다. 이런 기업이 인류 미래를 좌우할 범용 인공지능(AGI)을 만드는 것은 괜찮은 것일까?
당시 올트먼을 5일 만에 복귀시킨 것은 직원들의 욕망이었다. 기업공개(IPO)로 수백만, 수천만 달러를 챙길 수 있는 상황에서 올트먼 없이 IPO가 잘 될 것인지 염려하는 마음이 컸다. 우습게도 올트먼을 배신했던 오픈AI 경영진들이 며칠 만에 입장을 뒤집어 올트먼을 다시 추대했다. 사실 올트먼만 특이하게 나쁜 사람이 아니라, 오픈AI 주변 등장인물들이 대체로 이상하고 위험하다.
유사시 자기들만 안전하게 벙커에 들어간다는 말이 아무렇지도 않다. 천재 개발자이지만 최악의 리더인 그렉 브로크만 오픈AI 사장의 일화도 하나하나 충격적인데 소송전에서 드러난 바, 그는 이미 4조 원 자산가다. 빅테크 권력 다툼은 기본적으로 파이가 엄청나다. 성공 신화가 찬란하니 온갖 치명적 문제점은 수면 아래로 가라앉는다.
샘 올트먼, 이토록 문제적 인간이…
부제 ‘샘 올트먼과 오픈AI의 빛과 그림자’에서 명확하게 밝혔듯, 올트먼이 어떤 인간인지 아는 것은 생각보다 타격감이 크다. 실리콘밸리의 아이돌이 알고 보니 가는 곳마다 불화를 만들어낸 장본인이다. 도덕과 윤리 따위는 아랑곳하지 않는 이였다. 오픈AI 이전 Y컴비네이터에서도 수장을 맡은 지 5년쯤 되자 조직 내 불만이 심각하게 불거졌다.
“사적인 일과 열망을 회사보다 우선시 하고 이를 위해 때로는 거리낌 없이 회사에 손실을 끼친다”는 내부 비판은 올트먼의 첫 창업 기업 룹트에서도 유사하게 불거졌던 내용이다. 비영리라고 출발한 오픈AI의 투자 협상에 시간을 쏟느라 본업인 Y컴비네이터 스타트업 자문은 소홀히 했다는 비난과 함께, 형제들과 만든 개인적 투자 펀드 하이드라진을 통해 Y컴비네이터가 키워낸 기업에 투자해 막대한 수익을 거둔 것도 도마에 올랐다. Y컴비네이터 대표에서 물러난 것은 오픈AI에 집중하기 위한 결단처럼 보였지만 속사정은 더 이상 버티기 어려웠던 거다.
오픈AI에서도 비슷한 일들이 이어졌다. 자신의 의견에 동의하지 않는 이들은 주요 의사결정에서 배제하거나 평판을 훼손시켰다. 몇 년간 그의 가스라이팅에 놀아났다는 것을 뒤늦게 깨달은 경영진이 그와 결별하기로 쿠데타를 도모한 것은 자연스러운 수순이었다. 여동생이 올트먼을 성적 학대 가해자로 공개 저격한 사연도 충격적이다. 부유한 집안에서 경제적으로 고립된 여동생이 성매매까지 나선 사연도 구구절절하고, 올트먼의 대응은 저열했다. 캘리포니아 주지사 출마를 진지하게 검토했다는 그는 이렇게 리스크가 많은데 어찌 용기를 냈을까.
AI 제국의 수탈 방식
카렌 하오는 오픈AI뿐 아니라 실리콘밸리와 AI 산업 전체가 어떻게 권력, 자본, 이데올로기를 기반으로 ‘제국’처럼 작동하고 있는지 현장도 샅샅이 누볐다. 유럽 식민주의 시대 제국은 남의 자원을 강탈하고 자신들이 지배한 사람들을 착취해 자원을 채굴하고 경작했다.
자신들이 우월하다는 신념은 비인간적이고 인종차별적인 이념을 앞세워 식민 지배를 정당화했다. AI 권력자들의 본질은 바로 이 같은 제국이다. 챗GPT가 폭발적 인기를 얻자 구글 등 모두 같은 길로 폭주했다. 막대한 스케일링 경쟁 속에 도덕과 윤리는 무심하게 뭉그러졌다.
“AI 제국들은 예술가와 작가들의 작품, 수많은 사람들이 자신이 경험하고 관찰한 것을 공유한 데이터, 대규모 데이터센터와 슈퍼컴퓨터를 가동하는데 필요한 땅, 전력, 수자원과 같이 귀중한 자원을 강탈하고 추출한다. 또한 수익성 좋은 AI 기술 개발에 필요한 데이터의 정화 정리 준비를 위해 전 세계 사람들의 노동을 착취한다.”
작가와 예술가들은 자신의 작품을 도용하여 학습한 AI 모델 때문에 일자리를 잃었고, 이들의 대형 언어 모델(LLM)을 학습시키기 위해 데이터에 주석을 다는 작업은 착취 수준의 임금을 받는 글로벌 사우스의 노동자들이 맡았다. 저자가 칠레, 베네수엘라, 케냐에서 확인한 현장은 비정하다. 구글이 자랑하는 데이터센터 보도자료를 보고, 실제 가보면 폐허란 것을 확인하는 식이다.
챗GPT에 한 번 질문할 때 드는 전력은 구글 검색의 10배, AI 메가캠퍼스 하나면 샌프란시스코 전체 전력의 1.5~3.5배 정도다. 2030년 데이터센터는 미국 전체 전력 소비량의 8% 정도를 쓸 것이고, 2027년 세계 데이터센터들은 영국 전체 소비량의 절반 정도의 물을 쓸 것으로 예측한다.
최근 데이터센터 구축 관련 미국 내 저항이 거세지만 책은 주로 남미 국가에서 벌어진 충돌을 추적했다. AI 데이터센터 핵심 소재 관련, 전 세계 구리의 4분의 1을 생산하는 칠레에서는 공기와 물에 남긴 비소가 암 발병률을 높였고, 공동체 갈등을 야기했다. 우루과이에서는 자국 데이터센터의 58배에 달하는 땅을 사들인 구글 데이터센터 계획에 “가뭄이 아니라 수탈”이라는 반발이 이어지면서 계획이 수정됐다.
제국은 자신들이 우월하기 때문에 수탈이 정당하다고 하고, 다른 제국과 경쟁을 앞세운다. 올트먼은 막가파식으로 기존 룰을 어기면서 “중국은요?”라는 말로 다 회피하고 있다. 최근 통제되지 않은 채 국가 시스템 해킹까지 나선 AI에 대한 우려가 높아지는데 속도 조절론을 가로막는 논리는 모두 “중국은요?” 식이다. 중국이야 미국을 따라잡고 제국의 패권을 나눠 갖는 게 먼저다.
다른 AI도 가능하다
숨 가쁘게 AI 수탈 현장을 쫓던 저자는 뉴질랜드에서 마오리어를 되살리는 프로젝트를 에필로그로 덧붙였다. 오픈소스를 활용해, 비교적 적은 데이터와 작은 모델로, 공동체가 주도하고, 상호 합의하에, 지역적 맥락과 역사를 존중하는 방식으로도 AI는 진화할 수 있다. 기술을 사회적으로 소외된 집단에 힘을 실어주는 데 사용할 수 있고, AI 거버넌스는 얼마든지 포용적이고 민주적일 수 있다는 게 저자 주장이다.
기업이 보유한 훈련 데이터의 핵심 내용과 모델 및 슈퍼컴 기술 사양을 의무적으로 공개하도록 해서 독립 연구자들이 기업 모델을 제대로 평가할 수 있도록 하는 것도 최소한의 안전장치다. AI 엘리트들의 세계관, 기술 개발 방향, 원칙 등에 있어 그들이 틀릴 가능성이 있다. 그냥 두면 진짜 인류가 망할지도 모른다. 그런데 지구 종말을 피한다고 해도 빅테크 제국의 수탈이 이대로 이어지면 그 자체로 상당수 사람들에게는 이미 멸망에 가깝지 않을까?
