2023년 미디어 이슈 결산 세계 편: 생성형 AI

[캡:콜드케이스] 미디어를 통해 반영·증폭·구성되는 문제적 현상과 사고방식을 ‘캡콜드’ 김낙호 교수가 명쾌하게 분석합니다.

캡콜드에게 2023년을 돌아볼 수 있는 키워드를 뽑아달라고 요청했다. 그는 챗GPT로 상징되는 생성형 AI와 정권 유지를 위한 억압적인 담론 전략으로서 ‘가짜뉴스’를 각각 가장 중요한 세계구 이슈와 국내 이슈로 뽑았다. 그 두 개의 키워드를 중심으로 이야기했다. 이 글은 그 첫 번째 글이다. 참고로 캡콜드가 선정한 2023년 주요 이슈는 다음과 같다.

세계구

• 생성형 AI의 ‘위협’.
• 온라인 언론 매체의 쇠락.
• 머스크 산하 트위터 일베화.
• 가자지구 저널리스트 다수 사망.

국내

• 가짜뉴스, 한국에서도 정권의 무기화.
• 만시지탄 공영방송 거버넌스 개혁 추진.
• 제 머리 못 깎는 중들: 김만배발 언론 윤리 폭탄들(신학림 책값과 뉴스타파…)
• 반페미니즘, 반다양성 청년문화의 세력 과시.

생성형 AI 시대의 도래

민노: “이 글은 AI의 도움을 받지 않은 글입니다”라는 안내문이 붙은 온라인 콘텐츠를 최근 우연히 접하면서 새삼스럽게 AI가 우리 생활 속으로 들어왔구나, 느낀 적 있습니다.

캡콜드 (김낙호 교수): AI로 인해 쓰레기 가짜 콘텐츠가 넘쳐나게 되고, 그러면 진정한 인간의 이야기를 만들어내는 사람들, 그러니까 미디어업계 입장에서는 바로 ‘우리들’이 AI에 양적으로 밀려나는 것이 아닐까 겁을 먹은 건데요. 그래서 제안된 것 중 하나가 AI로 생성한 모든 콘텐츠에 “AI로 만들었습니다”라는 식으로 워터마크를 붙여 놓자는 식의 논의가 있었습니다.

민노: AI 워터마크요?

캡콜드: 그런데 워터마크 붙어 있는지 안 붙어 있는지 그걸 누가 열심히 챙겨보겠어요?

민노: 잘 안 보겠죠.

본질은 AI가 아니라 신뢰 시스템의 붕괴

캡콜드: 본질은요. 근본적으로 AI로 그럴듯한 것들을 만들었기 때문에 사람들이 속는 게 아니라는 거예요. 이미 사람들이 자신이 원하는 방향으로 속고 싶은 어떤 욕구가 있고, 그런 욕구를 충족하는 콘텐츠가 있다면, 그걸 AI가 만들었든 사람이 만들었든 우선 믿고 본단 말이죠.

민노: 기계가 만들었든 인간이 만들었든 그게 중요한 게 아니다?

캡콜드: 정말 걱정해야 하는 건 신뢰 메커니즘이 붕괴했다는 거예요. AI의 위협을 빌미로 원래 있었던, 그것도 오랫동안 지속된 위기를 호도하는 거죠.

민노: AI가 초래하는 진실성의 위기는 가짜 위기라고 말씀하시는 건가요?

캡콜드: 가짜라기보다는…

민노: 과장된?

캡콜드: 과장된 위기라고 하면 적절할 것 같네요.

AI는 붕괴된 신뢰 시스템을 촉진 가속할 것인가

민노: AI의 진화, 대중화는 그런 신뢰 시스템의 붕괴를 가속하고 촉진할까요?

캡콜드: 가속 촉진이 이뤄지는 영역은 아무래도 양산형 매체가 지배하는 영역이죠.

민노: 우리나라고 치면 인사이트나 위키트리 같은?

캡콜드: 그렇죠. 인사이트나 위키트리가 유명해서 그렇지 네이버에 기생하면서 엉터리 컨텐츠를 양산하는 매체들도 넘쳐나잖아요. 어뷰징 기사만 생산하는 직원을 뽑아서 하루에 수십 건씩 기사를 양산하는 매체. 물량 채우기 위해 인터넷 커뮤니티 베껴오고, 같은 기사 조금씩 고쳐서 다시 올리곤 하는 그런 매체들은 여전히 많죠. 그런데 그걸 이제 사람이 아닌 AI가 한다는 것만 달라지는 거겠죠. 하지만 그 패턴은 전혀 새로울 게 없습니다. 차이라면 어차피 해오던 어뷰징을 저임금 노동력이 하느냐 아니면 AI로 돌리느냐 차이죠.

그까이꺼 대충 또 넘어갈 가능성

민노: 이미 어뷰징은 있어왔고, 그걸 누가 하는 건지만 바뀐 거다?

캡콜드: 이미 어뷰징은 계속 존재했었고, 이에 대한 대책도 극복 방향도 다 논의가 끝난 영역이라서 어뷰징을 기계가 한다고 해서 무슨 굉장히 새로운 위협은 아니라는 거죠.

민노: 그렇긴 하죠.

캡콜드: 미디어 업계에선 AI의 등장을 큰 화두로 삼고 있으면서도, AI가 어뷰징을 촉진하거나 강화할 가능성에 대한 대책이나 그걸 해소할 방법에 관해서는 지금까지 인간에 의한 어뷰징을 그렇게 열심히 대처하지 않았던 것처럼, 위기의식만 내비치고 대충 넘어갈 가능성이 굉장히 크죠.

AI의 진짜 위협? 아직 흉내 잘내는 수준

민노: AI가 진짜 위협이 될 가능성이 근미래에 올 걸로 보세요?

캡콜드: 고도로 훈련된 인간이 쓴 잘 취재된 기사를 쓸 수 있는 수준으로 AI가 도달하려면 현재 가진 역량으로는 굉장히 부족하다고 보고요. 근본적으로 사람들의 사정과 이해의 충돌, 사람들의 삶에 미치는 영향을 ‘분석’할 수 있어야 하는데, 아직 인공지능이 그런 방향으로는 개발되지 않았죠. 지금까지는 그저 인간과 비슷한 무엇인가를 흉내 내는 쪽으로 특화했고, 결국 잘 흉내 낼 수 있게 됐죠.

저널리스트, 시민, 정부, 기업

민노: 미디어 종사자의 입장으로만 이야기했는데, 시민, 정부, 기업의 입장에서도 살펴보면 좋을 것 같습니다. 위협뿐만 아니라 기대나 혜택 같은 긍정적인 면이 있다면 그것도 함께요.

캡콜드: 하나씩 살펴보죠. 우선 매체 입장에서 생각하면 매체 그 자체보다는 그 매체에 종사하는 노동자들이 위협을 받을 가능성이 크죠.

민노: 기계(AI)로 대체될 것이다?

캡콜드: 그렇죠. 단순 양산형 기사를 쓰는 기자들은 대체 가능하죠. 그렇다고 기자들은 이제 다 고급 탐사 보도만 해라, 심오한 칼럼만 써라, 그렇게 말하면 너무 무책임하고요.

민노: 그렇죠. 그렇게 말하면 너무하죠. 그럼 정부 쪽은 어떨까요.

캡콜드: 정부 입장에서는 아주 골치 아프죠. 아무래도 많은 규제가 현실에서는 명예훼손이나 저작권 침해가 문제될 텐데, 그건 ‘의도성’을 따지거든요. 그런데 의도라는 건 사람에게만 적용할 수 있는 거고요. 그래서 AI가 생성한 콘텐츠에 의한 명예훼손이나 저작권 침해를 판단하는 기준은 모호할 수밖에 없고, 그러면 의도성을 배제하고 합리적인 판단을 내려야 하는 새로운 기준으로 고민해야 할 거고요. 결국 변호사들만 배가 부를 것 같습니다.

하이퍼 로컬… 풀뿌리 민주주의의 물적 토대

민노: 우리는 지금까지는 AI의 ‘위협’이라는 프리즘으로 바라봤는데요. 기회나 기대의 관점에서 볼 수도 있을 것 같습니다. 그 부분을 이야기해 주시면 균형감이 생길 것 같습니다.

캡콜드: 풀뿌리 민주주의를 위한 물적 토대 역할을 할 수도 있겠죠. 소위 ‘하이퍼로컬'(hyperlocal)이라는 개념이 주목받잖아요. 아주 작은 규모의 공동체에 관한 여러 가지 정보, 가령 구의회 결정 사항들에 관해 보도자료를 만든다든지 마을회관에서 모여 회의를 한 것을 기사화한다든지, 그런 것들을 ‘사람을 써서’ 하기는 현실적으로 무리잖아요. 그런데 그런 정보들을 훨씬 더 적은 사람을 써서 할 수 있다면, 그건 풀뿌리 민주주의의 물적 토대 역할을 할 수도 있는 거겠죠. 그런 가능성은 굉장히 긍정적인 걸로 봅니다.

생산 도구로서의 가능성

민노: 생산하는 사람들에게도 꽤 좋은 도구가 될 수 있을 것 같습니다만.

캡콜드: 그렇죠. 새로운 보도 형식을 실험할 수도 있고, 사람을 덜 고용하면서도 다양한 시도를 할 가능성이 커졌죠. 소규모 언론들에 큰 가능성을 열어줄 수 있다고 생각합니다.

민노: 그런데 아직 초기라서 역시나 수작업이나 비용을 들여야지 결과물, 특히 동영상의 경우에는 완성도가 담보되는 것 같기도 합니다.

캡콜드: 물론이죠. 그러니까 아직 거기까지 가지는 못했어요.

미국 분위기는 어떨까?

민노: 미국 분위기는 어떤가요? 최근 김보라미 변호사와 인터뷰하면서 AI 이야기가 잠깐 나왔는데요. 제가 AI 관련 법안을 보면 9개는 진흥이고, 1개 정도만 규제인 것 같다고 말했더니, 아니라고 열이면 열, 전부 다 진흥이라고 말씀하시더군요.

캡콜드: 일반 시민에게는 그냥 재밌는 로봇 잡담 봇이 생겼나보다 그런 정도 수준이고요. 지난달 초였나 오픈AI가 챗GPT 엔진을 열어서 자기만의 커스텀화한 챗봇을 만들 수 있도록 했잖아요. 그러니까 이제 미디어 업계 쪽에선 새로운 실험을 할 수 있겠다는 꿈에 부풀어 있긴 하죠. 하지만 저널리즘을 걱정하는 입장에서는 거꾸로 그런 개방으로 인해 더 편향적이고 잘못된 오정보들이 범람할 수 있다고 걱정하고 있기도 하죠.

민노: 그렇군요.

바이든이 잘한 거 하나: AI 행정명령

캡콜드: 그런 어수선한 분위기에서 바이든 정부가 잘한 게 하나 있어요. AI에 관한 전반적인 규제책을 담은 행정명령에 서명하고 그 가이드라인을 발표했거든요.

민노: 네, 그 소식 접했습니다.

캡콜드: 그 발표에서 가장 중요한 내용이 뭔가 하면, 어느 정도 규모 이상을 처리하는 대규모 AI 엔진 같은 경우에는 이제 일반 출시 전에 안전테스트를 받도록 장치를 마련했어요. 그러니까 신형 자동차를 길 위에 내놓기 전에 충분히 안전 테스트를 거치게 하는 것과 마찬가지로, 이 AI가 정말 문제가 안 되는지를 확실하게 점검한다는 취지죠. 그것만 하더라도 엄청난 안전장치를 이미 마련한 셈이죠.

학계요? 학계는 항상 세 걸음 정도 뒤쳐져 있죠

민노: 동료 교수들이나 학계의 분위기는 어떻습니까?

캡콜드: 이제서야 뭐 AI를 전문으로 하는 사람을 열심히 뽑겠습니다는 식으로 장작 좀 떼고, 뭐랄까 너스레를 떨면서 관심 있는 척을 많이 하고 있는 중이죠. 그런데 학교는 항상 첨단과 비교하면 세 발자국 정도는 느리기 때문에 업계에서 온갖 일들이 벌어지고, 온갖 규제책이 나오고 사라지고 그걸 몇 번은 반복한 다음에야 좀 유의미한 결과물들이 나올 겁니다.

오픈AI, 기술결정론의 선민의식… 갈등은 오히려 부차적

민노: 오픈AI 쿠테타 실패라고 해얄까요. 해프닝이라고 해얄지… 샘 올트먼 축출 시도(실패)에 관해서도 간단히 짚고 넘어가면 좋을 것 같습니다.

캡콜드: 이정환 대표가 쓴 글에서도 잘 정리가 된 것처럼, 오픈AI가 설립된 배경은 스스로 ‘우리는 책임 있는 인공지능 개발을 도모하는 회사다’라는 게 있어요. 하지만 결국은 그들도 기술 결정론 쪽이란 말이죠. 책임을 강조하지만 결국 책임감 있는 방식으로 빠른 속도로 만들어내고 말테야! 이런 거죠. 그러니까 개발 속도를 줄이고, 안전을 위해 타협과 희생을 하는 그런 회사가 아니거든요. 결국 ‘우리가 만들어야 안전하고 책임감 있게 만들 수 있어!’라고 자신의 정당성을 사방팔방 과시하는 거죠.

민노: 일종의 선민의식 같은 건가요?

캡콜드: 엄청난 선민의식이죠. 그런 선민의식의 결정체는 ‘우리는 AI의 상업적인 목표에 연연하지 않겠다’는 거죠. 그게 가장 핵심이 되는 기조였단 말이에요. 하지만 개발 과정에서 아무래도 자본이 필요하고, 그래서 파트너로 삼은 게 마이크로소프트였던 거고요. 그 교량 역할을 한 게 비즈니스적인 감각이 있는 샘 올트먼이었던 거고요. 그러다가 챗GPT를 상품화하고 그게 빅히트를 하니까 슬슬 균열이 생겼던 거죠. 좀 고고하게 가겠다는 쪽과 돈을 더 많이 끌어들이자 사이의 갈등. 그런데 올트먼이 반대쪽 사람들을 좀 긁은 거죠. 사업가처럼 군 거예요. 이간질도 하고.

그래서 선민의식 있던 이사진 쪽에서 올트먼을 잘라버린 거죠. 우리는 올트먼도 자를 수 있는 사람들이다! 그랬지만, 결과는 아시는 것처럼, 오히려 직원들 대다수가 올트먼을 따라서 MS에 간다고 하니까 백기 투항해버린 셈이죠. 어쨌든 이 갈등은 근본적인 이념적 차이라기보다는 원래 하고 싶은 거는 거의 같은데, 그걸 좀 대놓고 돈을 끌어들여서 할 거냐, 아니면 좀 고고한 척을 하면서 할 거냐 그 정도 차이였다고 생각해요.

오펜하이머 모먼트…? 그런 거 없어요. 그냥 너스레죠, 너스레.

‘오펜하이머 모멘트(moment)’란 새로운 기술로 의도치 않은 결과가 초래되면 과학자에게도 책임이 따른다는 의미다. 세상의 파괴자가 됐다는 사실을 깨달았으면서도 오펜하이머는 핵폭탄 투하를 막지 못했다. 오펜하이머가 직접 버튼을 누른 건 아니지만 책임에서 자유로울 수 없다.

인공지능의 아버지라고 불리는 제프리 힌턴도 비슷한 ‘오펜하이머 모멘트’에 빠졌던 것 같다. 지난 4월 구글에 사표를 던지고 나온 뒤 뉴욕타임스와 인터뷰에서 이런 말을 했다: “나의 일생을 후회한다. 내가 하지 않았다면 다른 누군가가 했을 일이라고 생각하며 스스로를 위로할 뿐이다.”

오펜하이머는 “나치보다 빨리 핵폭탄을 만들어야 한다”고 강조했고 “감당하지 못해도 선택의 여지는 없다”고 했지만 힌턴의 후회는 더 빨랐다는 게 차이다.

슬로우뉴스 이정환, 오펜하이머 모멘트, 파멸의 버튼을 누가 눌렀는지 묻는 순간이 온다., 2023년 9월 19일. 중에서

민노: 오펜하이머나 제프리 힌턴처럼 자신이 만든 기술에 관한 책임, 반성, 후회를 대표하는 그룹이랄까, 그런 세력이나 힘이 있나요?

캡콜드: 없죠. 챗GPT가 처음 화제가 되고 나서 일론 머스크라든지 몇몇이 모여서 AI 개발을 6개월 동안 잠깐 중단해야 한다는 어쩐다 얘기한 적은 있죠. 성명서도 내고. (= 네, 얼핏 기억납니다.) 그런데 그 성명서 내고 어떻게 했어요? 머스크는 ‘나도 AI 팀 하나 새로 만들겠다’ XAI라고… 그렇게 나왔단 말이죠. 그러니까 어느 쪽도 진심으로 AI에 대한 통제와 규제를 말하는 쪽은 없고요. 그리고 딱히 그런 후회나 반성을 할 정도로 AI가 발달하지도 않았고요.

민노: 음… 그렇군요.

캡콜드: 저는 그렇게 봅니다. 애초에 정말 그럴 생각이 있었다면, AI를 검증하고 AI의 사회적인 책임에 관해 평가할 수 있는 팀을 처음부터 찾았겠죠. 그런데 그런 거 없었거든요. 오히려 지금에 와서야 이대로 두면 안 되겠다고 해서 백악관이 행정명령을 내린 거고요. 그러니까 그 많은 자본과 인력을 가지고도 지금까지 적극적으로 AI의 사회적인 책임이나 검증을 위해 팀을 제대로 굴린 적이 한번도 없어요(구글이 AI의 인종 편향을 비판한 윤리팀장을 해고했던 최근 사례도 있죠). 그냥 너스레죠, 너스레.

지금은 그게 너스레라도… 정말 후회하고 반성하는 날은 올까

민노: 오펜하이머의 회한이랄까, 반성이랄까, 영화 속에서도 그건 좀 ‘자뻑’ 같은 느낌으로 다가오기는 했지만… 특히 바가바드기타를 읊는 그 모습은 약간 속물근성이 느껴지기까지 했는데… 암튼 그런 제스처, 자뻑이라도 그 안에 일말의 진심, 회한, 반성, 성찰이 있을 거로 생각하는데요. 근미래에 AI 개발자를 포함해서 우리 자신도 AI에 대해 그런 감정, 후회, 회한을 느끼는 순간이 올 걸로 보세요?

캡콜드: 결국 그런 날이 오기는 오겠으나 그때 그날이 올 때 누군가 후회하고, 어쩌고 그런 일은 절대 없을 걸로 보는 거죠. 예를 들어 지금 현재의 세계, 특히 민주제의 위기를 가속한 것들 중 하나가 소셜미디어란 말이죠. (= 그렇죠…) 소셜미디어를 통해서 사람들은 극단적인 진영론에 빠졌고, 그 패턴은 세계 어디에서도 유사하게 반복됐잖아요.

민노: 그렇죠. 확증편향이 가속화했죠.

캡콜드: 네, 그렇다고 우리가 싸이월드를 처음 시작했을 때를 회상하면서 회한에 빠지거나 트위터나 페이스북, 인스타그램을 떠올리면서 반성하거나… 그러지 않잖아요.

민노: 그렇죠. 반성이 없죠…

캡콜드: 그때 했던 행동들이 어떤 식으로 번질지 그때는 대부분 사람들이 몰랐잖아요. 그걸 다 기억하고 있고요.

민노: 어쩔 수 없다?

오펜하이머의 위대한 자뻑….;;;

캡콜드: 애초에 예측을 못했다는 거죠. 예측할 수 없었던 것을 잘 알고 있고. 그러면 무슨 대단히 후회와 회한 그런 걸 할 이유가 없죠. 지금 상태에서 지금 닥친 상황을 바꾸기도 바쁜데, 그것마저도 무력한데… 오펜하이머는 스스로 위대하다는 자뻑에 빠져서 ‘나는 죽음의 신이 되었다’는 식으로 얘기하는 거고요.

민노: 오펜하이머의 자뻑에 관해서는 공감합니다. 그래도 울림이 있는 위대한 자뻑이죠.

우리는 세상이 전과 같지 않을 걸 알았습니다. 몇몇은 웃었고, 몇몇은 울었습니다. 대다수는 침묵했죠. 저는 힌두 경전, 바가바드 기타를 떠올렸습니다. 비슈누(크리슈나)는 왕자(아르주나)에게 자신의 의무를 다하라고 설득하고, 그를 움직이기 위해, 여러 개의 팔을 가진 모습을 하고 말합니다: “나는 이제 죽음이자 세계의 파괴자가 되었다.” 우리 모두는 어떤 식으로든 그렇게 생각했을 겁니다.

We knew the world would not be the same. A few people laughed, a few people cried. Most people were silent. I remembered the line from the Hindu scripture, the Bhagavad Gita; Vishnu is trying to persuade the Prince that he should do his duty and, to impress him, takes on his multi-armed form and says, “Now I am become Death, the destroyer of worlds.” I suppose we all thought that, one way or another.

줄리어스 로버트 오펜하이머, 1965.

참고로 오펜하이머가 언급한 [바가바드 기타] 원문은, 여러 버전이 있기는 하지만, 제11장 ‘우주적 형상’ 중에서 아르주나가 비슈누를 찬양하는 말, “만약 수백 수천만 개의 태양이 동시에 하늘에 떠오른다면 그 빛이 우주적 형상을 한 지고한 인간에게서 나오는 광채와 비슷할 것입니다”라는 구절(제11장 제12절)과 비슈누가 아르주나에게 하는 말, “최고인격신께서 말씀하셨습니다: 나는 모든 세상의 위대한 파괴자, 바로 시간이니라. 그리고 나는 여기 모든 인간을 파멸하려고 왔다. 너희(빤다바Pandava; 아르주나가 속한 패밀리)를 제외한 여기 모인 양쪽 군사 모두 전멸할 것이니라.”(제11장 32절), “그러므로 일어나라. 싸워 영광을 얻어라. 네 적을 정복하고 왕국의 번영을 누려라. 그들은 이미 나에 의해 죽은 목숨이니, 오 사뱌사친(Savyasacin, 양손을 다 잘쓰는 사람, 아르주나를 가리킴), 너는 이 싸움에서 그저 도구일 뿐이다.”(제11장 제33절)를 가리키는 것으로 보인다. (편집자.)

소셜미디어도, AI도… 그저 인간을 ‘증폭’할 뿐

민노: AI의 미래는 유토피아에 가까울까요, 아니면 디스토피아에 가까울까요. 물론 우리는 노스트라다무스는 아니지만…

캡콜드: 저는 AI는 인간이 하던 몇 가지 일을 좀 더 효율적으로 좀 더 빠르게 해준다는 정도로 생각해요.

민노: 지금은 AI에 관한 의미 부여가 너무 과하다고 보시는 건가요?

캡콜드: 저는 항상 ‘근본적으로 다른 게 된다기보다는 어떤 측면이 증폭한다’라고 생각하는 쪽이라서요. 이미 사람들이 하고 있는 어떤 부분들이 더 증폭하는 거다. 예를 들어서 소셜미디어는 질적으로 어떤 새로운 걸 하는 거라기보다는 사람들이 떠드는 가십이나 진영 갈라치기 확증편향을 증폭시킨 거잖아요. 그런 게 원래 없었던 건 아니죠.

저는 AI도 그런 식으로 우리가 생각하는 무언가를 좀 더 빨리, 좀 더 많이 증폭하는 쪽으로 갈 거라고 생각하는 거죠. 물론 AI가 고도로 발달해서 인간을 완전히 대신한다면 그때는 또 모르겠지만요. 가령, 사법부를 통째로 AI로 대체한다든지.

양적 변화가 축적되면 질적 변화를 초래하지만

민노: 주신 말씀은 질적 변화라기보다는 양적 변화에 불과하다는 말씀으로 들립니다만, 결국 헤겔이 말한 것처럼, 양적 변화가 축적되면 질적 변화를 초래하지 않을까요.

캡콜드: 결국 그렇게 될 수 있죠. 그런데 그게 어떤 패러다임이 확 무너지고, 새로운 무언가가 솟아나고 그런 식의 급격한 변화라기보다는 좀 더 뭐랄까 천천히 끓는 냄비 속 개구리처럼 될 거라고 생각하는 거죠.

민노: 냄비 속 개구리 비유를 주셨는데… 그렇게 천천히 뜨거워진다면, 대처하기가 더 어려울까요? 아니면 그래도 시간적 여유가 있어서 준비할 수 있을까요?

캡콜드: 준비하기가 아무래도 훨씬 어렵죠. 가령 미국은 백악관에서 ‘안전 테스트’를 하라는 규제책을 내놨지만, 구체적으로 어떻게 안전 테스트를 할 건지 처음부터 예상하지 못하는 문제들이 계속 발생할 거란 말이죠. 예를 들어 지금 우리가 화상으로 대화하는 줌에서, 흑인 얼굴을 지워버리는 사건이 있었어요. 가상배경 설정 기술을 적용하는 과정에서요. 그건 개발자가 무슨 악의를 가지고 그런 알고리즘을 만든 건 아니잖아요. 그런데 그런 의도를 가지지 않았음에도 불구하고 그런 일이 발생하고, 앞으로도 그런 상상하지 않은 일들이 벌어질 거라는 거죠.

AI의 대중화는 편견과 혐오를 순화할까? 악화할까?

민노: 지금은 인공지능 대중화의 초입이라고 할 수 있는데요. 다양한 분야에서 인공지능이 대중화하고, 상업화할 텐데, 담론 유통의 공론장에서 인공지능이 그 생산과 소비의 중추적 기능을 담당하는 시기가 온다면, 기존 사회의 편견이나 선입견 그리고 혐오적 성향을 순화할 걸로 보세요, 아니면 악화할 걸로 보세요?

캡콜드: AI를 얼마나 이제 강력하게 규제하느냐에 따라 달려 있다고 봅니다. 한 7년 전쯤 마이크로소프트 테이(Tay) 사건이라고 있었죠. 그러니까 마이크로소프트가 테이라는 인공지능 챗봇을 만들었는데 소셜미디어상에서 사람들과 대화하면서 상대의 말과 논리를 학습하도록 했단 말이죠. 그런데 일반 공개 하루도 안 지나가서 어마어마한 인종차별, 여성 혐오를 드러내는 아주 그냥 아예 온라인 쓰레기가 되어버렸어요. 왜냐하면 사람들이 테이에 악의적으로 그런 혐오와 차별적 언어를 주입했으니까요.

민노: 저도 얼핏 기억나네요. 그런 사건이 있었죠.

캡콜드: 저는 그 사건이 AI에 관해서도 큰 함의가 있다고 보는데요. AI에 들어가는 기본 데이터, 그러니까 기본 가치관과 사회적 논리에 관한 로데이터가 얼마나 잘 규제되느냐에 따라서 AI가 생성해내는 어떤 판단이나 결과들도 완전히 달라지겠죠. 그걸 잘 제어하지 못하면, 그걸 그저 자율에 맡긴다면 AI는 삽시간에 쓰레기가 될 거예요. 그러고보니 최근에 넥슨의 집게손 사건이 있었죠?

넥슨 집게손 사건의 교훈

민노: 넥슨 집게손 사건이 있었죠. 슬로우뉴스에서도 관련한 글을 발행했고요.

캡콜드: 최근 경향신문에서 취재한 내용을 보면, 넥슨 자체의 여론분석 프로그램이 남초 커뮤니티에 치중돼 있었다는 내부자 증언이 나왔잖아요.

민노: 아무래도 남초 커뮤니티의 부피가 커서일까요?

캡콜드: 부피적으로 크기도 하고, 소위 여초 커뮤니티들은 공격에 방어적이라서 게시물도 순차 공개한다든지 하는 식으로 진입 장벽을 살짝 높여 놨단 말이죠. 그래서 그런 곳에서는 제대로 데이터를 긁어오지 못한 거예요.

민노: 그런데 한편으로 남자들이 게임의 소비자일 가능성이 더 높기 때문일 수도 있지 않을까요? 남자들이 여자들보다는 게임을 더 많이 하니까요.

캡콜드: 메이플스토리 정도의 게임은 여자 소비자, 여자 게이머도 상당히 많은 걸로 알고 있어요.

민노: 그 비율이 어느 정도 되는지는 기억하세요?

캡콜드: 그건 데이터를 다시 찾아봐야 할 것 같습니다.

민노: 게이머는 대체로 남자가 더 많지 않나요?

캡콜드: 세계적인 추세에서 볼 때, 그리고 한국도 크게 다르지 않을 거라고 보는데, 이미 게임이 주류 문화가 된 지 오래라서 이제 남녀 비율 차이가 그렇게 크게 날 수가 없거든요. 특정 게임 단위로 보면은 편차가 있겠지만, 시장 전체로 볼 때는 한쪽을 편애할 수 있는 조건은 아닙니다. 전 세계 데이터로는 5대 5에 가깝고요. 한국이라고 해서 크게 다르지 않을 걸로 봅니다.

민노: 아, 여성분들도 많이 하시는군요, 제가 게임은 전혀 몰라서…

캡콜드: 제가 예로 든 넥슨은 데이터 유입 방식에 따라 완전히 다른 판단 결과가 나올 수도 있었다는 거죠. 넥슨은 하나의 예시지만, 그런 기본적인 데이터 수집 단계에서 제대로 된 규제가 있느냐 없으냐에 따라 더 편향적인 선택이 있을 수도, 아니면 더 현명하고 균형 잡힌 선택을 할 수도 있을 것으로 봅니다.

바이스미디어와 버즈피드의 쇠락

민노: 생성형 인공지능을 제외한 나머지 세계구 이슈를 간단히 짚어주시죠.

캡콜드: 세계구 쪽에서 두 번째로 뽑은 이슈는 미국에서조차 온라인 매체 붐이 2023년에 완전히 끝났다는 사실입니다. 특히 바이스미디어는 매각을 위한 파산 보호 신청 이후에도 몇 개월 동안 인수처를 찾지 못해 어려움을 겪을 지경이었습니다. 이상한 사모펀드가 새주인이 됐죠. 바이스미디어는 2008년 무렵만 하더라도 뉴욕타임스를 한숨짓게 만든 뉴미디어의 총아였는데… 이제 다시 한번 더 시대가 완전히 바뀐 거죠. 그리고 비슷한 방식으로 버즈피드 뉴스도 완전히 문을 닫아버렸고요.

민노: 버즈피드와 바이스미디어의 쇠락은 저 같은 문외한이 보기에도 뭔가 상징적으로 다가옵니다.

캡콜드: 그뿐 아니라 여성주의 미디어를 표방한 제제벨(jezebel)도 문을 닫았다가 겨우 인수처를 찾아서 다시 살린다 어쩐다 하고 있으니… 지난 10년 동안 각광받았던 온라인 소셜미디어와 상생했던 미디어, 미디어업계를 완전히 뜯어고칠 거라고 여겨졌던 온라인 뉴미디어 실험들이 결국 넘쳐났던 자본도 다 잠식해 버리고 이제는 문을 닫아버리는 상황인 거죠. 2023년은 그 한 시대의 종식을 상징하는 해라는 생각이고요.

민노: 2024년에는 어떤 새로운 미디어들이 각광을 받을까요.

캡콜드: 버즈피드와 바이스미디어가 몰락한 곳에 어떤 새로운 미디어가 솟아오를지는 알 수 없죠. 거기에 관해선 아직 아무도 답이 없고 쉽게 말할 수 없는 모호한 상황이 됐습니다. 물론 악시오스라든지 세마포 같은 시도들이 이어지고 있지만, 어쨌든 한 시대를 모델링했던 큰 방식들은 이제 완전히 저물었다고 볼 수 있죠.

머스크 인수 후 트위터의 일베화

민노: 머스크의 트위터 인수 후 변화도 국제 이슈로 뽑아주셨는데요.

캡콜드: 일론 머스크 산하에서 트위터는 한국으로 치면 일베에 가까워질 정도로 완전히 망가졌습니다.

민노: 머스크에 관해서는 이미 이야기했던 적 있죠. (아랫글을 참고해 주시기 바랍니다.)

머스크, 슈퍼히어로와 빌런 사이

가자지구에서 죽어가는 저널리스트

민노: 가자지구에서 취재하는 기자 중에서 목숨을 잃은 기자는 얼마나 되나요?

캡콜드: 지금까지(2023년 12월 15일 인터뷰 당시 기준) 확인된 바로는 67명의 기자가 목숨을 잃었습니다. 이 수는 지난해(2022년) 전 세계에서 취재와 보도와 관련해 숨진 기자 수(42명)를 훨씬 넘어서는 규모입니다.

민노: 외국에 온 취재 기자들도 많은가요?

캡콜드: 주로 팔레스타인 출신 기자가 가장 많고, 인근 지역 국가의 기자도 소수 있습니다. 이렇게 많은 기자가 취재 현장에서 죽임을 당하는 것은 그 자체로도 비극이지만, 가자지구 안에서 어떤 일이 벌어지는지 제대로 검증하기 어렵다는 문제도 있습니다.

이 글은 ‘2023년 미디어 이슈 결산 국내 편: 가짜뉴스’로 이어집니다.