극우 유튜브, 어떻게 대응할 것인가

12.3 비상계엄과 내란 사태가 일어나고 헌법재판소가 대통령 파면을 선고하기까지 우리는 국가 시스템이 무너지고 극단적 갈등과 폭력이 존재하는 디스토피아적 현실을 경험했다. 물론 이 혼란의 근본 원인은 우리 사회의 근간인 민주주의와 법치주의를 파괴한 비상계엄과 내란행위다.

2024년 12월 3일 비상계엄이 선포된 후 국회에 군인들이 투입되고 시민들이 막아선 장면은 너무도 비현실적이었다. 그러나 지난 1월 19일 새벽 대통령 구속을 반대하는 시위대가 서울서부지방법원을 점거하고 폭력을 휘두르는 장면 역시 비상계엄 당일 못지않게 비현실적이며 참혹한 현실이었다.

이른바 ‘서부지법 폭동’은 극우 파시즘(Far-right Fascism) 현상이 우리의 현실세계에 나타났음을 보여주는 상징적 사건이다. 극우 파시즘은 보수주의와 보수 우파를 넘어 민주주의 체제와 질서를 부정하는 ‘극단적 우익’ 또는 21세기에 유럽 사회를 중심으로 재등장한 현대의 ‘파시즘’으로 해석된다.

20세기 초에 등장한 전체주의적 정치 이념인 ‘파시즘’을 뿌리로 하는 현재의 극우 파시즘은 권위주의, 배타적 인종주의와 민족주의, 폭력과 테러리즘의 정당화 등의 특성을 가진다. “파시즘은 진실을 급진적으로 도구화하여 변화한다”는 역사학자 로버트 팩스턴(R. Paxton)의 지적처럼 파시즘은 전략적이며 상황에 유연하게 대응하여 진화한다.

서부지법 폭동을 되돌아보면 폭도들이 법원을 점거하고 폭력을 자행하고 경찰에 피해를 입히는 모든 과정이 유튜브로 생중계되었다. 표현의 자유가 보장되며 가장 많은 이용자들이 상존하는 대중적 미디어인 유튜브를 활용해 극우 파시즘 세력이 자신들의 주장과 폭력 행위를 대중운동으로 정당화하고 자신들에 동조하는 이들을 선동하려던 것이다. 서부지법 폭동으로 그들의 대중운동이 성공했는지 실패했는지는 중요하지 않다. 서부지법 폭동은 우리 사회의 극우 파시즘 세력이 12.3 비상계엄과 내란 사태를 기점으로 질적으로 변화하고 있다는 명백한 증거라는 점이 중요하다.

유튜브에서 성장하는 극우 파시즘

현대 사회에서 세계적으로 극우 파시즘이 부활한 주요 요인으로 정치적 불신, 경제적 불평등, 이민자 증가, 사회적 불안 등이 지적된다. 최근 들어서는 디지털 기반의 플랫폼 미디어를 통해 극우 파시즘이 더 확산하고 있으며, 극우 파시즘 세력이 플랫폼 미디어를 전략적으로 활용한다는 주장도 있다.

플랫폼 미디어들은 본래의 기술적 의미보다는 사람들이 모이고 소통하며 다양한 이슈가 발생하는 공간이라는 사회적 의미를 가진다. 유튜브는 이러한 매체적 속성을 가장 잘 보여주는 미디어이다.

유튜브는 개방성과 평등성을 전제로 누구나 제한 없이 콘텐츠 생산과 이용이 가능하다. 표현의 자유가 보장되기 때문에 허위정보나 혐오표현마저도 직접적 피해가 발생하지 않으면 제한되지 않는다. 사실성과 진실성에 기반한 정보보다는 자극적이고 감정적 내용이 이용자들에게 더 소구된다. 영상과 이용자가 연결된 거대한 네트워크 구조로 인해 정보 확산이 빠르며, 특정 채널의 영향력이 확산하고 집단화된 하위 네트워크가 발생한다.

무엇보다 유튜브는 개인화된 추천 알고리즘과 고유한 수익창출 메커니즘이 작동한다. 유튜브는 이용자 개인의 선호도, 시청 이력 등을 반영한 알고리즘을 기반으로 이용자들에게 각기 다른 영상을 추천한다. 즉, 이용자 관심과 반응을 주요 가중치로 하는 개인화된 추천 알고리즘을 기반으로 한다. 전통적인 방송 편성과 달리 내용이 자유롭고 개인의 선호도와 일치할 가능성이 높기 때문에 이용자들은 점점 더 많은 영상에 몰입하고 더 오래 머무르게 된다.

유튜브의 수익창출 메커니즘은 사람들의 관심을 경제적 가치로 환산하는 주목경제(Attention Economics) 모델을 기반으로 한다. 유튜브는 콘텐츠 생산자에게 광고 수익과 기타 수익을 배분한다. 광고주로부터 얻어지는 광고수익은 유튜버와 플랫폼이 일정 비율(55:45)로 공유한다. 기타 수익은 구독(유튜브 프리미엄 가입자 수익), 후원·기부(슈퍼챗, 채널멤버십 등), 상품판매(유튜버가 직접 판매하는 상품), 직·간접 광고(기업과 협력하는 광고콘텐츠) 등이다.

유튜브는 미디어 산업 구조에서 수익이 발생하는 레거시 미디어와는 명확히 다른 수익 모델을 가지고 있으며, 콘텐츠 생산자 입장에서는 이 수익모델을 통해 고정적·독자적·자생적 수익을 확보할 수 있다.

그러나 유튜브는 플랫폼 미디어로서 태생적으로 딜레마를 가진다. 유튜브는 이용자 중심의 시스템, 네트워크 구조와 정보 확산, 개인화된 추천 알고리즘, 고유한 수익창출 메커니즘 등 기존 미디어와 차별화된 속성을 통해 콘텐츠 생산자를 끌어들이고 수많은 이용자를 머무르게 했다. 그리고 이 과정에서 가장 영향력있고 대중적인 미디어로 자리매김할 수 있었다. 하지만 이같은 매체적 속성은 콘텐츠의 불법성과 유해성을 판단하지 않는다. 유튜브가 콘텐츠 생산에 관여하게 되면 수익화에 차질이 생기고 플랫폼의 영향력이 하락할 수밖에 없다.

이러한 유튜브의 딜레마이자 한계는 허위정보의 확산, 혐오 표현의 범람, 사이버불링, 개인의 인격권 침해 등 여러 사회 문제를 끊임없이 야기하고 있다. 유튜브 알고리즘이나 수익창출 모델이 필터버블과 확증편향 효과를 강화하여 갈등과 분열의 정서적 양극화를 초래한다는 여러 연구들이 이를 방증한다.

극우 유튜브의 메시지가 불러온 사회적 폐해

그동안 각계에서 유튜브의 문제점을 지속적으로 논의해왔지만, 이번 비상계엄과 내란 사태는 극우 파시즘 또는 극우 유튜브라는 사회적 폐해를 인식하게 하는 계기가 됐다. 유튜브의 매체적 특성은 극우 파시즘이 자생하고 진화하는 데 최적화된 환경이다. 유튜브는 콘텐츠의 불법성과 유해성을 적극적으로 판단하지 않으며, 개인화된 추천 알고리즘은 극우 파시즘에 동조하는 편향된 인식을 강화하며, 수익창출 메커니즘은 극우 파시즘 세력이 안정적인 수익을 창출하게 한다. 극우 파시즘 세력은 유튜브 플랫폼을 적극적으로 활용한다.

반대로 유튜브의 추천 알고리즘과 수익창출 메커니즘이 극우 성향의 유튜브 채널들을 증가시키고 극단적 메시지를 재생산하는 것처럼 보이기도 한다. 더 자극적이며 선정적인 메시지일수록 대중의 관심을 이끌어 추천 알고리즘에 노출되거나 수익으로 직접 환산되기 때문이다.

헌법재판소의 대통령 파면 이후 극우 성향의 유튜브 채널들에 대한 관심이 줄었다고 하지만 극우 성향의 수많은 채널들이 여전히 활발하게 활동하고 있다. 오히려 대중의 관심을 끌고 수익을 보충하기 위해 더욱더 극단적인 메시지를 생산하고 있다.

비상계엄의 당위성과 내란 선동을 주장하는 등의 권위주의 옹호, 내전을 주장하고 서부지법 폭동의 정당성을 주장하는 등의 불법적 폭력 선동, 중국에 대한 혐오 정서에 기반한 반인종주의, 민주당과 좌파를 북한 추종 반국가 세력으로 규정하는 종북 담론, 부정선거와 이태원 참사 조작 등을 주장하는 음모론, 소수자를 배제하고 공격하는 감정적 혐오 담론, 애국과 반국가 등 이분법적 세계관에 근거한 현실 단순화, 보수 우파에 대한 피해의식, 5.18민주화운동 등 역사적 사실에 대한 왜곡, 사법부와 헌법재판소에 대한 비난과 부정 등 극우 유튜브 채널의 메시지는 극우 파시즘적 요소를 여과없이 드러낸다.

이같은 극우 유튜브의 파시즘적 메시지와 대중 선동은 우리 사회에 심각한 결과를 가져올 수 있다. 첫째, 공동체의 해체를 가져올 수 있는 위험성을 내포한다. 권위주의 체제를 옹호하고 폭력을 선동하는 극우 유튜브의 메시지들은 서부지법 폭동 사례처럼 혐오와 증오의 폭력으로 이어지거나 이를 정당화할 수 있다. 이는 국가와 제도 등의 공적 영역을 붕괴시키고 나아가 공동체 기반을 위협할 수 있다.

둘째, 대중선동을 통해 감정을 정치화하고 정치의 양극화를 고착화한다. 파시즘은 특정 대상을 부정적으로 재현하고 혐오, 증오, 분노, 두려움, 불안 등의 감정을 조직화하고 정치적 정서로 전환시킨다. 사실보다 감정에 반응하는 대중 심리를 이용하는 ‘감정의 정치화’는 극우 유튜브의 정치적 입지를 강화할 수 있다. 이는 갈등과 대립의 적대적 정서를 강화시켜 정치적 양극화를 더 고착화시킬 수 있다.

셋째, 여론을 왜곡하고 공론장의 위기를 가져온다. 음모론, 혐오 담론, 종북 담론, 역사 왜곡과 폄훼 등은 반지성주의를 강화하고 여론 형성을 왜곡하여 분절되고 파편화된 공론장을 구성하게 한다. 결과적으로 다원주의와 상호존중의 민주주의 핵심가치를 훼손하는 결과를 가져올 것이다.

극우 유튜브는 특히 공론장의 위기를 가속화시킬 수 있다. 이번 비상계엄과 내란 사태에서 언론은 사실을 검증하지 못했으며 때로는 스스로 논란의 주체가 되기도 했다. 언론이 기능하지 못하고 공적 역할을 수행하지 못하면서 신뢰도는 더욱 떨어지고 유튜브가 이를 대체하고 있다.

유튜브의 유사(quasi) 저널리즘에 대해서는 긍정론과 부정론이 양립하여 왔다. 유튜브가 다양한 의견과 소통을 통해 공론장을 활성화하는 데 기여한다는 긍정론은 재검토가 필요해 보인다. 위르겐 하버마스(Jürgen Habermas)가 상정한 숙의와 합의의 공론장은 민주주의 사회를 유지하는 규범적이고 이상적인 장치이다. 유튜브가 공론의 장이 되고 진정한 공론장으로 기능하려면 최소한의 합리성이 전제되어야 한다. 극우 유튜브가 일부일지라도 합리성이 전제되지 않고 행위에 대한 책임이 수반되지 않는 극단주의는 결국 공론장을 왜곡시키고 위기를 가속화시킬 뿐이다.

극우 유튜브, 제재할 근거도 원칙도 없다

극우 유튜브가 야기하는 사회적 폐해를 어떻게 해결할 수 있을까? 과연 적절한 대응방안을 마련할 수 있을까? 지금까지 유튜브의 사회적 역기능을 해결하기 위해 허위정보와 혐오 표현을 규제하도록 법·제도를 개정하고, 플랫폼 사업자의 책임성과 투명성에 기반한 자율규제 개선안을 마련하고, 시민사회 감시와 이용자 압력, 미디어리터러시를 강화하자는 등 다양한 대응방안이 논의되어왔다.

하지만 이 방안들이 현재 상황의 극우 유튜브의 폐해를 해결할 수 있을지 의문이다. 또한 유튜브를 규제하자는 주장은 표현의 자유를 침해하며 플랫폼 서비스는 태생적으로 감시와 검열이 불가능하다는 반론도 있다. 문제의 핵심은 극우 유튜브 콘텐츠를 제재할 수 있는 근거와 규제 원칙이 부재하다는 것이다.

극우 유튜브는 공동체를 위협하고 민주주의 가치를 훼손한다. 극우 유튜브는 방어적 민주주의(defensive democracy) 개념에서 접근해야 한다. 즉, 민주주의의 핵심 가치인 자유와 다원주의를 최대한 보장하면서 민주주의 체제를 위협하는 내·외부 위험 요소에 대해 선제적·제한적 대응을 가능하게 하는 법적·제도적 장치를 마련해야 한다. 방어적 민주주의에 근거한 규제 원칙을 통해 극우 파시즘 또는 극우 유튜브 문제를 해결할 수 있는 대응체계를 논의해야 한다.

유럽연합의 디지털서비스법(DSA)이나 독일의 네트워크집행법처럼 플랫폼 사업자에게 불법·유해 콘텐츠 대응 의무와 투명성 확립 의무를 부과하는 법·제도적 규제가 필요하다. 현행 법·제도인 정보통신망법과 민·형사법(명예훼손죄, 모욕죄)은 유튜브의 불법·유해 콘텐츠를 충분히 규제할 수 없다. 유럽연합의 디지털서비스법은 인간의 기본권을 실제적·잠재적으로 저해하는 콘텐츠뿐만 아니라 민주적 과정, 시민 담론, 선거과정, 공공안전 등에 실제적·잠재적으로 부정적 영향을 미치는 콘텐츠를 유해 콘텐츠로 규정하고 규제대상으로 명시한다.

플랫폼 가이드라인 강화, 불법·유해 콘텐츠에 대한 필터링 알고리즘과 제한 조치, 불법·유해 콘텐츠에 대한 정기 감시보고서 공개, 사실성과 진실성에 기반한 콘텐츠 품질지수 또는 신뢰성 평가기준 도입 등의 플랫폼 차원의 자율규제 강화도 이같은 규제 원칙이나 실제적 법적 근거가 있어야 실효적으로 작동할 것이다.

유튜브를 맹목적으로 비난하거나 무조건적으로 규제하자는 것이 아니다. 극우 파시즘 또는 극우 유튜브의 위험성을 인식하고 이에 대한 올바른 대응책이 필요하다는 것이다. 현재 유튜브는 비상계엄과 내란 사태를 둘러싼 감정들이 과열되어 있다. 임계점에 다다른 폭발 직전의 용광로처럼 위태해 보인다. 극우 유튜브가 반사회적이고 폭력적인 폭발의 기폭제가 되지 않고 민주주의 질서를 훼손시키지 않도록 합리적이고 실질적인 해결책을 고민해야 할 시기이다.