극우 유튜브 전성시대: 플랫폼 규제 신중하게, 확실하게

플랫폼의 정치경제학, 쟁점들

세계는 어떻게 플랫폼 오정보에 대응하고 있을까. 그리고 플랫폼은 어떻게 자기의 정치경제학을 ‘실천’하고 있을까. 굵직한 이슈만 생각나는 대로 뽑아도 아래와 같다.

• 브라질의 x 차단 사태.
• 유럽연합의 디지털서비스법.
• 메타의 혐오 발언 규제 중단 및 팩트 체킹 포기.
• X의 머스크 개인 블로그화.
• 유튜브 극우화 효과에 대한 유튜브 측의 손 놓음.
• 틱톡 미국 차단 입법.

사실 가장 근본적 문제는, 플랫폼이 더는 특별한 디지털 소통 방식을 위해 만들어지기보다는 그저 규모 경제의 발판으로만 수렴되는 트렌드다. 작년에 이런 현상을 설명하기 위해 ‘똥망화(enshittification)’라는 신조어가 유행한 바 있다. 규모 경제에 올라타기 위해 대량의 저품질 내용을 쏟아내고 알고리즘을 오남용하는 접근은, AI 시대가 좀 더 본격화하면 더 엉망이 될 것으로 보인다.

이제는 굳이 다시 소개할 필요도 없이 다들 알고 있는 현상이다. 온라인 ‘플랫폼’들이 디지털 오정보와 그것을 양분으로 삼는 극우 콘텐츠의 온상으로 꼽히고 있다. 대다수 대형 플랫폼은 이런 상황으로부터 수익을 추구하면서도 동시에 무언가 조치를 안 할 수는 없는 상태에 놓여있곤 한다.

그간 역사적으로 보면, 디지털 오정보를 규제하는 방법으로 플랫폼은 내용을 직접 규제하기도 하고, 콘텐츠 생산자를 내쫓기도 한다(입점 제한, 쉽게 말해 ‘강퇴’). 내용에 개입하지 않고 오정보나 불법정보를 규제하는 방식에는 문제된 당사자 정보를 수사 당국에 전하거나 직접 팩트 체크나 알고리즘을 통해 오정보의 유통을 제한하는 방식 그리고 수익을 중단시키는 방법 등이 있다.

이런 규제의 근거는 각국의 법률이고, 각국의 윤리 기준이다. 하지만 이 둘 모두 플랫폼 업체에 무언가를 강제하기 쉽지 않은 현실이라면 제대로 힘을 발휘하지 못한다. 제도적 규제 중에서 가장 강력한 것은 허가제를 활용하는 것이고, 경제적 제재로서 벌금이나 과태료를 부과하는 것도 있고, 또는 극단적으론 중국이 종종 그랬던 것처럼 접속을 차단하는 방식이 있을 수 있다. 근본적으로 민주제에서 늘 중시하는 표현의 자유 원칙과 충돌하는 측면이 상당하다.

국내 기업 vs. 국외 기업

플랫폼 규제 문제를 업체의 국내외 여부로 나눠서 평가하면, 국내 업체는 정치적 이해관계(적대적 진영 논리)가 가장 큰 쟁점이다. 무언가 기준을 만들고 싶으면 어느 정치세력에 유리하게 가자는 건가 반발이 들어와서 이도 저도 못하고 끝나는 식으로, 문제를 못 풀면서 여기까지 왔다. 외국 글로벌 서비스의 경우에는 현지 차단이 사실상 어렵고, 규제 방식에 관해서도 세부적으로 왈가왈부하기 힘들다.

플랫폼 규제 문제를 업체의 국내외 여부로 나눠서 평가하면, 국내 업체는 정치적 이해관계(적대적 진영 논리)가 가장 큰 쟁점이다. 무언가 기준을 만들고 싶으면 어느 정치세력에 유리하게 가자는 건가 반발이 들어와서 이도 저도 못하고 끝나는 식으로, 문제를 못 풀면서 여기까지 왔다.

외국 글로벌 서비스의 경우에는 현지 차단이 사실상 어렵고, 규제 방식에 관해서도 세부적으로 왈가왈부하기 힘들다. 나아가 현지 법인의 ‘문화 관리자’가 내용 수위를 조율하지 못하면 로힝야족 학살의 미디어 도구가 되어버린 페이스북의 사례에서 보듯 손쉽게 오정보가 범람하기 쉬운 환경이다.

플랫폼 속성은 어디에서나 생겨날 수 있다. 네이버 뉴스 댓글을 생각해 보면, 원래 취지는 뉴스 본문에 더 생각할 만한 지점, 새로운 정보를 바로 덧붙여 뉴스를 더 풍부하게 읽게 만드는 것이지만, 그간 사람들이 열심히 오남용해서 지금은 온갖 의견 극단화, 오정보 유통의 거의 커뮤니티적인 역할을 한다.

원래 재미있는 클립을 함께 나누자고 만들어졌던 유튜브를 활용한 우익 방송은 더 설명할 필요도 없다. 이들은 정치적 신념이라는 명목적으로 흔히 오정보에 바탕으로 한 혐오와 증오를 전염시킨다. 그렇다면 플랫폼의 자정작용은 더는 기대할 수 없는 걸까. 싱겁게도 답은, 그렇다. 일정한 규모 이상으로 플랫폼의 부피가 커지면 자정작용이 이뤄지기 어렵다.

무엇보다, 어느 정도 이상 숙성된 플랫폼이라면 사용자의 어뷰징(오남용)은 필연적이다. 자정 효과를 위해선 권한의 차등화와 각 관리 규모의 축소, 권한 유지를 위해 사용자 스스로 눈치를 보게 하는 ‘불평등’ 시스템을 적용해야 하는데, 이는 플랫폼의 최우선 목적인 ‘수익 극대화’와 어울릴 수 없는 방법론이다. 그나마 현재의 레딧이나 영어 위키백과 정도에서 이런 장치를 통해 자정작용이 유지되는 것으로 보인다.

빅테크 개별 평가? 그 나물에 그 밥!

가령, 애플은 C학점. 메타는 F학점… 이런 각 플랫폼의 ‘개성’에 관한 평가가 점점 더 무의미해지고 있다. 그래도 애플은 하드웨어와 소프트웨어를 통합하는 게 전략이라서 개인정보 보호 정책이 아주 강하고, 자신의 높은 퀄리티를 유지하기 위해 앱스토어나 아케이드 같은 자사 서비스에 입점할 수 있는 자격 요건 심사도 아주 까다로운 편이다.

구글은 유튜브만 보더라도, 손 놓은 지 오래다. ‘사악해지지 말자'(Don’t Be Evil)표어는 이미 오래전 과거의 유물에 불과하다. 먼저 스스로 손을 놨고, 심지어 회사 운영에 있어서도 트럼프 2기가 들어서자마자 기다렸다는 듯이 인력 다양성 정책을 폐기했다. 메타의 플랫폼들도 업로딩에 규제가 많은 편이었지만(선정성과 정치성 눈치), 이제는 트랜스 혐오를 규제 대상에서 빼는 등 구실만 생기면 이것저것 풀어버리고 돈을 벌겠다고 나선 판이다.

X는, 이미 예전 인터뷰에서 다뤘던 것처럼, 이제는 완연히 머스크 개인 블로그 댓글 서비스에 불과하다. 그리고 그렇게 변하는 판에 적극적으로 치고 들어오는 것은 경제적 정치적 수익을 노리는 영리 관심업자들이고. 거대 빅테크들이 다들 고만고만하게 비슷한 모습으로 수렴하고 있다.

미국의 규제 솔루션

가령 거대 글로벌 플랫폼 기업이 많은 미국을 중심으로 설명하면 다음과 같다.

미국은 플랫폼 내용에 대한 직접 관여를 최대한 회피하는 방식으로 규제가 발전했다. 어떤 이용자나 이용자의 게시물을 직접 차단하는 방식은 최대한 ‘덜’ 하려는 방식이다. 수정헌법 1조 ‘표현의 자유’가 미국 사회의 금과옥조이고, 이런 내용 불개입 방식을 발전시켰다.

그래서 미국의 경우에는 ‘영장’을 가져오면 그 문제적 콘텐츠를 만든 사람의 정보를 내주겠다는 정도로 엄격한 영장주의 원칙을 취했고, 그마저도 통상적으로는 ‘저작권 위반’의 경우에만 주로 적용해 왔다.

두 번째 방법은 팩트 체크다. 페이스북이 대표적이’었’다. 페이스북은 제3자 펙트체커 서비스를 기용해서 주요 사안에 관해서 토를 달아주는 서비스를 운영해 왔다. 하지만 트럼프 2기에 들어서 자발적으로 팩트체킹 서비스를 폐기했다. 표현의 자유 원칙을 내세웠지만, 결국 트럼프에 대한 백기 투항으로 모두들 해석한다.

오정보의 확산만 줄이는 방식도 직접 개입을 최소화하는 다른 접근인데, 알고리즘에 의한 확산이 서비스의 기본이면 가능하다. 페이스북이 이런 방식이었는데, 개별 내용에 대한 판단을 정교하게 하는 힘들고 돈 드는 방식은 적당히 팽개치고, 오정보 확산을 줄인다는 명목하에 그냥 외부 미디어의 링크를 무조건 노출 알고리즘에서 확 줄여버리는 방식을 취했다. 한국 사용자들도 많이 익숙하실, “링크는 댓글에” 문화가 그래서 탄생했다.

그런데 그렇게 했더니 오히려 전문 미디어의 노출도는 줄고, 일반 사용자 노출도를 높임으로써 오정보에 의한 혐오와 갈등 증오 게시물의 양만 늘었다. 정제된 컨텐츠 유통이 줄어든 만큼 정제되지 않은 오정보 혐오 증오 콘텐츠의 트래픽은 그것을 상쇄하고 남을 만큼 커졌다. 이 모든 것은 페이스북의 수익 극대화, 책임 최소화의 방향성에서 나온 결과다.

플랫폼이 오정보를 자율적으로 규제하는 방식 중 하나로 사용자가 오정보 생산 유통으로 벌어들이는 수입을 줄이는 방식도 있기는 한데, 가령 구글이 애드센스 자격을 박탈하는 방식이 대표적이다. 수익 중단은 가장 강력한 규제 방법임에도, 결국 그런 규제가 플랫폼 기업 자신의 이익에도 결국 반하는 방식이기 때문에 점점 더 소극적이 되었다. 십수 년 전 개인 블로그에 구글 애드센스를 달던 사람들은 구글이 어떤 구실로 계정을 몰수할지 살얼음판처럼 조심하며 살았는데, 오늘날 구글 산하 유튜브에는 세상 온갖 이상한 것들이 태연하게 오래오래 수익을 올리고 있다.

그 밖의 사례: 브라질, EU, 레딧과 위키백과

한국 사용자의 입장에서 페이스북 같은 외국 기업에 어떤 규제를 요구하는 것은 좀 어렵다. 그래서 현지 국가 법인 의무화 등의 법적 규제를 두는 나라도 있어서, 최근 브라질과 X의 갈등이 그 대표적인 사례다. 자이르 보우소나루 브라질 전 대통령이 2022년 대선에서 패배한 후 쿠데타를 일으키려 했다가 실패했는데, X에서 온갖 음모론이 유통됐고, 플랫폼은 그것을 방치하고 확산시켰다.

브라질 대법원이 책임을 X에 물으려고 하니 머스크가 배 째라는 식으로 방치했고, 결국 브라질 법인까지 없앴다. 그러자 브라질 당국은 X 서비스 자체를 차단하겠다고 했고, 실제 차단까지 가는 대립 및 브라질 이용자들의 대거 블루스카이 이동 끝에 결국 머스크가 브라질 법인을 살려 놨다. 글로벌 플랫폼을 상대로는, 그런 사례를 좀 더 만들어낼 필요가 있다.

EU는 다양한 ‘이니셔티브'(일반적으로 법으로 가기 전의 ‘협약’)를 통해 플랫폼 규제 방법론을 축적하고 있다. 충분히 축적되면 액트, 즉 법이 되는데, 가장 주목을 끈 것이 22년의 디지털 서비스 법이다. 여기에 주목할 가장 큰 이유는, EU라는 큰 시장을 관통하는 ‘규칙’을 마련해서 거대 기업에 강제한 것이고 이를 준수하기 위해 플랫폼 설계에 조치를 취하면 전 세계에 영향을 미치기 때문이다. 2009년의 속칭 쿠키법이 좋은 예로, 개별 사용자의 웹 이용 정보를 일부 기록해 놓는 ‘쿠키’의 저장 여부를 사전 동의받도록 한 것이다. 유럽에서 강제한 이 규정 덕에, 유럽에 서비스하는 사이트들은 나머지 전 세계에서도 사전 허락을 받는 식으로 작동한다.

한국도 이를 진지하게 벤치마킹할 필요가 있다. 유럽처럼 아시아 차원에서 하기는 어렵겠지만, 어떤 식으로든 국제적 차원으로 몸집을 불려서 시장적 구속력을 확보하고 계속 그런 방법론을 마련해 가야 한다고 본다. 하다못해 한국, 일본, 동남아의 민주화된 국가들을 모아서 하는 ‘이니셔티브’ 수준은 가능할 수도 있을 것으로 생각한다.

한편, 원래 인터넷의 초기 이상주의에서 모두 부르짖었던 자정작용에 대해서는 레딧이나 영어권 위키백과 같은 모범 사례를 더 자세히 볼 필요가 있다. 한국에서도 초창기 PC 통신을 보면 항상 소재 공간을 나누고 각각 자율적으로 ‘방장'(시삽)을 정해서 어떤 일정한 규칙을 정해 게시물을 관리해 오던 문화가 있다.

모든 상황에 적용할 수 있는 ‘마스터키’가 없다는 건 확실하고, 플랫폼은 항상 다양한 사람들이 다양한 동기로 모이는 곳이다. 자율규제를 통해 정상적인 정보 축적이 가능했던 시절은 이제 먼 옛날이긴 하지만, 단순히 자율 규제가 가능한지 불가능한지 따지기보다는 가능한 조건들을 적극적이고 능동적으로 찾아보는 것이 좀 더 실천적이고 생산적이라고 생각한다.

궁극의 (규제) 플랫폼은 바로 사회 그 자체

가만히 두면 알아서 수익 극대화만 하려는 플랫폼 기업들을 자중하게 만드는 궁극의 플랫폼은 사회 그 자체다. 미국의 경우 오바마 시대만 해도 간간이 시민사회의 압박이든 입법이든 이런저런 브레이크를 거는 듯했지만, 내실 측면으로 보면 결국 소위 빅테크 기업들이 충분한 자율규제 없이 움직이며 결국 정보 환경이 외부의 작전과 내부의 극단화에 흔들렸는데도 제대로 눈치채지 못하고 열심히 망가졌다.

그런 환경에서 트럼프 1기가 당선되고, “가짜뉴스”로 낙인찍고 때리기 좋아하는 정권과 그런 정권을 당선시킨 주범으로 손가락질하는 시민사회 양쪽의 공격을 받으며 플랫폼 기업들이 수세에 몰렸다. 그 과정에서 페이스북의 팩트체킹이니 하는 것이 나왔고. 이후 바이든 때는 좀 더 정식으로 여러 규제 방안을 모색하려고 했고, 그 기조에서 AI 개발의 안전성에 대한 행정명령 같은 것도 나왔다. 하지만 플랫폼 기업들은 적당히 방어적 대처로 일관했다. 그러다가 트럼프 2기가 도래하자, 그냥 대놓고 트럼프에 완전히 밀착하는 현상이 벌어졌다.

트럼프의 보복이 무서워서 굴종하는 것이란 시각도 있지만, 이것은 이익을 추구하는 기업 생리에 충실한 모습으로 보인다. 어느 정도 규모가 커지면 주주를 배불리겠다는 것으로 변질되기 쉬워서, 트위터 이사회가 일론 머스크에게 트위터를 매각한 사건 같은 것도 발생하는 것이다. 여기에는 잭 도시가 트위터의 고착 상태를 풀기 위해 머스크의 추진력을 빌린다느니 뭐니 어떤 그럴듯한 미사여구를 붙여봤자 구체적 내용 없는 평범한 헛소리였을 뿐이고, 결국 그냥 머스크가 트위터의 현실 가치보다 2배를 제시해서 그냥 그렇게 한 것이다. 그리고 그 결과는 보는 바와 같다.

한국은 아무래도 시장이 좁다는 점이 장점이기도 한데, 이용자들의 압박 동원 능력이 아직은 힘을 발휘하고 있고, 그래서 기업으로서의 성공에 있어서 정치적인 압박이 되어주기 때문이다. 하지만 미국은 이용자들이 어떤 단결로 기업에 영향력을 행사하기에는 시장 규모의 크기나 이해관계의 다양성 때문에 한계가 분명히 있고, 설상가상으로 정치 시스템 자체부터가 대단히 퇴행적이라서 시민적 영향력을 행사하기가 웬만해서는 매우 어렵다. 미국 정치가 당장 250년 동안 주요 업데이트 없이 사방팔방 어뷰징 당한 엉터리 플랫폼이 되어버렸다(더 자세한 이야기는 이전 인터뷰 연방대법원과 인권 후퇴 편 참조).

한국형 규제, 돌파구는?

우선 디씨와 펨코 같은 게시판 커뮤니티에 관해 혐오 게시물이나 오정보 배포를 들어서 사업을 금지하고 하는 ‘판 자체를 없애는 방식’은 어렵기도 할뿐더러 바람직하지도 않다. 극단적으로, ‘일베’라고 하더라도 일베 자체를 차단하거나 사업을 중단시키는 방법은 권장할 만하지 않다.

하지만 그 대신 반드시, 개별적으로는 문제 되는 내용에 대해서 빠른 조치가 가능한 방식과 창구를 만들 필요가 있다. 국회에 빗대어서 ‘패스트 트랙’이라고 하는데 그런 방식이 커뮤니티 내부의 오정보 제한 시스템으로 가능해야 한다고 본다. 알고리즘이든 이런저런 네이밍이든, 플랫폼 내부 장치를 통해 문제적 내용을 끌어올리는 방식에 관해서 확실한 검증 평가를 내려서 제재와 벌금을 부과하는 방법도 도입할 만하다.

포털 사이트인 네이버와 다음은 최소한 언론사를 자처하는 소스에 대해서는 입점 제한을 자율 규제의 지렛대로 삼고 있고, 입점한 업체에 책임과 의무를 부과한다. 수십 년 동안 큰 틀은 변하지 않은 것으로 보인다. 그렇다면 개별 사용자가 정보를 오남용할 때 플랫폼은 어떻게 대응할 것인가. 그 대응에서 플랫폼은 아주 소극적으로 진화했다고 본다.

가령 네이버 댓글이 대표적인데, 댓글이라는 시스템을 통한 준커뮤니티 활동을 방치해 왔다. 지금은 댓글 자체가 자신의 정치적 경향을 강하게 결집해 주는 숙주 역할을 한다. 예능이나 스포츠 기사 댓글창을 없앴긴 했지만 정치와 사회 부문 댓글창을 없애지 않는 이유는 오로지 인게이지먼트(상호 작용) 수치를 높여 수익을 극대화하는 것에 있는 것으로 본다.

극우 유튜브 전성시대

극우 유튜브 채널들의 극적인 성장은 첫 번째는 상업적 이익 동기, 두 번째는 주목을 통한 만족감을 들 수 있을 것 같다. 극단적이고 강한 주장을 통해서 주목받으려고 했던 것 자체도 오래전부터 있었던 일이다. 하지만 현재 극우 유튜브의 ‘붕어빵’ 컨텐츠가 이렇게 진화한 배경에는 구글이 수익 배분 모델을 본격화한 것과 궤를 함께한 것으로 본다. 인정 욕구에 상업적 수익이 결합해 대폭발했다.

‘마이리틀TV’ 시절만 해도 유튜브는 인지도를 올리는 정도의 수준이었다면, 이제는 유튜브가 수익의 본진이 되어버린 상황이다. 수익화의 좋은 공식을 찾아낸 것이다. 개별적 콘텐츠에 대한 뷰는 적어도 엄청난 양을 올려서 박리다매하는 접근이라든지. 미국 극우 유튜브도 전개 방식이 비슷하기는 한데, 한국 유튜브 쪽이 좀 더 기업화했달까, 그런데 우후죽순 중소기업들 난립의 느낌이 있다. 반면 미국은 분노한 개개인들 대다수에, 몇몇 본격적인 대기업이 있는 구도에 가깝고.

앞선 인터뷰에서 말한 것처럼 미국의 극우 방송은 유튜브보다는 팟캐스트가 주류다. 미국은 80년대 말부터 이미 우익 세계관의 논객 수다가 “토크 라디오”라고 불리는 라디오 방송으로 고착되어 있기에, 고스란히 팟캐스트로 넘어오기도 쉽다. 나아가 동영상 분야에서는 폭스뉴스라는 정식 방송 채널과 직접 경쟁해야 하기 때문에 더욱 팟캐스트에 포진한 측면도 있다.

반면 한국은 그래도 아직은 극우 유튜브와 종편, 가령 TV조선 등 레거시 미디어 사이에 사안 접근법의 차이가 조금은 존재한다. 아니었다면 12.3 내란 우두머리가 극우 유튜브 채널 말고 TV조선을 신봉했겠지. 한국 종편이나 지상파는 ‘우리는 이 정도 수준은 된다’ 최소 기대치가 있다고 보이는데, 미국은 폭스뉴스는 이제 더는 ‘막말’을 두려워하지 않는 수준이다. 2016년 선거에서 트럼프에 결국 줄을 서고 그의 당선 이후 다른 극우미디어들과 경쟁하는 와중에 허리띠를 확실하게 풀어버렸고, 지금은 하의실종으로 돌아다닌 지 오래다.

극우 유튜브가 윤석열을 삼킨 과정을 추론하면, 윤석열을 ‘우쭈쭈’ 해주는 영상들에 윤석열이 먼저 관심이 생겼을 것으로 본다. 사상적으로 텅 빈 ‘진공’ 상태의 인물이 평생 검사로서 이분법적 때려잡기의 세계관에 익숙한 상태에서, 자신을 비판하고 공격하는 복잡한 현실 세계의 매운맛을 보다가 자신을 ‘우쭈쭈’ 하는 세계관을 접하다 보니 더욱 확증편향의 알고리즘에 빠져들어서 폭주하게 되지 않았을까 조심스레 가설을 세워본다.

다만 이런 것은 윤석열 개인만의 문제가 아니고, 한국만의 문제가 아니며, 트럼프와 미국의 현상이면서 전 세계적인 ‘디지털 현상’의 문제적 현상이기도 하다. 유튜브만의 문제도 아니다. 전 세계적인 디지털 미디어 모두의 문제다. 애초에 한국 사회 하나만 놓고 보더라도 그전에는 오히려 극우가 아니라 대충 범진보라고 흔히 인식되곤 하는 이상호나 김어준의 오만 음모론이 인기를 끌었지 않았나. 김어준의 승승장구에서 드러나듯, 무책임하고 역기능적인 음모론을 펼쳤다 한들 우리 사회가 나중에 딱히 담론적 반성을 강제하는 우수한 플랫폼도 아니고.

현실을 반영하는 규제라는 난제

극우 유튜브나 오정보를 적극 확산하는 이들에 대해 한국 상황에서 할 수 있는 현실적인 규제는 개별적인 명예훼손 등으로 고소하는 과정을 합리화하고, 수익을 차단하도록 하는 것으로 생각한다. 극우 채널의 반사회적 증오 게시물에 대해서는 계정 차단과 수익 몰수가 가능하도록 국내법을 정비해서 구글코리아를 압박하는 것도 당연한 조치고.

게시판 커뮤니티의 경우에는 정치적 표현의 자유와 상충할 수 있어서 조심스러운데, 법적으로 문제가 될 수준의 발언을 하는 사람들이 좀 더 수월하게 처벌받을 수 있도록 게시판 관리자의 협력 책임을 명시하는 것부터 필요하다. 네이버가 예전에 연예, 스포츠 뉴스에서 댓글창을 없앤 것처럼, 게시판 커뮤니티 운영자에게 일정 정도의 선제적 예방 조치를 하도록 책임을 부과하는 것도 그렇고. 이를 위해서라면 특별 입법을 하는 것도 필요하다는 게 내 입장이다.

이상적으로 본다면, 연구 자료를 뒷받침해서 사용자 규모에 따른 의무적인 관리자 규모를 지정해야 한다고 본다. 관리자 한 명이 수십만 건의 게시물을 관리할 수는 없으니까. 규모에 따라 모니터링 팀이나 퀄리티를 강제할 수 있어야 한다. 어느 정도 규모 이상의 사회에서는 ‘관리자’의 역할이 필요하고, 관리가 필요하다. 이것은 철칙이다. 한국 커뮤니티의 난맥상도 과거의 ‘관리 가능한 사용자-관리자 비율’를 설정하는 것으로부터 출발해야 한다.

다른 보편적 참조사례가 더 있으면 좋겠지만, 한국이 나서서 구체적으로 실험을 해도 된다고 생각한다. AI의 도움을 받는 것도 좋은데, 마치 AI의 생성물 품질을 테스트하듯이, 모더레이션의 품질도 엄격하게 테스트하도록 강제해야 한다. 물론 실제 사람들도 일정한 규모 이상으로 판단에 개입하는 인간-인공 결합 모델이어야 하고.

회색이 많다고 해서 흑과 백이 없는 건 아니다

사용자들이 만들어 나가는 내용들을 관리하는 것에 있어서는 내부 토론에 의한 ‘자율적 자정’이 이상적이다. 하지만 그런 자정이 있으려면, 기본적인 규범도 있어야 하고, 자정작용에서 가장 중요한 ‘추방’의 위협이 있어야 효과를 낼 수 있다. 기본적인 규범과 배제의 규칙을 내부적으로 만들지 못한다면, 외부의 규제가 필요하기도 하다. 그렇기에 그 균형을 항상 저울질할 필요가 있다.

규제는 오히려 더 극단적인 저항을 부르지 않을까 염려할 수도 있지만, 규제의 가능성을 배제하고 이뤄지는 조율은 드물다. 규제가 문제라면 그 규제를 다시 규제해야 하며, 계속 살펴보고 능동적으로 대처할 수밖에 없다. 당연히 표현의 자유와 규제 사이의 균형과 밸런스가 필요하며, 전자가 항상 훨씬 더 중요한 원리가 되어주어야 한다.

하지만 정밀하게 발전하도록 계속 지켜봐야 하는 회색 영역이 매우 넓다고 해서, 거기에서 크게 벗어나 있는 선명한 흑과 백이 없는 것은 아니다. 예를 들어 내란을 옹호하는 담론, 부정선거 음모론을 확산하는 것은 선명한 흑이고, 그 정도도 판단 내리기 주저한다면 회색 영역의 토론도 무의미해진다.

온라인에서 아이디어가 오가는 것을 열린 광장에 빗대는 오래 된 흔한 비유가 있다. 그러니까 그것을 이어받자면, 다들 자유롭게 서로 먹고 마시고 다투고 협력하게 놔두되, 아무데나 똥을 싸지는 않게 하는 규제 정도는 필요하다는 이야기다. 게다가 누가 싼 똥을 사방팔방 뿌리는 일로 돈까지 버는 사람들이 입소문 타고 우후죽순 생긴다면 정말 뭔가 해야한다. 플랫폼의 관리 역할을 실험하기 위한 특별법 패키지를 만들게 된다면, 이름은 온라인광장 방분방뇨방지법 정도가 좋겠다. 싫으면 무난하게 ‘온라인광장복원법’ 정도로 타협하고.