
폴리코노미(선거와 경제를 합친 말)의 해라고 불리는 올해는 AI 기반의 허위 조작 정보가 글로벌 화두다.
지난 1월 미국 뉴햄프셔주 예비 선거에서는 조 바이든(미국 대통령)의 ‘딥 보이스’를 이용한 자동 녹음 전화가 논란이 됐다. 바이든의 목소리였지만 조작된 메시지였다.
리사 모나코(미국 법무부 차관)는 BBC와 인터뷰에서 “허위 조작 정보는 사람들이 정보의 출처를 불신하게 만들 고, 투표권 행사에 관해 설득하거나 혼란스럽게 만들 수 있다”고 지적했다. 월스트리트저널은 “70개 국에서 40억 명이 선거를 치르는 올해 수많은 유권자들이 AI 기반 허위조작 정보에 노출돼 있다”고 경고했다. 스탠포드인터넷연구소(Stanford Internet Observatory)는 “허위조작 정보가 사람들이 믿고 싶어하지 않는 것을 폄하하는 데 이용되고 있다”고 경고했다.
메타(페이스북)에서 공공정책책임자로 일했던 케이티 하바스는 월스트리트저널과 인터뷰에서 “플랫폼 사업자들은 정치적 콘텐츠를 판별하는 데 지쳐있다”면서 “규칙과 처벌에 대한 사회적 합의가 없다”고 지적했다. “손대지 않는 상태로 놔두려고 한다”는 이야기다.

한국에서도 딥페이크 영상에 대한 규제를 강화하는 등 AI 기반 허위조작 정보에 대한 문제의식이 확산되고 있다. 선거관리위원회는 AI 감별반을 편성해서 AI 모니터링 전담 요원을 운영하고 있다.
SNU팩트체크센터 팩트체크위원회가 최근의 주요 이슈를 반영한 총선 보도 가이드라인을 내놓았다.
팩트체크위원회는 “팩트체크 활동은 대의제 민주주의를 건강하게 하는 필수적인 역할이자 언론의 신뢰를 강화하는 수단”이라고 강조했다. 특히 “생성형 AI 기술로 허위정보를 만들어내기 쉬워진 최근의 정보 생태계 환경 변화에 따른 언론인들의 각별한 주의가 필요하다”는 지적이다. 팩트체크위원회가 제안한 네 가지 실천 방안은 다음과 같다.
첫째, 총선 보도 역시 팩트체크의 기본 원칙을 지켜야 한다. 불편부당성을 지켜야 하고 정당한 공적 관심사(public concern)와 관련돼야 한다는 것 등이다. 일관되고 명확한 기준에 따라 이루어져야 하고 근거 자료를 확인 가능하게 공개해야 한다.
둘째, 검증은 발언자로부터 시작해야 한다. 발언자는 검증하려는 내용에 대한 정보를 가장 많이 갖고 있으면서 동시에 반론 기회를 보장받아야 하는 취재원이다. 발언자를 배제한 팩트체크는 불공평하고 비과학적인 것이 될 수 있다. 팩트체크위원회는 “특히 생성형 AI를 이용한 조작 가능성으로 인해 당사자 발언을 확인할 필요가 더욱 커졌다”고 강조했다. 발언 내용을 검증할 때는 반드시 간접 인용이 아니라 공개 기록을 직접 확인해야 한다는 이야기다.
셋째, 정당이나 후보에 과도하게 치우치지 말고 다양한 후보의 주장을 검증해야 한다. 언론사의 정치적 입장과 관계없이 유권자의 선택 대상이 되는 모든 후보자의 사실 기반 정보가 검증 대상이 돼야 한다. 팩트체크위원회는 “검증대상을 넓히는 것은 유권자에게 다양한 정보를 제공하는 한편 여러 관점의 정치적 주장을 비교하게 해줌으로써 식견 있고 합리적인 정치토론을 이끌게 될 것”이라고 강조했다.
넷째, 언론사의 교차 검증도 중요하다. 다른 언론사가 이미 팩트체크를 했다고 하더라도 교차검증을 하는 것이 바람직하다. 설령 검증 결과가 다르더라도 이런 시도가 더 완전한 팩트체크에 다가가게 할 것이기 때문이다.
AI 시대라고 해서 저널리즘의 원칙이 달라질 것 없다. 사실을 확인하고 검증하는 것, 우리에게는 그 어느 때보다도 더 많은 의심이 필요하다. 언론의 역할이 더 중요하게 됐다.