지난 5월 25일, 아프리카계 미국인 조지 플루이드 씨가 경찰의 비인간적이고 폭력적인 체포로 살해당한 이후, 제도적 인종차별과 경찰을 뜯어고치자는 강력하고 절박한 목소리가 미국 전역에서 터져 나오고 있습니다. 수많은 사람이 ‘흑인의 생명도 소중하다(Black Lives Matter)’ 운동에 함께 하고, 전 세계적으로 연대 및 지지 집회를 개최했습니다.
시민들뿐만 아니라 대기업들도 SNS를 통해 연대의 메시지를 공유하고 있습니다. 소위 빅 테크(거대 기술기업)들도 SNS를 통해 연대의 메시지를 공유하면서 이 물결에 동참하고 있습니다. 많은 기업이 말로만 연대하고 실질적 변화를 꾀하진 않지만 그래도 움직임을 보여주는 기업들이 있긴 합니다.
빅 테크, 얼굴인식 기술의 위험성을 인정하다
그중에서도 수년 간 경찰과 이민단속국을 비롯한 공권력에 얼굴인식 기술 등을 제공해왔던 거대 기술기업들의 입장 발표가 눈에 띕니다. IBM은 의회에 보내는 공개적 서한을 통해 “대량 감시와 인종 프로파일링에 이용되며 인권과 자유를 침해하는 얼굴인식을 비롯한 모든 기술의 사용에 반대한다”는 입장과 함께, 얼굴인식 및 분석 소프트웨어와 관련한 기술 제공을 중단하겠다고 밝혔습니다. 그 뒤를 이어 아마존은 얼굴인식 기술을 1년간 경찰에게 제공하지 않겠다며 규제의 필요성을 말했고, 마이크로소프트는 얼굴인식을 규제하는 법이 나오기 전까지 경찰에게 판매하지 않겠다는 등의 입장을 밝혔습니다.
이는 긍정적인 변화이지만, 이들 기업은 여전히 다른 경로를 통해 자국 및 타국의 경찰을 비롯한 공권력의 감시와 탄압의 도구에 기술적 뒷받침을 해주는 부역자이기에 마냥 박수 칠 일만은 아닙니다.
다만 현재도 거리에 나와 있을 미국의 시위자들에게 이는 다행스러운 소식입니다. 또 ‘감시의 인종주의(The Color of Surveillance)’, ‘젠더 쉐이즈(Gender Shades)’ 등 얼굴인식 기술의 해악과 침해성에 대하여 말하고 알리고 연구해 온 미국의 많은 활동가와 연구자들이 이루어낸 성과임이 분명합니다. 동시에 이는 얼굴인식 기술 연구와 판매를 열정적으로 선도해오던 거대 기업들마저 입장을 변경할 정도로 해당 기술이 위험성과 남용가능성 그리고 불완전성을 내포하고 있다는 뜻이기도 합니다.
차별 강화하는 ‘얼굴인식 기술’
미국의 경우 얼굴인식 기술이 인종과 젠더에 따라 그 오류의 빈도에 큰 차이가 있어 현실의 차별을 반영한 그리고 차별을 다시금 공고히 하는 기술로 특히 비판을 많이 받아왔습니다.
설령 이러한 오류가 알고리즘에 대한 개선으로 해결될 수 있다 치더라도, 기본적인 인권 침해의 문제는 여전합니다. 애초에 얼굴인식 기술 자체가 갖고 있는 개인정보자기결정권 등 기본권 및 자유의 침해 문제가 있으며, 차별적인 법 집행으로 인한 불공정한 기술 사용의 문제가 존재합니다.
미국의 공권력은 예로부터 흑인 사회운동가를 탄압하기 위해 도감청을 비롯한 각종 감시 기술을 사용해왔고, 유독 특정 사회 문제에 항의하는 시위에만 인권침해적인 분석 기술을 사용해왔으며, 빅데이터와 인공지능을 활용한 범죄예측분석 시스템 등은 유색인종 커뮤니티를 시험대로 삼았고, 이민자들을 관리한다는 명목하에 감시 기술을 마구잡이로 사용하는 등 공권력의 자의적이고 차별적인 판단에 따라 제도적 폭력을 행사해왔습니다.
그리고 이러한 폭력에 아마존이나 IBM, 마이크로소프트와 같은 거대 기술기업이 협력한 것은 더할 나위 없는 사실입니다.
한국 사정은?
한국이라고 크게 다르지는 않습니다. 한국 경찰은 이미 재범자를 대상으로 수십만 건의 데이터베이스를 구축하여 고도화된 얼굴인식 시스템을 사용하고 있습니다. 그러나 이에 대한 평가나 규제는커녕 제대로 된 법적 근거도 갖추고 있지 않으며 알려진 정보도 극히 제한적입니다.
경찰은 ‘현재’로서는 9대 강력범죄를 대상으로 데이터베이스를 운영한다고 알려졌지만, 아무런 통제가 없는 이상, 정권의 입맛에 따라 언제 갑자기 대상이 확대될지 알 수 없는 노릇입니다. 강력범죄자를 대상으로 운영했던 DNA 데이터베이스에 철거민, 파업 중인 노동자 및 사회운동가들의 DNA까지 채취하여 넣어둔 것처럼 말이죠.
또한, 2010년부터 법무부는 출입국 관리를 명목으로 한국에 들어오는 외국인의 지문과 얼굴사진 정보를 강제적으로 수집·활용해왔지만, 이런 시스템이 이주노동자나 난민을 대상으로 남용되더라도 이를 막을 보호장치는 턱없이 부족합니다. 특정 국적이나 인종, 피부색을 가진 사람들을 잠재적 범죄자로 취급하는 법과 정책이 ‘테러와의 전쟁’ 열풍으로 너무나도 쉽게 도입되었고 생체인식 전문기업은 이를 뒷받침해왔습니다.
그리고 요즘은 정부가 두 발 벗고 밀어붙이는 ‘4차산업혁명’과 이를 통한 경제 발전이라는 새로운 논리에 힘입어 각종 기술과 제품에 대한 규제가 풀리고 있습니다. 기술이 인권에 미치는 영향은 안중에도 없는 것 같습니다. 또 연이은 코로나19의 전세계적 대유행 상황이 몇몇 기술 기업에겐 기회로만 보이는 듯합니다. 덩달아 지방자치단체 또한 자신의 행정력을 과시하기 위해 무분별한 정책과 기술을 채택하고 있습니다.
일반적인 체온계를 이용해도 충분한 청사 출입 관리를 위해 무려 얼굴인식 장치를 설치한 서울시 성동구청이 대표적인 예시입니다. 공공기관은 얼굴인식을 비롯한 생체인식 기업들의 로비 각축장이 되었고, 어떤 알고리즘으로 어떻게 관리되고 돌아가는지 알 수도 없는 고만고만한 얼굴인식 장치들이 마구 도입되고 있습니다.
정부와 국회는 이러한 상황을 규제할 생각조차 없어보입니다. 행정안전부는 개인정보보호법 시행령 개정을 추진하며 얼굴인식 정보와 같은 생체인식 정보를 ‘특별히 보호받아야 하는’ 민감정보에 포함시킬 계획이지만, 현재와 같은 상황에서 정말 보호가 잘 이뤄질 거라고 장담할 수가 없습니다. 자꾸만 기획재정부, 과학기술부나 방송통신위원회와 같은 정부 부처들이 규제 혁신을 핑계로 앞다투어 생체인식 정보와 같은 민감정보를 정보주체도 모르게 기업이 손쉽게 활용할 수 있는 우회로를 만들어주고 있는 상황이니까요.
생체인식 정보를 활용한 기술, 특히 그중에서도 얼굴인식 기술에 대한 규제는 이미 세계적 이슈 중 하나입니다. 미국은 공공기관의 얼굴인식 기술 사용을 강력하게 통제하거나 아예 금지하는 조례들을 여러 지방자치단체들이 제정하고 있으며, 유럽연합은 공공장소에서의 얼굴인식 기술 사용 금지를 검토하였습니다. 한국 정부가 진정 4차 산업혁명의 선두가 되고 싶다면 기술 개발 뿐만이 아니라 기술로 인해 벌어지는 악영향을 막기 위한, 인권에 기반한 논의와 금지를 포함한 강력한 규제 또한 적극적으로 받아들여야 할 것입니다.