기사 공유하기

[box type=”note”]

얼굴 인식은 유럽연합(EU)의 인공지능법(AI Act)에서 뜨거운 논쟁거리입니다.

시간과 장소를 넘어 우리의 몸과 움직임뿐만 아니라 우리의 얼굴을 광범위하게 추적하는 자동감시시스템이 초래하는 위험이 도사리고 있습니다. ‘생체 인식 대량감시’(biometric mass surveillance)는 우리의 익명성과 자유를 훼손하고 우리의 얼굴과 몸을 무기화합니다. 진보넷이 번역 소개하는 이 글에서는 생체 인식기술의 유형과 그 위험성에 주목하고 있습니다.

인증(authentification/verification)식별(identification)이 무엇인지 설명하면서, 생체 인식 대량감시의 위험성을 강조합니다. ‘인증’은 1:1, A가 A임을 확인하는 것이고, ‘식별’은 흔히 1:n, A가 누구인지 불특정 다수에서 찾아내는 것을 의미하고, 실제로는 n:n(다대다 매칭)에 더 가깝다고 말합니다. 문제는 A가 누구인지 알기위해서 불특정다수의 모든 사람들의 생체 정보를 스캔하고 저장한다는 것입니다.

인공지능법안에 ‘인증’과 ‘식별’을 구분은 하고 있지만, 알고리즘 처리의 용량과 능력이 기하급수적으로 증가하고 있고, 그 위험성은 날로 커지고 있습니다. 특히, 공공장소에서의 ‘생체 인식 대량감시’를 금지해야 하는 법률이 강화될 필요가 있음을 강조하고 있습니다. ‘원격 생체 인식’의 모든 사용을 전면적이고 포괄적으로 금지할 것을 촉구하고 있습니다.

번역오류는 policy 골뱅이 jinbo.net 으로 알려주세요.

[/box]

얼굴 인식은 유럽연합(EU)의 인공지능법(AI Act)에서 가장 뜨거운 논쟁 주제 중 하나입니다. 국회의원들은 시간과 장소를 넘어 우리의 몸과 움직임뿐만 아니라 우리의 얼굴을 광범위하게 추적하는 자동 감시시스템이 초래하는 위험에 대해 그 어느 때보다 잘 알고 있습니다. 이것은 우리의 익명성과 자유를 훼손하고, 우리의 얼굴과 몸을 무기화하는 생체 인식 대량감시(biometric mass surveillance)에 해당할 수 있습니다.

그나마 다행(?)스럽게도 미국의 빅테크 기업들은 지난 2020년 조지 플로이드 폭행 사망 사건의 영향으로 ‘구조적 인종 차별 방지와 정의’를 위해 얼굴 인식 기술에 관한 전면적인 인식 전환을 보이고 있습니다.

생체인식 대량감시의 주요 기술 형태 중 하나는 공공장소에서 ‘원격 생체 인식’(Remote Biometric Identification) 시스템을 사용하는 것입니다. 여기에는 공원, 거리, 쇼핑센터, 도서관, 스포츠 경기장 및 대학이 포함됩니다. 원격 생체인식 시스템은 대부분의 유럽연합 국가에서 경찰, 기타 공공기관 및 민간기업에서 사용되어 왔습니다.

EU 법은 얼굴이나 지문을 사용하여 스마트폰의 잠금을 해제하는 것과 같이 일반적으로 허용되는 생체정보의 사용과 공공장소에서 감시당하는 것과 같은 허용되지 않는 사용을 이미 구분하고 있습니다. 그러나 알고리즘 처리의 용량과 능력이 거의 기하급수적으로 증가함에 따라 ‘생체 인식 대량감시’를 금지해야 하는 법률이 강화될 필요가 있습니다.

생체 인증 vs 생체 식별(인식)

생체 인증은 누군가의 신원을 증명하는데 가장 일반적으로 사용되는 기술 프로세스입니다. 자신이 스스로 통제할 수 있고 생체 인식시스템을 사용하여 자신이 본인임을 증명할 수 있기 때문에 ‘신원 주장’이라고도 합니다.

그러나 생체 인식(식별)데이터를 다른 여러 데이터셋과 비교하는 프로세스입니다. 예를 들어 얼굴을 얼굴 템플릿 데이터베이스와 비교하여 일치하는지 확인할 수 있습니다. 이 데이터베이스는 상대적으로 작거나(예: 감시목록) 매우 클 수 있습니다(예: 국가 신원확인 데이터베이스).

생체 인식(식별)을 위해서는 저장된 다른 생체인식 데이터셋과 비교하기 위해 민감한 생체정보를 수집해야 합니다. 자신과 비교 데이터(예: 휴대폰, 여권 칩 또는 출입증에 보관)를 제시해야 하는 생체 인증과 달리 생체 인식(식별)은 거기에 있기만 하면 됩니다.

생체 인식(식별)은 하나의 테이터를 다른 여러 데이터셋과 비교하는 프로세스로, 이 데이터베이스는 감시목록처럼 상대적으로 작거나 국가 신원확인 데이터베이스처럼 매우 클 수 있습니다. (출처: marketingfacts.nl, CC, BY)

사용 사례를 ‘원격’으로 만드는 이유는 무엇입니까?

생체 인식 대량감시 관행의 또 다른 주요 특징은 사용 사례의 ‘원격성’입니다. 자신의 전화기를 잠금해제할 때(열 때) 자신이 무엇을 하고 있는지 온전히 인식합니다. 그것은 개별적으로 이루어지며, 당신’에게'(X)가 아니라 당신에 ‘의해'(O) 이루어집니다. 당신의 얼굴이 휴대폰에서 몇 cm 떨어져 있어도 당신은 여전히 존재합니다. 따라서 생체 인증은 (적어도 이론적으로는) 원격이 아닙니다.

대조적으로, 생체 인식(식별)은 일반적으로 원격으로 수행됩니다. 생체 인식(식별)의 원격 사용은 카메라, 센서 또는 CCTV 피드에서 볼 수 있는 모든 사람의 생체정보를 스캔할 수 있습니다. 따라서 생체 인식을 흔히 1:n(일대다 매칭)이라고 부르지만, 실제로는 원격 생체인식를 n:n(다대다 매칭)으로 생각하는 것이 더 정확합니다. 왜냐하면, 설령 한 사람만 검색당한다 해도 모든 사람이 스캔되어 불특정 다수의 사람들과 대조되기 때문입니다.

원격 생체 인식은 항상 위험하고 인권을 침해합니다. 왜냐하면 한 명 이상의 사람들이 감시당할 수 있고, 그것이 일어나고 있다는 것조차 모를 가능성이 있기 때문입니다. 이것은 지나가는 모든 사람들이 잠재적 범죄자로 취급된다는 것을 의미하는데, 우리가 자기검열이나 행동을 하거나 시위에 참여하거나 심지어 그냥 걸어다니는 것조차 부자연스럽고 자유가 위축되는 것을 느끼게 할 수 있습니다. 이것은 특정 개인을 대상으로 하는 감시가능성을 배제하고 대량감시를 구축합니다. 그렇기 때문에, 우리는 인공지능법에서 공공장소에서 ‘원격 생체 인식’의 모든 사용을 전면적이고 포괄적으로 금지할 것을 촉구합니다.

관련 글