페북 '배제광고' 알고리즘 문제: 40세 이상, 흑인 등 투명인간 취급

‘표적광고’라는 말, 들어본 적 있죠? 그렇다면 ‘배제광고’라는 말은 들어본 적 있나요?

사용자의 인터넷 이용기록(행태정보)를 수집해 이를 프로파일링하고, 이에 맞는 광고를 마치 꼬리표처럼 해당 사용자에게 노출하는 표적광고(맞춤형 광고, 타겟광고, 감시광고)만 문제인 것은 아닙니다. 최소한 2017년 이후 페이스북(메타)은 40세 이상의 사용자에게 구인광고를 노출하지 않고, 흑인, 고등학생 엄마, 유대인, 남미 이주민 등에게 주택 광고를 ‘배제’했습니다. 이는 페이스북(메타)의 알고리즘에 의한 것이었죠. 차별과 배제의 알고리즘인 셈입니다. 해당 알고리즘은 2022년 6월 21일에서야 법무부와의 합의에 의해 수정되었습니다.

광고주와의 계약을 통해 40세 이상을 **구인광고**에서 배제하고, 흑인, 남미 이주민, 고등학생 엄마, 이슬람교도 등을 **주택광고**에서 차별했던 페이스북(메타). 2017년 프로퍼브리카와 뉴욕타임스의 보도를 통해 알려진 메타의 ‘차별 알고리즘’은 2022년 6월에서야 법무부와의 합의에 의해 ‘수정’되었습니다.

40세 이상 사용자에게 배제된 페이스북의 구인광고는 미국 언론 프로퍼블리카와 뉴욕타임즈의 공동조사로 세상에 알려졌습니다(2017년). 페이스북과 계약한 사업자의 주택광고에서 흑인, 고등학생 엄마, 장애인(휠체어 이용자), 유대인, 남미 이주민, 이슬람교도 등을 배제한 행태 역시 프로퍼블리카가 직접 광고 집행을 통해 입증한 바 있습니다(2017년).

페이스북은 이런 차별적 광고 알고리즘을 지난해(2022년) 6월에서야 수정했습니다. 메타 측은 고용주, 임대인 및 신용기관이 미국의 연방민권법의 보호를 받는 시민, 즉 대다수 미국 페이스북 사용자를 차별할 수 있는 사업기능을 제거하는데 미 법무부와 합의했습니다(2022. 6. 21.)

메타(페이스북)과 미 법무부 합의서의 일부, 강조 표시는 편집자 (2022. 6. 21. 출처: 미 법부무)

빅테크를 비롯하여 여러 사회 부문에서 인공지능의 도입이 증가하고 있습니다. 그러나 인공지능에 대한 적절한 규율이 이루어지지 않을 경우 소수자에 대한 차별이나 다른 인권 침해를 야기할 수 있다는 우려가 높아지고 있죠. 콘텐츠 관리, 디지털 광고, 검색결과 제공 등 빅테크 플랫폼에서 사용되는 알고리즘 역시 마찬가지입니다. 특히, 빅테크 플랫폼은 방대한 이용자를 보유하고 있다는 점에서 그 파급력이 훨씬 더 클 수 있습니다. 빅테크만의 문제는 아니지만, 인공지능 알고리즘에 의한 인권 침해를 방지하기 위한 제도가 마련될 필요가 있습니다.

이하 페이스북(메타)의 차별적 광고 알고리즘 문제를 순차적으로 정리합니다.

2017년 프로퍼블리카와 뉴욕타임즈의 공동조사에서 페이스북의 일부 구인광고가 40세 이상 이용자에게 표시되지 않는다는 사실이 밝혀졌습니다. 이는 고용에서 연령에 따른 차별을 금지하고 있는 법률 위반에 해당합니다. 이에 미국통신노동조합(Communications Workers of America, CWA) 등이 연령차별 광고주를 대상으로 집단소송을 제기했습니다.

2017년 11월 프로퍼블리카는 페이스북 주택 광고에서 흑인, 고등학생 엄마, 휠체어 이용자, 유대인, 남미 이주민, 스페인어 사용자, 이슬람교도 등을 배제하는 차별이 가능하다는 사실을 실제 광고 집행을 통해 입증하고 보도했습니다. 이에 전미공정주택연합이 2018년 페이스북을 상대로 소송을 제기했습니다.

2018년 미국 시민권단체 ACLU와 CWA는 미국고용평등기회위원회(EEOC)와 함께 페이스북 및 광고주에 대하여 광고 표시의 여성 차별에 대하여 집단소송을 제기했습니다.

2019년 페이스북은 광고 차별에 대한 집단소송 5건에 대하여 원고와 합의하고 주택, 고용, 금융 분야 광고에서 지역, 연령, 성별에 따른 표적 광고를 금지했습니다.

2019년 3월 페이스북 주택 광고 알고리즘의 차별에 대한 미국 정부(주택도시개발부)의 소송에 대해 메타 측은 ‘인종·성차별’ 주택 타깃광고 알고리즘 고치기로 미 정부와 합의했고, 11만5천54달러 민사상 벌금을 납부하기로 했습니다(2022년 6월 22일).

미 오하이오주, 메타가 어린이들에게 미치는 악영향을 알고도 공개하지 않았다는 이유로 최소 1,000억 달러(약 118조 원)라는 천문학적인 소송액의 손해배상 소송을 제기했습니다(2021.11.)

2022.1. 극단적 선택으로 딸을 잃은 어머니가 인스타그램·스냅챗 등 소셜미디어 업체에 소송을 제기했습니다. 미 코네티컷주의 태미 로드리게스는 인스타그램 모회사 ‘메타’, 스냅챗 모회사 ‘스냅’의 이용자 보호 조치가 충분하지 않았다며 캘리포니아 연방법원에 소장 제출했습니다. (이상 ‘미국’)

영국에서는 2021년 9월 시민단체 글로벌 위트니스(Global Witness)가 페이스북이 구직 광고에서 영국 평등법과 개인정보보호법을 위반하였다며 영국 평등인권위원회와 개인정보보호감독기구 ICO에 진정을 제기했습니다.

[divide style=”2″]

[box type=”note”]

페이스북(메타), 구글, 한국의 네이버와 카카오와 같은 빅테크는 현재 인터넷을 둘러싼 많은 문제의 중심에 있다고 해도 과언이 아닙니다. 친구와의 소통에서부터, 호텔과 항공기 예약, 뉴스 유통과 여론의 형성, 영화, 음악, 게임 등 문화 향유까지 빅테크는 이용자의 일상적 삶을 영위하는 기반이 되고 있습니다.

그러나 빅테크의 주요 사업모델인 맞춤형 광고를 위해 이용자의 세세하고 방대한 개인정보를 (불법적으로) 수집하고 있습니다. 빅테크가 소통의 통로를 독점하면서 이용자가 어떤 뉴스를 볼 것인지, 무엇을 소비할 것인지, 어떤 정치적 입장을 가질 것인지, 불투명한 알고리즘을 통해 통제할 수 있다는 우려도 커지고 있습니다. 이미 몇 년 전부터 전 세계 정부와 의회가 빅테크가 야기하는 문제를 연구하고 규제 방안을 제안하고 있는 것은 당연한 일입니다.

국내에서도 이러한 문제의식이 없지 않지만, 아직 이에 대한 연구와 토론이 충분히 이루어지고 있지는 않습니다. 이에 진보네트워크센터는 진보통신연합 APC의 지원을 받아, 빅테크의 문제점과 대안을 알기쉽게 정리하고 유용한 자료의 아카이브를 구축하려고 합니다. 빅테크에 대한 규제기관과 이용자의 대응을 몇 편에 걸쳐 소개합니다. (진보네트워크)