[box type=”note”]
정보인권단체가 공공기관의 AI 면접 정보공개 소송에서 ‘일부 승소’했습니다. 이제 AI는 공상과학이 아니라 현실입니다. AI 면접도 그 중 하나죠. 면접관의 주관적인 요소가 배제되니 공정하겠네요! 인공지능이 인간을 면접한다고요? 감히! AI 면접에 대한 막연한 기대감이나 거부감보다는 AI를 어떻게 적용하고 활용하는지, 그 과정과 절차는 올바른지 능동적으로 참여해 살펴보는 일이 더 중요합니다.
그런 의미에서 이번 AI 면접 정보공개 소송 ‘일부 승소’는 값진 결과로 생각합니다. 공공기관의 AI 면접에 관한 더 많은 정보를 마땅히 국민에게 공유해야 합니다. 소송에 참여한 정보인권단체의 공동 논평을 여러분께 공유합니다. 소송 참여 단체는 다음과 같습니다. (편집자)
- 민주사회를 위한 변호사모임 디지털정보위원회
- 사단법인 정보인권연구소
- 진보네트워크센터
[/box]
우리 단체들은 2022년 5월 26일과 6월16일, AI면접 등 공공기관의 채용 과정에 도입된 인공지능 시스템에 대하여 제기했던 정보공개 거부처분 취소소송에서 일부 승소하였다. 우리 단체들은 이번 소송에서 인공지능 채용 도구를 무분별하게 도입해 온 공공기관들이 법적으로 요구되는 자료들조차 구비하지 않는 등 심각한 책무성 부족을 확인하였다.
법원, AI 면접 정보공개청구 정당성 직접 언급
우리 단체들은 지난 2020년, 공공기관에서 사용하는 인공지능 채용도구의 △공공기관의 공정한 채용절차 준수 유무 △개인정보 침해 여부 검토 △AI면접의 차별성과 편향적 결과 검토 등의 실태를 파악하고자 인공지능 채용을 진행한 13곳의 공공기관에 정보공개를 청구하였다. 그 중 단순한 계약 자료 등 기초적인 정보에 대해서도 대부분 부존재한다고 답변했던 기관인 한국국제협력단, 그리고 AI면접과 AI서류평가 등의 채용도구를 적극적으로 사용하고 있는 기관인 한전KDN 두 기관을 대상으로 2020년 10월 정보공개 거부처분 취소소송을 제기하였다. 그리고 약 1년 6개월 이후인 2022년 5월(수원지방법원 한국국제협력단 사건)과 6월(광주지방법원 한전KDN 사건)에 모두 원고 일부 승소 판결을 받았다.
각기 공개가 인용된 정보들은 다르지만, 우리가 청구한 정보 중 부존재하거나 이미 공개되었다고 볼 수 있는 정보를 제외한 나머지 기관이 보유하고 있는 모든 정보는 공개하라는 것이 법원의 일관된 판단이었다. 법원은 특히 정보공개 청구의 정당성을 판결문에서 직접 언급하였다.
“이 사건 정보를 공개함으로써 공공기관의 계약 관련 정보에 관한 국민의 알 권리를 충족하고, 용역업체를 통해 인공지능 프로그램을 면접에 활용하는 과정에서 개인정보가 안전하게 잘 관리되고 있는지 등을 확인할 수 있는 계기가 될 수 있다.”
AI 면접 결과… 합리적 설명 자료 없음 확인
이번 소송을 통해 우리 단체들은 공공기관이 채용 과정에 인공지능 도구를 도입해 판단을 자동화하면서도, 그 결과에 대해 적절하고 합리적인 설명을 보장하기 위한 자료를 갖추어 두지 않았음을 확인하였다. 피고 기관들은 인공지능 도구를 제공하는 사기업에 채용절차를 일임한 채 의사결정에 필요한 자료는 물론이고 공정한 채용절차, 개인정보보호법, 나아가 공공계약에 있어 책임을 다하기 위해 필요한 자료들 또한 구비해두거나 점검하지 않고 있었다.
특히 피고 기관 중 하나인 한국국제협력단의 경우, 2019년 AI면접 프로그램 접속 오류로 면접이 중단된 구직자에게 재응시 기회를 주지 않고 불합격 처리하였고 이로 인해 감사원에서 주의 조치까지 내린 사실이 있다. 그러나 해당 기관은 ‘인공지능 프로그램 구동 과정에서 발생하는 돌발상황 및 응시자 민원에 대한 해결 내역을 알 수 있는 문서’, ‘인공지능 프로그램이 채용에 실제 투입될 당시 인공지능의 기능별 오류/오차율’ 등에 대한 정보공개 청구에 대하여 해당 정보가 존재하지 않는다고 답변하였으며, 소송 과정에서도 기관의 AI면접이 문제없이 진행되었고, 그렇기에 그것을 기록한 정보도 없다고 답변하는 무책임한 모습을 보였다.
한편 피고 기관 중 하나인 한전KDN의 경우 2019년부터 AI면접을 사용하며 이를 점수에 반영하는 등 적극적으로 활용해왔으며 최근에는 AI면접을 넘어 자기소개서까지 자동화된 평가에 맡기는 AI서류평가 소프트웨어를 사용하고 있다. 해당 기관은 채용 과정 중 1차 서류전형을 오로지 AI서류평가로 진행하여 구직자를 탈락시키거나, 최종 합격을 위한 전형을 AI면접+AI자기소개서 평가로 구성하는 등 완전히 자동화된 방식을 통해 채용을 진행하며 사기업의 인공지능 프로그램에 의존해왔다. 그럼에도 한전KDN은 AI면접시 주어지는 질문 사항에 관한 어떠한 검토도 없이 그 내용을 용역업체에 포괄적으로 위임한 채 채용의 의사결정자에게는 AI면접과 관련한 아무런 자료도 제공하지 않았다. 채용 당사자나 감독기관이 채용 당락에 대한 이유를 물어도 제대로 설명할 수 없는 상태인 것이다.
무분별한 인공지능 도입… 제도적 조율 관리 필요
이러한 공공기관의 무분별한 인공지능 도입과 그에 비해 한참 부족한 책무성, 설명불가능성은 국내외 인공지능과 관련된 인권 규범에 모두 역행하는 것이다. 지난 5월 국가인권위원회가 발표한 ‘인공지능 개발과 활용에 관한 인권 가이드라인’(2022. 5.)은 공공기관이 인공지능의 개발과 활용 계획 등을 사전 공개하고 관련 당사자들의 의견을 공청회 등으로 수렴할 것을 권장하고 있으며, 나아가 인공지능을 통한 의사결정을 할 때 설명할 수 없는 인공지능을 활용해서는 안 된다는 것을 분명히 하고 있다.
또한, 인공지능에 의한 자동화된 의사결정에 있어 영향을 받는 당사자가 그 결정의 이유에 대한 설명을 듣고 당사자 진술을 하며 이의를 제기할 수 있어야 한다는 점, 완전히 자동화된 의사결정으로만 개인에게 법적 효력 또는 생명·신체·정신·재산에 중대한 영향을 미치는 일은 제한되어야 하며 이 경우 당사자에게 해당 방식을 거부하거나 인적 개입을 요구할 수 있는 권리가 보장받아야 한다는 점도 강조되어 있다.
국외에서는 일반적인 가이드라인을 넘어 고용 영역에서의 인공지능 기술 사용에 대한 보다 강력한 규제가 마련되었거나 준비되고 있다. 유럽연합은 2021년 4월 ‘인공지능법'(AI ACT)을 발의하고 입법 절차를 밟고 있는데, 해당 법안은 고용 영역에서의 인공지능을 고위험 인공지능으로 분류하고 위험 평가 및 완화, 데이터셋의 고품질 보장, 기록 및 문서화, 정보 공개, 인적 통제 등의 의무를 부과하고 있다.
미국 정부와 의회는 고위험 자동화된 의사결정 시스템에 영향 평가 의무를 부여하는 연방 입법을 추진하고 있으며, 일리노이주와 뉴욕시 같은 지방정부는 채용과정의 인공지능에 특별히 주목해 ‘인공지능 영상면접법(Aritificial Intelligence Video Interview Act)’, ‘자동화된 채용 결정 도구에 관한 법(Automated employment decision tools)’ 등을 통과시켜 인공지능 면접에 대한 정보 제공, 편향성 감사의 의무화 등의 규제를 마련하고 시행 중에 있다.
무책임 도입 중단, 차별 방지 제도적 대책 시급
현재도 다수 공공기관은 채용 과정에 인공지능 기술을 도입하여 사용하고 있다. 그러나 채용은 당사자에게 현재와 미래의 생계로 이어지는 경제적 기회를 제공하는 중대한 의사결정이다. 공공기관이 채용에 사용되는 기술의 의사결정에 대하여 설명할 준비를 갖추지 않고, 검증도 감독도 없이 민간회사에게 일임하는 방식의 무책임한 인공지능 도구의 도입은 중단되어야만 한다.
또한, 국가와 감독기관은 공공 영역의 인공지능 기술 사용에 대한 인권영향평가 등 인권에 중대한 영향을 미칠 수 있는 영역에서의 인권침해와 차별을 방지하기 위한 제도적 대책을 서둘러 마련해야 할 것이다.
우리 단체들은 앞으로도 공공 영역의 인공지능이 마땅히 갖추어야 할 투명성과 합법성, 차별금지를 촉구하고 감시하는 활동을 계속할 예정이며, 이번 정보공개거부처분 취소소송을 통해 공개된 자료 분석을 통해 공공기관의 무분별한 인공지능 도입에 대한 후속적인 문제제기를 계속할 것이다.
