[box type=”note”]
오늘(2023. 3. 9) 16개 인권시민단체는 ‘인공지능법안’을 국회 과방위가 전면 재검토할 것을 촉구하는 기자회견을 열었습니다. “전 세계적으로 인공지능의 위험을 공감하고, 규제를 마련하고 있는 가운데 한국은 되레 역주행하고 있다”는 게 인권시민단체의 주장입니다. 참여한 단체는 다음과 같습니다. 이들 단체의 기자회견문을 정리합니다. (편집자)
- 경제정의실천연합, 광주인권지기 활짝, 건강권 실현을 위한 보건의료단체연합, 무상의료운동본부, 민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 서울YMCA 시민중계실, 언론개혁시민연대, 연구공동체 건강과 대안, 전국민주노동조합총연맹, 전국사무금융서비스노동조합, 전북평화와인권연대, 진보네트워크센터, 천주교인권위원회, 참여연대, 홈리스행동
[/box]
지난 2월 14일, 국회 과학기술정보방송통신위원회 심사소위는 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’(이하 ‘인공지능법’)을 통과시켰다. 그러나 이 법안은 인공지능 규율을 위한 기본법임을 표명하면서, 안전과 인권에 미치는 인공지능의 위험을 규제할 수 있는 실질적인 내용은 없고, 인공지능 산업 육성을 위해 ‘우선허용 사후규제’라는 터무니없는 원칙을 앞세워 오히려 정당한 규제의 도입을 방해할 가능성이 크다. 국회 과방위는 산업계의 이익만을 위해 졸속으로 추진하고 있는 이 법안을 즉각 폐기해야 한다.
1. 규정의 완성도 미흡 (cf. 유럽의 인공지능법)
최근 챗GPT를 비롯한 인공지능 기술의 발전이 많은 사람들을 놀라게 하고 있지만, 이미 공공 및 민간 영역에서 인공지능 서비스들이 실생활과 업무에 상당히 도입되어 있다. 인공지능 알고리즘의 차별 문제, 인공지능 개발 과정의 개인정보 침해, 실시간 얼굴인식과 같은 인공지능 감시 문제 등 특히 고위험 인공지능이 야기할 수 있는 여러 문제를 방지, 완화할 수 있는 규율이 필요하다는 것에 대한 공감대도 확산되고 있다.
이에 국가인권위원회도 2022년 5월 [인공지능 개발과 활용에 관한 인권 가이드라인]을 발표하여 △개인의 인권과 안전에 미치는 위험성 별로 걸맞은 수준의 규제와 인적 개입, △인공지능을 독립적이고 효과적으로 감독할 수 있는 체계 수립, △인공지능 때문에 피해를 입은 사람이 권리구제를 받을 수 있는 기회를 제공할 것 등의 내용으로 하는 입법을 정부에 권고한 바 있으며, 국무총리와 각 부처 장관 역시 이 권고를 수용한 바 있다. 그러나 이번에 국회 과방위 법안심사소위를 통과한 인공지능 법안이 이러한 요구에 부응하고 있는지는 의문이 아닐 수 없다.
이 법안은 고위험 인공지능을 정의하고 있지만, 주요 국가에서 추진하는 고위험 인공지능 규제 대상과 내용에 비하여 중요한 분야를 누락하고 있으며, 금지해야 하는 인공지능에 대해서는 전혀 규정하고 있는 바가 없다. 더구나 고위험 인공지능을 규정하는 이유는 그 위험성을 방지, 완화하기 위한 것인데, 법안에서 규정하고 있는 고위험 인공지능에 대한 규율은 고지 의무와 사업자 책무 등 단편적이고 형식적인 것에 그치고 처벌 규정도 없는 등 실질적인 위험 방지 장치를 갖추고 있지 못하다.
이는 유럽연합 인공지능 법안에서 고위험 인공지능 시스템의 개발이나 활용하는 사업자에 대해서 위험 영향을 평가하거나 완화할 의무, 출시 전 검사하거나 사후에 모니터링할 의무, 개발이나 운영 중 문서화하거나 기록할 의무, 데이터 편향이나 오류를 방지할 의무, 작동에 대해 투명하게 설명할 의무, 인간이 관리감독할 의무, 시스템의 견고성·정확성·보안성, 인증·등록·보고 의무 등을 세세하게 규정하고, 금지된 인공지능을 출시한 경우 최대 3천만 유로 또는 연간 전세계 총매출의 6%의 벌금을 부과하는 등 엄격하게 규율하고자 하는 것과 대비된다.
2. ‘우선허용·사후규제 원칙’ 독소 조항 (ft. 과기부)
오히려 이 법안은 다른 관할 기관의 정당한 규제를 방해할 가능성이 크다. 제11조는 우선허용·사후규제 원칙을 규정하고 있는 가장 큰 독소조항으로, 국민의 안전과 인권에 치명적인 영향을 미칠 수 있는 인공지능도 우선허용되어야 하는지 되묻지 않을 수 없다. 더구나 제11조 2항은 다른 국가 및 지방자치단체 역시 ‘인공지능기술, 인공지능제품 또는 인공지능서비스와 관련된 법령 및 제도’를 수립할 때 이 원칙에 부합하도록 요구하고 있는데, 이는 개인정보보호위원회나 공정거래위원회 등이 정보주체나 소비자의 안전과 권리를 위한 인공지능 규제를 도입하는 것과 충돌할 수 있다.
이와 같은 산업 편향은 과학기술정보통신부에 인공지능과 사회정책 일반을 소관하도록 한 것에도 나타난다. 이 법안은 과기정통부에 인공지능산업 진흥 및 인공지능 신뢰성 제고를 위하여 법령의 정비 등 관련 제도를 개선할 권한을 부여하고 있고 인공지능 신뢰 기반 조상을 위한 시책을 마련하도록 하고 있다. 또한, 과기정통부는 인공지능산업의 진흥 및 신뢰 확보와 관련된 사항을 심의‧의결하기 위한 인공지능위원회의 간사를 맡고 있다. 지금까지 인공지능 산업육성과 자율규제만을 외치며 안전과 인권 보호를 등한시해왔던 과기정통부가 인공지능 신뢰 기반 조성을 위한 사업을 주도할 자격이 있는지 의문이다. 고양이에게 생선을 맡기는 격이 되지 않을지 우려된다.
3. 국제 인권 기준에 부합하지 않는 법안
이 법안은 국가인권위원회의 권고도 충족하지 못할 뿐더러, 국제적인 기준과 권고에도 부합하지 않는다. 이미 2020년 유엔사무총장은 인공지능 사용에 대한 책임성을 완전하게 보장하는 적절한 법률체계와 절차 방법을 마련하고 감독 체제를 수립하며 인공지능의 피해에 대한 구제 수단을 구비할 것을 각국에 권고한 바 있다. 또한, 유엔인권최고대표는 2021년 [디지털시대 프라이버시권 보고서]에서 공공과 민간 인공지능 사용의 부정적인 인권 영향을 방지하고 완화하는 인권실사와 피해자를 구제하는 규제 체계의 도입을 요구하였다. 국제적인 요구 수준에 부합하지 않는, ‘세계 최초 인공지능 법안’은 세계적인 웃음거리가 될 뿐이다.
과연 이 법안으로 아무런 사전 검토도 없이 인공지능 채용 프로그램을 도입하고 있는 공공기관이 책무성을 갖도록 할 수 있을까? 법무부가 출입국 시스템 고도화를 명분으로 내외국인의 얼굴정보를 무단으로 사용하는 것을 막을 수 있을까? 수사기관이 충분한 사회적 논의와 안전장치없이 범죄수사나 예방을 위한 인공지능 시스템을 개발하는 것을 막을 수 있을까? 이미 무분별하게 도입되고 있는 인공지능 서비스를 고려할 때, 인공지능에 대한 적절한 법적 규율은 필요하다. 그러나 이렇게 제대로 된 규율도 없고 오히려 정당한 규제 도입을 방해할 수 있는 인공지능 법안을 졸속으로 추진해서는 안 된다.
결: 전면 재검토 필요
우리 인권시민사회단체들은 안전과 인권 보장을 외면한 인공지능 법안 제정에 반대한다. 국회 과방위는 더 늦기 전에 인공지능 법안을 폐기하고 원점부터 사회적인 논의를 시작하라. 제품안전, 소비자보호, 개인정보보호, 차별금지 등 안전과 인권에 관한 규제를 소관하는 모든 상임위원회가 참여하여 국회 차원에서 인공지능 기본법을 재검토할 필요가 있다.
- 국제 인권규범, 국가인권위 인공지능 가이드라인 무시하는 인공지능법 제정 반대한다.
- 과방위는 인공지능 산업 육성에만 치중한 인공지능 법안 전면 재검토하라.
- 안전과 인권보장이 우선이다. 우선허용·사후규제 원칙 폐기하라.