현재 위치:   » » 행정기본법안에 ‘침투한’ 인공지능

행정기본법안에 ‘침투한’ 인공지능

“인공지능에 대한 안전장치가 마련되지 않은 상태에서 기술에 대한 맹신으로 도입된 행정기본법 안 20조(“자동적 처분)는 국민의 기본권에 직접 영향을 미침에도 불구하고, 피처분자의 권리구제가 사실상 불가능해 적법절차원칙을 형해화하고, 국민의 기본권을 침해할 우려가 있습니다.” (민변 디지털정보위원회 서채완 변호사)

‘인공지능’이 행정기본법안에 들어왔다. 정부가 발의한 행정기본법안은 현재 국회 법사위에 상정돼 있다. 민변 디지털정보위원회와 (사)정보인권연구소, 진보넷은 “복잡한 행정행위의 원칙과 기준을 제시하는 기본법”으로서 행정기본법안의 의의를 인정하면서도 행정처분 절차에 인공지능을 도입한 “제20조(자동적 처분)”(이하 ’20조’)는 행정기본법안에서 제외해야 한다고 주장한다(‘행정기본법(안) 제20조’에 대한 인권단체 의견서, 이하 ‘의견서’).

이제 인공지능이 과태료를 부과한다고? 하지만 문제는 그렇게 단순하지 않다.

이제 인공지능이 과태료를 부과한다고? 하지만 문제는 그렇게 단순하지 않다.

우선, 20조의 내용은 아래와 같다.

행정기본법안 제20조(자동적 처분) 

행정청은 법령으로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다. 다만, 처분에 재량이 있는 경우는 제외한다.

간단히 말해서 재량행위가 아닌 행정처분(=기속행위)에는 “자동적 처분”으로서 인공지능 시스템을 이용하겠다는 거다. 이 조항이 왜 문제인지 하나씩 살펴보자.

1. 기속행위냐 재량행위냐 그것이 문제로다

우선 기속행위와 재량행위가 뭔지 살펴볼 필요가 있다. ’20조’의 적용 범위에 재량행위는 제외되기 때문이다. 즉 반대로 ’20조’의 적용범위에는 ‘기속행위’만 포함되기 때문이다. 사전적으로 기속행위와 재량행위는 다음과 같이 정의된다.

  • 기속행위: 행정기관이 행정행위을 할 때 기관의 자의적인 판단이 배제되고 법규 내용만으로 집행해야 하는 행위.
  • 재량행위: 행정기관이 구체적으로 법을 진행하거나 행위 내용을 정할 때 자유로운 판단이 인정되는 처분.

가령 시속 80km를 넘기면 과태료를 부과한다고 했을 때 그 과태료 부과행위에는 ‘재량'(인간의 판단)이 개입할 여지가 없다. 80km가 넘으면 법의 규정대로 과태료를 부과해야 한다. 하지만 A와 B의 교통사고에서 과실 정도를 판단한다고 했을 때는 이야기가 달라진다. A와 B의 과실 비중은 판단하는 사람의 ‘재량’에 따라 달라질 수 있다.

하지만 문제는 이렇게 간단하지 않다. 기속행위에 가까운 행위라도 재량행위로 해석할 여지가 있기 때문이다. 가령 위 과속에 따른 과태료 부과 상황을 다시 한번 살펴보자. ’80km가 넘는 과속에는 10만 원 이하의 과태료를 부과한다’는 규정을 생각해보자. 그러면 행정기관의 ‘재량’에 따라 과태료로 7만 원을 부과할 수도 있고, 5만원을 부과할 수도 있으며, 10만 원을 부과할 수도 있다. 즉, ‘과속 과태료’ 문제도 명확하게 기속행위로 볼 수만은 없다.

즉, 인공지능에 의한 자동화 처분의 대상이 되는 행위를 명확하게 ‘기속행위’에 한정하는 취지에도 불구하고, 정작 그 기속행위가 명확하게 규정하기 어려운 개념이라는 점이 ’20조’의 문제다.

현대의 행정행위은 점점 더 복잡성을 띤다. 기속행위와 재량행위는 무 자르듯 명확하게 구별되는 행위가 아니다.

현대의 행정행위은 점점 더 복잡성을 띤다. 기속행위와 재량행위는 무 자르듯 명확하게 구별되는 행위가 아니다.

2. 단순 행정자동화 vs. 인공지능 시스템

’20조’는 “인공지능 기술이 적용된 시스템”을 “자동화된 시스템”에 포함된다고 규정한다. 하지만 단순한 행정자동화 시스템과 인공지능 기술이 적용된 시스템은 본질에서 서로 구별되고, 따라서 그 양자는 엄격하게 구별되지 않으면 안 된다. 인공지능을 ‘얼렁뚱땅’ 괄호 안의 문장 하나로 규정에 포함해선 곤란하다.

‘단순 행정자동화 결정’은 의사결정 과정이 단순하고, 정형적이다. 그래서 그 결과를 비교적 예측할 수 있다. 가령, 과속 단속 카메라에 의한 과속 단속이나 컴퓨터 추첨에 따른 학교 배정 등을 떠올리면 단순 행정자동화 결정의 메커니즘을 파악할 수 있다.

반면, 인공지능에 의한 자동화 결정은 비정형적이다. 구조화된 틀에 맞지 않은 사안을 인공지능의 고유 알고리즘을 통해 처리한다. 이 알고리즘의 원리를 파악하는 건 개인으로서는 ‘불가능’에 가깝고, 그 결과를 예측하는 것도 사실상 어렵다.

인공지능에 의한 자동화 결정 시스템 도입 그 자체가 문제가 아니라 인공지능 시스템에 관한 검증과 그 적용 과정의 투명성 그리고 운영의 안정성과 적법성을 확보하는 일이 가지는 ‘난이도’가 문제다. 이는 단순 행정자동화 기술을 적용하는 것과는 차원을 달리하는 높은 수준의 기술력과 난이도를 가진 문제인 것이다. 하지만 이에 관한 어떤 준비도, 아니 어떤 논의조차도 제대로 이뤄지지 않은 형편이다.

인공지능 기술을 행정 시스템에 도입하는 아이디어 자체는 좋다. 하지만 이를 위해선 차분하고 신중한 절차와 검증 과정이 필요하다.

인공지능 기술을 행정 시스템에 도입하는 아이디어 자체는 좋다. 하지만 이를 위해선 차분하고 신중한 절차와 검증 과정이 필요하다.

3. 정부의 인공지능 역량, 겨우 26위  

우리나라 정부의 인공지능 역량은 어느 정도일까?

영국 옥스포드 인사이트(Oxford Insights)가 발표한 2019년 정부 AI 준비지수[footntoe]2019 Government AI Readiness Index[/footnote]는 생각보다 높지 않다. 우리나라는 인도나 말레이지아보다 더 낮은 26위를 기록했다. 이 지수를 절대적으로 맹신할 수는 없겠지만, 해당 나라 정부 공공 서비스의 인공지능 수용 가능성을 평가하는 지표라는 점에서 의미하는 바가 적지 않다.

우리나라 정부의 인공지능 역량은 일본, 중국, 인도, 말레이지아보다 아래인 26위에 불과하다. (출처: 옥스포드 인사이트) https://www.oxfordinsights.com/ai-readiness2019

우리나라 정부의 인공지능 역량(2019 기준)은 일본, 중국, 인도, 말레이지아보다 아래인 26위에 불과하다. (출처: 옥스포드 인사이트)

현재 우리나라 법제에서 인공지능을 다루는 법안은 ‘지능정보사회 윤리 등을 규정한 지능정보화기본법'(2020. 12. 10. 시행예정)뿐이고, 인공지능 시스템에서 가장 중요한 알고리즘을 검증·평가하는 법 체계는 존재하지 않는다. 이런 상황에서 행정처분에 인공지능 시스템 이용을 전면적으로 허용하는 것은 성급하고 오만하기까지 하다.

인공지능 도입에 앞서 어떤 검증 시스템을 구축해야 하는지는 20대 국회에서 발의된 전자정부법 개정안(박선숙 의원 대표발의)를 참고해 볼 수 있다. 이 개정안은 행정기관에 자동화 시스템의 안정성과 공정성 그리고 정확성 등을 주기적으로 점검하고, 그 결과에 따라 시스템을 개선할 의무를 부담하도록 규정한다. 또한 이 개정안은 행정기관에 인공지능을 사용한 ‘지능형 시스템’이 도출한 판단과 결정, 평과 자문 등 내용을 기록하고 보존하며, 시스템 관리를 위한 주기적 영향평가를 시시하도록 규정한다. 하지만 전자정부법 개정안은 통과되지 못한 채 안타깝게도 20대 국회 임기만료로 폐기됐다.

폐기된 전자정부법 개정안의 내용을 참고해 정부의 공적 인공지능 시스템에 관한 검증 평가 시스템을 마련할 필요가 있다.

4. 기본권? 인공지능 혁명이 먼저죠! 

인공지능에 의한 행정처분, 그 인공지능의 알고리즘이 처분의 근거가 되는 법의 목적과 내용을 제대로 구현한다고 장담할 수 있을까? 누구도 100% 그렇다고 장담할 수 없다. 더 큰 문제는 인공지능에 의한 행정처분은 ‘공무원’의 의사 개입을 구조적으로 배제한다. 더불어 처분의 대상이 되는 국민도 공무원에게 어떤 설명도 들을 수 없게 된다.

간단히 말하자. 공무원만 배제되는 것이 아니다. 대다수 국민도 인공지능에 의해 내려지는 ‘행정처분’의 과정에서 배제된다. 즉, 인공지능에 의한 행정처분이 허용되면, 공무원은 자신의 업무에서 배제되고, 국민은 공무원으로부터 적절한 설명을 듣고, 또 그 처분에 관해 이의를 제기하고, 자신의 권리를 구제받을 기회를 빼앗기게 될 가능성이 높다.

인공지능을 구성하는 알고리즘을 시민의 광장에 올려두고 투명하게 논의할 수 있는 숙의 시스템이 우리에게 존재하는가? 인공지능에 의한 행정처분으로 발생한 손해의 책임을 누구에게 귀속할 지에 관한 사회적 합의가 우리에게 존재하는가? 이런 모든 문제들을 법을 통해 체계적으로 준비하고, 대비할 수 있는 사회적 제도들을 우리는 만들어 가고 있는가? 이 질문들에 ‘그렇다’고 말할 수 있는 사람은 둘 중 하나다. 거짓말쟁이거나 확신범이거나.

행정처분에 인공지능을 도입하는 과정에서 가장 먼저 그리고 최후까지 고민해야 하는 건 누구도 아닌 국민의 권리, 그 기본권이다. 헌법재판소는 “헌법상 적법절차의 원칙은 형사절차뿐만 아니라 입법과 행정 등 국가의 모든 공권력행사에 적용된다”고 판시함으로써 헌법에 담긴 기본권 존중의 정신을 확인한다.1 알고리즘 도입? 좋다. 하지만 국민의 기본권이 침해당할 수 있는 여지가 눈꼽만큼이라도 존재한다면, 그 모든 과정을 그 순간 멈추고, 다시 되돌아 보고, 거듭 검증해야 한다.

인공지능 기술이 기본권에 우선할 수는 없다.

인공지능이 헌법과 기본권보다 우선할 수는 없다.

인공지능이 헌법과 기본권보다 우선할 수는 없다.

 

참고 문헌 

  • [행정기본법(안) 제20조]에 대한 인권단체 의견서 (2020년 11월 5일, 민주사회를 위한 변호사모임 디지털정보위원회, 진보네트워크센터, 사단법인 정보인권연구소)

더불어 이 글을 쓰는데 도움을 준 장여경 사단법인 정보인권연구소 상임이사, 민주사회를위한변호사모임 디지털정보위원회의 서채완 변호사께 감사드립니다.


  1. 헌법재판소 1992. 12. 24. 선고 92헌가8 결정 등

좋은 기사 공유하고 알리기
슬로우뉴스에 커피 한잔의 여유를 후원해주세요. 필자 원고료와 최소한의 경비로 이용됩니다.

필자 소개

슬로우뉴스 편집장

누군가에겐 세상에서 가장 소중한 뉴스일 당신, 그 안에 담긴 우리의 이야기를 생각합니다.

작성 기사 수 : 237개
필자의 홈페이지 필자의 페이스북 필자의 트위터 필자의 구글플러스

©슬로우뉴스 | 개인정보취급방침 | 청소년보호정책 | 슬로우뉴스 안내 | 제보/기고하기 | 제휴/광고문의
(유)슬로우미디어 | 전화: 070-4320-3690 | 등록번호: 경기, 아51089 | 등록일자 : 2014. 10. 27 | 제호: 슬로우뉴스 | 발행인: 김상인 | 편집인: 강성모
발행소: 경기 부천시 소사로 700번길 47 1동 506호 (원종동, 삼신) | 발행일자: 2012. 3. 26 | 개인정보관리/청소년보호책임자: 강성모

Scroll to top