현재 위치:   » 사회 » 자율주행차 시대의 인권선언

자율주행차 시대의 인권선언

세계 최초 ‘자율주행차 윤리 가이드라인’의 의미와 과제 

 

 

독일 정부는 지난 8월 23일 세계 최초로 자율주행차 윤리 가이드라인을 발표했다.1

이는 현재 개발하거나 실험 중인 많은 완전 자율주행 또는 일부 자동화되는 자동차의 경우에도 여전히 사고의 위험성이 존재하기 때문에 고도의 자율주행 시스템을 위한 소프트웨어 개발에서 본질적인 의사결정이 필요한 경우를 가정하고 있다.

정부와 사회가 기술 발전에 의해 새롭게 등장하는 변화를 수용해야 한다는 목소리가 많기 때문에 독일 정부의 기초적 가이드라인은 다른 나라에 매우 중요한 의미를 부여하고 있다. 독일의 교통과 디지털 인프라스트럭처부 산하 ‘자동화와 커넥티드 자동차 윤리 위원회’에서 발표한 이 가이드라인은 15개 항목을 규정하고 있다. 위원회는 14명의 과학자와 법률가로 구성됐다고 한다.

구글의 자율주행자(Autonomous Vehicle, 혹은 무인자동차)

구글의 자율주행자(Autonomous Vehicle)

물론, 이 가이드라인이 환경과 상황에 따라 매우 논쟁적이거나 미묘한 딜레마는 아직 명확히 규정하지 못하고 있는데, 그런 이슈는 표준화하거나 윤리적으로 논쟁적인 방식으로 프로그램할 수 없기 때문이다. 그럼에도 동물과 재산 피해보다 인간 생명과 평등에 더 많은 가치를 부여하고 공공의 책임과 의무, 자율주행차 도입에 대한 긍정적 해석들, 그리고 공공 도로 시스템 전체가 안전성을 위해 구축되어야 함을 제시하고 있다.

자율주행차 가이드라인이 관심을 갖게 만드는 이유는 최근 몇 년 동안 자동화기기, 나아가 인공지능 기술이 사용된 기기가 어떤 윤리적 판단을 하는 것이 올바른 것인가 하는 이슈와 함께 그렇다면 어떻게 이를 구현해야 할 것인가가 매우 예민하면서도 논쟁적 이슈를 제기했기 때문이다.2

특히 자율주행차는 윤리학에서 유명한 트롤리 딜레마 문제3가 어떻게 적용될 수 있는가에 대해 많은 학자들과 언론이 앞으로 우리 사회가 합의과정을 거쳐야 하는 문제임을 제기했다.4

2016년 사이언스지에는 툴루즈대학 경제학 교수인 장 프랑스와 본느폰 등의 학자가 ‘자율주행차의 사회 딜레마’라는 논문을 통해 사람들이 공리주의적 판단을 하면서도 그런 기준으로 만들어진 차를 구입하는 것에는 주저할 수 있다는 현상을 밝혔다.5

자율주행차 사이언스

2016년 독일에서 열린 행사에서 구글의 에반젤리스트인 빈트 서프가 자율주행차에 대한 철학적 논의는 필요 없으며 어떠한 사고도 일으키지 않고 누구도 차에 치게 만들지 않을 것이라고 말한 것이 이슈가 되어 미디어에서 큰 비판을 받기도 했다.6

MIT에서는 ‘도덕 기계(Moral Machine)’라는 사이트를 만들어 사람들이 각종 상황에서 어떤 판단을 내리는가를 수집하여 사람들의 도덕적 결정에 대한 다양한 견해를 알아보거나 자신이 어떤 상황을 디자인해서 다른 사람들의 판단을 알아볼 수 있게 했다.

MIT에서 만든 '도덕기계' http://moralmachine.mit.edu/

MIT에서 만든 ‘도덕기계’ 사이트

메르세데스 벤츠의 임원이 ‘자동차와 운전자’라는 잡지와 인터뷰를 하면서 만일 자율주행차의 승객과 보행자 중 선택해야 한다면 확실히 구할 수 있는 승객에 우선을 두겠다고 한 것이 큰 논란을 일으키고 회사가 공식적으로 이를 부인하는 사태도 벌어졌었다.7 당시 독일의 장관도 피할 수 없는 사고의 경우 자율주행차는 누구를 살릴 것인가 결정할 수 없다고 했는데, 그 이유는 모든 사람의 목숨은 중요하기 때문이라는 입장을 밝혔다. 이와 같은 입장이 이번 가이드라인에도 반영되었다.

자율주행차 윤리 가이드라인의 의미

독일 정부의 가이드라인은 기술은 개인의 자율성을 보장하며, 어떠한 개인도 다른 사람보다 더 중요하거나 가치 있지 않다는 점과 자율주행차는 근본적으로 도로의 모든 사람이 안전함을 보장받게 만들어져야 함을 강조한다.

제1항 (부분 또는 완전) 자율주행차는 모든 도로 사용자의 안전을 최우선으로 해야 한다고 선언한다.

제2항 특히 모든 개인에 대한 보호는 어떤 공리주의적 고려 대상이 될 수 없음을 명시하고 있다. 또 해로움이나 위험의 수준을 완전히 방지할 수 있을 때까지 줄여나가는 것이 목적이며, 인간이 차를 운전하는 것보다 명확히 위험이 줄어들어야 자율주행차에 대한 라이선스가 이루어질 수 있음을 선언한다.

즉, 자율주행차가 단지 편리함이나 기술적 호기심으로 이루어질 수 없음과 어떤 공리주의적 판단을 통해 사람의 목숨이나 해침이 선택적 결정에 의해서는 안 된다는 점을 명확히 하고 있다.

제3항 도로나 교통의 공공성을 상기하면서 모든 자율주행차나 커넥티드 카가 안전하게 운행되는 것을 공공 섹터가 책임져야 하며, 그런 측면에서 라이선싱과 모니터링이 이루어져한다는 것을 밝힌다. 가이딩 원칙은 사고 방지지만, 기술적으로 피할 수 없는 위험이 존재한다면 위험의 균형은 근본적으로 안전성에 더 확신이 있을 때에만 자율주행차가 운행될 수 있음을 강조한다.

제4항 우리 사회가 개인의 자유로운 선택과 책임, 보호에 대해 갖고 있는 원칙을 언급하면서 기술이 법에 명시되어 구현될 때는 개인 선택의 자유와 타인의 자유와 안전이 균형을 이루어야 함을 언급한다.

제5항 자율주행이 실제적으로 사고를 예방해야 하며 처음부터 위중한 상황이 발생하지 않도록 디자인되어야 함을 강조하지만, 어떤 딜레마적인 상황이 발생할 수 있음을 인정한다. 그러나 이런 딜레마 상황에서도 모든 기술 옵션을 동원해야 하며, 단지 차량만이 아닌 도로 전체 시스템의 기술이 지속적으로 발전해서 이런 위험을 최소화하기 위한 노력이 필요하다는 것을 지적한다.

제6항 기술이 활용되기 위해서는 가능한 피해 최소화 기술을 모두 드러낼 수 있을 때 사회적으로나 윤리적으로 권한 위임이 될 수 있을 것이며, 피할 수 없는 사고가 단지 기술 명령어 때문에 비롯된 것이라고 한다면 윤리적으로 문제가 제기될 수 있음을 말한다. 즉, 어떤 특정한 기술적 오류나 제약에 의해 피할 수 없는 사고라고 말하는 것은 문제가 될 수 있음을 명시하고 있다.

제7항 어떤 상황에서도 인간의 목숨이 최상위에 놓여야 하며, 이는 동물이나 재산 피해가 나더라도 개인의 부상을 피하도록 프로그램되어야 한다는 것을 제시하면서 인간의 안전과 목숨이 그 어떤 것보다 상위의 가치를 갖고 있음을 선언한다.

제8항 우리가 그동안 논의해 왔던 사회윤리 딜레마의 경우를 언급하는데, 실제 상황에서나 예견할 수 없는 행위를 통해 사람의 생명이 선택될 수 없음을 명시한다. 다시 말해 이런 판단을 표준화하거나 프로그램할 수 없다는 것을 명시하며, 기술 시스템이 사고에 대해 복잡하거나 본능적인 평가를 내려 인간 운전자의 도덕적 판단을 대체하게 하면 안 된다고 선언한다.

제9항 다시 피할 수 없는 사고에서 개인의 특성(나이, 성별, 물리적, 정신적 차이)을 기반으로 어떤 차별적 판단과 다른 사람의 희생을 제안해서는 절대로 안 된다는 금지 사항을 언급한다.

제10항 사고의 책무는 운전자에서 생산자, 기술 시스템 운영자, 인프라와 정책, 법률 결정을 위한 기관에서 이동하는 것이기 때문에 앞으로 법원이 이런 변화를 충분히 반영해야 함을 지적한다.

제11항 자율주행에 따른 손실의 책임은 다른 제조물 책임과 같이 원리로 이루어져야 한다고 제시한다.

제12항 새로운 기술과 그 채택은 공개적으로 투명하게 이루어져야 하고, 독립적인 전문가 그룹에 의해 리뷰 받고 공개적으로 소통되어야 함을 선언한다.

제13항 철도나 비행기와는 다르게 도로의 모든 차를 연결하거나 중앙 통제에 놓는 것이 현재 가능하지 않으며, 이런 것이 현존하는 디지털 인프라 안에서 차량에 대한 감시나 조작이 안전하게 이루어질 수 있는가에 대해 윤리적 문제가 있음을 지적한다.

제14항 차량에 대한 공격, IT 시스템에 대한 조작이나 내부적 약점에 대한 해킹 같은 것에 도로 교통이 피해를 받지 않아야 자율주행이 정당화될 것이고, 그래야 시민의 확신이 이루어질 수 있음을 지적한다.

제15항 마지막으로 자율주행차를 통해 생성되는 데이터의 중요성을 언급하는데, 중요하거나 중요하지 않거나 어떤 데이터가 만들어지고 이를 사용하는 권리는 자동차 소유자나 이용자에게 전적으로 선택권이 있으며 이를 초기부터 명확히 해야 함을 제시한다.

독일 정부의 가이드라인은 '자율자동차 시대의 인권선언'이 될 수 있을까. (왼쪽은 프랑스 인권선언문, 오른쪽은 구글 자율주행차)

독일 정부의 가이드라인은 ‘자율자동차 시대의 인권선언’이 될 수 있을까. (왼쪽은 프랑스 인권선언문, 오른쪽은 구글 자율주행차)

앞으로의 과제

독일 정부가 발 빠르게 이런 윤리 가이드라인을 제시한 것은 자동차 강국이면서 새로운 기술 진보에서 미국 같은 나라에 리더십을 잃지 않기 위한 노력으로 해석할 수 있다. 특히 많은 자율주행 관련 기술이 미국에서 탄생하고 있기 때문에 민간 자율로만 놔둘 경우 큰 사회적 혼란과 사용자의 권리 침해가 예상될 수 있다는 것을 독일이 앞서서 인지하고 있음을 알 수 있다.

그러나 이번 가이드라인이 명시하는 사항을 기술적 또는 법률적으로 어떻게 구체화할 수 있을 것인가는 아직 주어진 숙제이다. 다만, 어설프게 공리주의적 발상을 한다거나 또는 투명하지 않게 어떤 판단이 구현되고, 기술에 의해 인간 생명이 선택되거나 기업의 이익을 추구하는 일은 발생해서는 안 된다는 점을 명확히 한 것은 매우 의미 있는 일이라고 본다. 특히 한 개인의 생명은 다른 누구의 생명과 교환될 수 없으며 가장 숭고한 가치가 있는 것임을 천명한 것이 독일 사회의 철학과 정신을 알 수 있게 만들었다.

이제 다른 나라나 자율주행자 기술 개발 기업들이 이와 같은 윤리 강령을 어떻게 구체화하고 또 준수해 나갈 것인가를 논의해야 하며, 이는 나아가서 모든 자동화 기기가 인간의 삶과 안전에 관련될 때 정부나 공공 섹터가 사전에 어떤 준비를 해야 하는 것인지에 대한 좋은 사례가 될 수 있다.

키사 KISA 리포트


  1. World Economic Forum, “German has developed a set of ethical guidelines for self-driving cars”, Aug 31, 2017.

  2. Don Howard, “Can Machines Become Moral?” Big Questions Online, Oct. 23, 2016.

  3. Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices (Oxford: Basil Blackwell, 1978) (originally appeared in the Oxford Review, Number 5, 1967.)

  4. MIT Technology Review, “How to Help Self-Driving Cars Make Ethical Decisions,” July 29, 2015

  5. J. F. Bonnefon, A. Shariff, I. Rahwan, “The social dilemma of autonomous vehicles,” Science, 352(6293), pp.1573-1576, 2016

  6. DW, “Opinion: If you think software code is ethically neutral, you’re lying to yourself,” June 30, 2016

  7. Fortune, “Mercedes-Benz’s Self-Driving Cars Would Choose Passenger Lives Over Bystanders,” Oct 15, 2016

좋은 기사 공유하고 알리기
슬로우뉴스에 커피 한잔의 여유를 후원해주세요. 필자 원고료와 최소한의 경비로 이용됩니다.

필자 소개

한상기
초대필자, 테크 저널리스트, 소셜컴퓨팅연구소 소장

카이스트에서 인공지능을 전공하고 현재 컴퓨터과학과 인문사회학을 결합한 소셜컴퓨팅 분야의 각종 이슈를 연구하고 있다.테크 칼럼니스트로 활동 중이며, 사업전략 컨설팅, 정책 자문을 하고 있다.

작성 기사 수 : 42개
필자의 페이스북

©슬로우뉴스 | 개인정보취급방침 | 청소년보호정책 | 슬로우뉴스 안내 | 제보/기고하기 | 제휴/광고문의
등록번호: 경기아51089 | 등록일자: 2014년 2월 10일 | 발행일: 2012년 3월 26일
주소: 경기도 성남시 분당구 동판교로 153 802-902 | 발행인: 김상인 | 편집인: 강성모 | 청소년보호책임자: 강성모

Scroll to top