2016년 8월 29일 캘리포니아 하원 법안 1592에 수정안이 제시되었는데 이 수정안에는 ‘자율주행 자동차 시범 운행에서 운전석에 운전자가 없어도 되며, 운전대, 브레이크, 가속 페달을 장착하지 않아도 된다’는 항목이 들어갔다.[footnote]California Legislative Information, “AB-1592 Autonomous vehicles: pilot project”, 2016.8[/footnote] 아직은 시속 35마일 이하의 속도로 운행하는 시범 주행만 허락한다고 하지만, 이는 본격적인 자율주행 자동차에 대한 실험이 시작할 수 있는 환경이 만들어지고 있다는 것을 의미한다.
미시간 주 상원 의원 마이크 코월도 운전자가 운전석에 없어도 시험 운행이 가능하도록 하는 법안을 제출했으며, 주 내의 어느 도로에서도 운행이 가능하도록 했다.[footnote]Business Insider, “Michigan may let driverless cars cruise public roads without a human operator”, 2016.08[/footnote] 캘리포니아가 승인된 지역에서만 운행할 수 있도록 한 것에 비해 더욱 적극적인 허용이라 볼 수 있다.
이런 상황이 되면 이제 인간이 관여하지 않는 상황에서 자율주행차의 판단으로 운전이 이루어지고 그 결과에 대한 책임 문제가 사회적 이슈가 될 수 있다. 현재 가장 현실적인 해결 안은 제조업체나 자율 주행 시스템 공급자가 책임을 지는 방안이다.
그럼에도 불과하고 어떤 이슈가 생길 수 있는지 논의해보는 것은 앞으로 이 분야의 발전을 위해 의미가 있을 것이다.
1. 사회적 딜레마
가장 먼저 많은 기술 철학자들이나 윤리학자들이 제기하는 문제는 사회적 딜레마이다.[footnote]Philippa Foot, “The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices”, (Oxford: Basil Blackwell, 1978) (originally appeared in theOxford Review, Number 5, 1967.)[/footnote]
트롤리 딜레마
대표적인 것이 1967년 필리파 푸트가 제시한 트롤리 딜레마이다. 이는 국내에서도 마이클 센델의 ‘정의란 무엇인가’에 소개되어 일반인에게도 널리 알려진 나의 행동 개입이 두 그룹의 죽음을 결정할 수 있다면, 어떤 행동을 할 것인가 하는 문제이다.
희생자의 수가 많고 적음을 갖고 어떤 판단을 한다는 공리주의적 기준을 쉽게 생각하지만, 좀 더 복잡한 상황에서는 이에 대한 윤리적 판단이 쉽지 않다는 것이 이미 널리 알려진 일이다. 많은 미디어에서는 이런 문제로 외부 사람들의 목숨을 살리기 위해 탑승객의 희생이 불가피하다는 논거를 제시하고 이를 따르게 프로그램해야 한다는 주장도 나오고 있다.[footnote]The Guardian,”Will your driverless car be willing to kill you to save the lives of others?”, 2016.6[/footnote]
이런 로직과 프로그램을 어떻게 정해야 할 것인가? 단순히 제조사에서 어떤 기준을 갖고 프로그램을 해야 할 것인지 아니며 회사 내부의 윤리 위원회에서 결정해야 하는지, 또는 사람들의 전반적인 의견을 수렴하는 방식이 되어야 할 것인지는 아직 누구도 결정하지 못하고 있다.
이런 연구 방향 중 하나는 사람들이 다양한 상황에서 어떻게 판단하는 것이 좀 더 윤리적이고 사회적 합의를 이룰 수 있는 것인가를 파악하는 것이다.
[자율주행차의 사회적 딜레마](2016)
대표적 연구 중 하나는 2016년 6월 장 프랑수아 본느폰 등이 사이언스에 발표한 [자율주행차의 사회적 딜레마]라는 논문[footnote]Jean-François Bonnefon, Azim Shariff, Iyad Rahwan, “The social dilemma of autonomous vehicles”, Science, Vol. 352, Issue 6293, pp. 1573-1576, 2016.6[/footnote]에서 2천 명 정도의 사람들에게 6가지의 온라인 서베이를 통해 사람들의 판단 유형을 파악한 것이다.
한 질문에서 한 사람의 보행자와 10명의 보행자의 목숨을 놓고 어떤 선택을 할 것인가를 물어봤을 때, 76%의 사람은 10명의 보행자보다는 1명의 목숨을 선택하겠다고 했다. 그러나 만일 이런 공리주의 윤리 기준으로 프로그램된 자율주행차를 구입하겠는가를 물어볼 때는 50%가 동의하지 않았다.
‘도덕 기계’
MIT 미디어랩의 ‘도덕 기계(Moral Machine)’라는 사이트에서는 다양한 상황에 대해서 어떤 선택을 할 것인지를 투표하게 하고, 사람들이 원하는 질문을 구성해 올릴 수 있게 하면서 사회적 윤리 기준을 확인하는 작업을 실행하고 있다.
그렇다 하더라고 이런 판단에 참여하는 사람들이 특정 지역, 나이, 인종, 성별에 따른 편향성이나 왜곡 문제를 해결해야 하며, 어떤 시점에서 하나의 기준을 만들었다고 해도, 이런 사회적 합의는 시간과 지역에 따라 변화할 수 있다. 자율주행차는 어느 시대 어느 지역에서 운행되느냐에 따라서 계속 자신의 윤리적 판단을 수정해야 할 것인가?
2. 안전성과 보안
두 번째로 생각할 수 있는 사회적 문제는 안전성과 보안에 관련된 이슈이다. 제한된 기능인 테슬라의 오토파일럿에 의해 2016년 5월에 일어난 인명 사고는 우리가 이런 기술에 대해 아직 준비되어있지 못함을 여실히 보여준 것이다. 기술적 미비와 함께 사람들이 이런 기술을 어떻게 이용하고 있으며, 지나친 기술 맹종이 오히려 사람들에게 위험을 초래할 수 있다는 것을 명확하게 부각했다.
2016년 4월 미국 상원은 자율주행차 관련 업체에 대해 청문회를 진행했는데, 주제는 자율주행차가 사회에 어떤 이익을 가져오는가가 중점이었지만, 중요한 이슈 중 하나는 수집하는 데이터에 대한 프라이버시 침해와 보안의 문제였다.[footnote]Auto Blog, “Four takeaways from the Congressional hearings on self-driving cars”, 2016.3[/footnote] 자율주행차는 주변 환경에 대해 끊임없이 데이터를 수집하며, 수집된 데이터를 서버로 보내거나 다른 자동차와 커뮤니케이션할 수 있다. 이때, 어떤 데이터가 수집되며, 데이터의 포맷과 저장 방식, 기간 등에 대해 어떤 기준을 갖고 있는가를 확인하는 일이었다.
자율주행차 자체가 하나의 빅 데이터 수집 기기이기 때문에 이에 대한 프라이버시 보호 문제와 외부 해킹에 의한 보안 이슈는 앞으로도 계속 논의되어야 하는 주제이다. 특히 해킹으로 인한 안전성까지 문제될 수 있기 때문에 이 주제는 기존 자동차 업체들이 경험하지 못한 문제이고, 그 안전성을 어떤 기준으로 누가 책임 있게 대처할 것인 가는 또 다른 문제이다.
3. 사람들은 아직 준비가 안 됐다
세 번째의 사회적 이슈는 자율주행차와 사람과의 상호 작용에 대해 우리가 아직 준비가 덜 되어 있는 점이다. 지금까지 자율주행차가 주로 차량 자체의 기술과 안정성, 자체 판단에 의한 사회적 의미가 논의되었다면, 앞으로는 도로나 도시에 있는 사람들이 자율주행차에 대해 어떤 반응을 보이고, 이에 따라 차량 운행을 어떻게 해야 할 것인가 하는 상황 이해와 인터랙션에 대한 문제를 논해야 한다.
사람들이 자율주행차에 대해 편안함이나 호의적 태도, 안전한 대응을 하게 만들기 위해서는 여러 가지 디자인 요소가 검토되어야 한다. 구글이 귀여운 외관을 갖는 차를 디자인하는 이유가 여기에 있다.
도로에는 보행자, 조깅하는 사람, 자전거를 타는 사람들 다양한 유형의 사람이 있으며, 그 외 기존 차량의 존재와 행위 모두 자율주행차의 인공 지능 시스템이 이해해야 하는 대상들이다. 자율주행차는 필요 없더라도 외부 사람들을 위한 깜빡이, 브레이크 등, 비상등 역시 다시 고민해야 한다.
다가오는 자율주행차가 보행자에게 안전하게 운전하고 있다는 것을 어떻게 알릴 것인가? 횡단보도나 길을 건너는 사람이 자율주행차를 보고 건너도 될 것인가를 어떻게 판단할 것인지? 우리는 운전자와 눈을 맞추거나, 건너가라는 수신호를 보기도 하지만, 운전자가 없는 차는 우리가 어떻게 소통해야 할 것인가?
듀크 대학의 마이클 클레이만 등은 교통연구위원회 연례 회의에서 발표한 논문을 제출했는데, 여기에는 사람들이 쉽게 알아볼 수 있는 디스플레이 장착을 제안하고 있다. 보행자가 건너도 되거나, 아니면 건너지 마시오를 분명히 보이는 화면을 통해 보행자와 소통하는 방식이다. 또는 차량의 속도를 외부에서 알 수 있도록 표시하게 했다.
그러나 보행자 대부분은 이를 무시했고, 기존의 방식대로 눈으로 보고 판단해 행동했다고 한다. 디스플레이스 크기를 키워도 큰 차이는 없었다. 결국, 사람이 없는 자동차와 길 위의 사람이 어떻게 서로의 상황을 파악하면서 의사소통할 것인가는 아직 해결 방안을 찾아야 하는 문제이다. 많은 부분은 기술에 의해 안전성이 보장될 수 있지만, 사람의 행동은 예측 불가능하고 모호하기 때문이다.
자율주행차가 가진 사회적 이슈는 앞으로도 계속 등장할 것이다. 아직은 생각보다 기술 완성도가 부족한 점에 의해 나타날 것이고, 많은 경우는 미처 생각하지 못한 상황에서 벌어지는 일이 될 것이다. 문제는 이런 테스트가 도로에서 이루어져야 하지만, 사람의 목숨이 걸려있는 주행에서 함부로 테스트를 시도할 수는 없다는 점이다.
정책 당국은 앞으로 제한된 지역에서 지속적으로 자율주행차의 성능과 안전성을 확인하겠지만, 기술의 진보를 위해서 상황을 단순화하거나 과정을 생략할 수는 없다. 에어백 특허가 1951년에 나왔지만, 자동차에 제대로 장착하게 된 것은 20년 이상 지난 1970년대 초반이고 일반적으로 확대된 것이 1990년대라는 것을 생각해야 한다.
어떤 기술도 사회적 관념을 넘어서거나, 합의 없이 실행되면 안 되며, 기술에 대한 사람들의 대응과 행동 변화가 긍정적으로 이루어지지 않으면 사회적으로 수용되기 어렵기 때문이다.
[divide style=”2″]