미국 인공지능 보고서의 주요 내용

미국 정부가 지난 2016년 10월 두 개의 보고서를 공개했다. 하나는 ‘인공지능 국가 연구 개발 전략 계획’[footnote]National Artificial Intelligence Research and Development[/footnote]이고 또 다른 하나는 ‘인공지능의 미래를 준비하기’[footnote]Preparing for the Future of Artificial Intelligence[/footnote]이라는 보고서이다. 전자는 국가과학기술위원회(이하 NSTC) 산하의 ‘네트워킹과 정보 기술 연구 개발 소위원회’가 발행한 것이고 후자는 대통령실 국가과학기술위원회 산하 기술위원회에서 작성한 것이다.

NSTC는 연방 정부의 과학 기술 투자에 대한 국가적 목표를 명확히 하는 것이 주 역할이며, 그 아래에 5개의 위원회가 있다. ‘환경, 천연자원, 지속성’, ‘국가 안보’, ‘과학 기술, 공학, 수학(STEM) 교육’, 그리고 ‘과학’과 ‘기술’ 위원회이며 각각 소위원회와 워킹 그룹이 있다.

네트워킹과 정보 기술 R&D(NITRD) 소위원회는 NSTC의 기술위원회 아래에 있으면서 미국의 네트워킹과 정보 기술을 위한 연방 정부의 니즈를 만족하게 하거나 이 산업에서 미국의 리더십을 지속하게 하기 위한 다양한 기관의 연구 개발 프로그램을 조정하는 역할을 한다.[footnote]우리는 ICT라고 부르는 산업 영역을 미국 연방 정부에서는 NIT라고 한다. 네트워킹, 컴퓨팅, 소프트웨어는 이 범주에서 다룬다.[/footnote] NITRD는 정보 산업 영역에서 다양한 법률안을 기초하고, 때로는 국가 R&D 계획의 방향을 설정하는 역할을 한다.

“인공지능 국가 연구 개발 전략 계획”

그동안 NSTC 산하에는 머신러닝과 인공지능 소위원회(MLAI)가 있었고 전략 계획을 만들기 위해서 인공지능 태스크포스를 구성해 다양한 연구 기관이나 정부 산하 조직을 모두 아우르는 워킹 그룹을 구성해 보고서를 만들었다.

이를 위해 2016년 5월 3일에 백악관 과학기술정책국(OSTP)에서는 인공지능의 도전과 기회를 명확히 하기 위한 공적 대화에 박차를 가하겠다는 선언을 했고, 이를 통해 인공지능을 이용해 더 효과적인 정부를 구현하고 인공지능의 잠재적 혜택과 위험에 대한 준비를 하겠다고 했다.

보고서는 인공지능의 과학 기술적 니즈를 확인하고, 이를 위한 R&D 투자 과정을 추적하고 효과를 극대화하기 위한 상위 수준의 프레임워크를 정의하기 위한 것이다. 동시에 연방정부가 투자하는 연구 개발의 우선순위를 정하고, 단기 전략을 넘어서 장기적으로 인공지능이 사회와 세상에 어떤 변화를 줄 것인가를 살펴보고자 했다.

태스크포스에 참여한 사람들의 조직을 보면 미국 국립과학재단(NSF), 미국 고등정보연구계획국(IARPA) 등의 연구 개발 지원 조직뿐만 아니라, 의료, 법무, 에너지, 우주 항공, 표준, 기술 정책, 국방, 안보와 보안의 전문가들이 모두 참여했다. OSTP는 네 번의 워크숍을 통해 논의를 활성화했으며, 인공지능의 미래에 대해 정부가 무엇을 준비해야 하는가에 대한 의견을 많은 기업과 연구 기관에서 입수하기 위한 RFI를 발행했다.

지난 6월에 요청한 RFI에서는 총 11개의 주제를 제시했는데, 2천 자 이내의 의견만을 취합하겠다고 했다. 가장 빨리 답을 한 곳은 IBM이었으며, 총 161개의 답변을 받았다. 답변은 대기업이나 전문 그룹뿐만 아니라 작가, 실업자, 트럭 운전사, 정치 평론가 등 다양한 시민들의 의견이 모였다.

RFI에 제시된 질문은 다음과 같다.

[box type=”info”]

인공지능의 법적, 거버넌스 함의
공공선을 위한 인공지능 사용
안전과 제어 이슈
사회적 경제적 함의
대부분의 과학 영역에서 인공지능 연구 중 가장 긴급하고 기초적 질문
인공지능을 발전시키고 공공에 혜택을 주기 위해 언급되어야 하는 가장 중요한 연구 격차
인공지능 기술의 잠재성을 활용하기 위해 필요한 과학 기술 훈련, 고등 교육에서 교수진을 확보하고 폭발적으로 증가하는 학생에 대응하기 위한 교육 기관의 도전 문제
다양한 분야의 인공지능 연구를 고취하기 위한 연방 정부, 연구 기관, 대학, 자선 기관 등이 취해야 하는 특정한 단계들
인공지능 개발과 응용을 가속할 할 수 있는 학습 데이터 세트
중저소득 노동자를 위한 훈련 가속과 같은 사회적 요구에 대응하기 위한 인공지능 응용 개발을 가속하기 위한 ‘시장 형성’의 역할

[/box]

이런 질문을 보면 우리나라의 정책이 주로 기술 개발이나 따라잡기에 초점을 맞추고 있는 것에 비해 미국의 시각은 더욱 광범위한 영역과 중장기적 시각을 보여주고 있고, 인공지능의 효과를 어떻게 사회적 이익으로 만들 수 있을지에 관해 큰 관심을 두고 있음을 알 수 있다.

전략 보고서는 모두 7개의 전략을 도출했는데, 기본적이면서도 명확한 방향을 제시하고 있다.

[box type=”info”]

인공지능 연구에 장기 투자를 한다.
인간과 인공지능 협력을 위한 효과적인 방법을 개발한다.
인공지능의 윤리적, 법적, 사회적 함의를 이해하고 이를 다룬다.
인공지능 시스템의 안전과 보안을 보장한다.
공유할 공공 데이터셋과 인공지능 학습과 검사를 위한 환경을 개발한다.
표준과 벤치마크를 통해 인공지능 기술의 측정하고 평가한다.
국가적으로 인공지능 R&D 인력 수요에 대해 더욱 잘 이해한다.

[/box]

이를 기반으로 두 개의 권고를 제시하는데, 이는 대통령실 정책 보고서의 특징이다.

[box type=”info”]

권고 1: 위 계획의 1-6까지 전략과 일치하는 인공지능 R&D 투자를 효과적으로 조정하고 과학 기술 기회를 확인하기 위한 인공지능 R&D 프레임워크를 개발하라
권고 2: 전략 7과 일치하는 인공지능 R&D 인력을 창출하고 유지하기 위한 국가적 전망에 대해 연구하라

[/box]

2015년 기준으로 미 정부가 인공지능에 관련된 기술에 투자한 금액은 11억 달러에 달한다. 이 전략은 앞으로도 미국이 인공지능 분야에서 리더십을 유지하기 위해 중장기 투자와 효과적 투자 조정, 협업, 우선순위 설정뿐만 아니라 사회적 이슈나 윤리, 법률적 문제에도 큰 관심을 두고 있음을 확인할 수 있다. 또한, 인력 개발과 교육, 수요 예측 등에 대해서는 따로 다루어야 할 정도의 의미가 있음을 알 수 있다.

“인공지능의 미래를 준비하기”

두 번째 보고서인 ‘인공지능의 미래를 준비하기’는 인공지능의 현재 상태, 기존과 향후 응용, 인공지능의 진보에 의한 사회과 공공 정책에 대한 질문 등을 담고 있다. 보고서 작성자는 2016년 5월에 구성한 NSTC의 머신러닝과 인공지능 소위원회(MLAI)이며, NSTC 기술위원회가 리뷰했다.

이 보고서에서 추구하는 방향 첫 번째는 인공지능과 머신러닝의 발전이 인간의 삶을 개선하는데 큰 공헌을 할 수 있을 것이라는 긍정적 시각으로, 어떻게 하면 정부 기관의 능력이 인공지능으로 하여금 공공선을 위한 미션을 더 빠르고, 대응적이며, 효율성을 갖게 할 것인가 하는 질문에 대한 대답이다.

두 번째는 인공지능 기능이 들어간 제품의 안전성과 규제에 대한 것으로, 인공지능 연계 제품의 공공 안전을 어떻게 평가할 것이고, 위험을 증가하거나 감소하는 문제, 기존 규제가 이런 위험에 대응하기에 적절한 것인지, 개발을 늦추거나 혜택을 수용할 것인지 정책 담당자들이 어떻게 하면 혁신의 장애를 없애면서도 공공 안전과 시장의 공정성을 유지할 것인가에 대한 질문이다.

세 번째 이슈는 숙련되고 다양성을 갖는 연구와 인력에 대한 것이다. 연구 개발에 대한 전략 계획은 다른 보고서로 나왔지만, 전 세계에서 이루어지는 연구 결과를 모니터링하고 이를 기반으로 미국의 정책에 변화가 필요한 것인지 살펴봐야 한다는 점을 강조한다. 인력 육성을 위해서는 인공지능 교육은 이미 ‘모든 사람을 위한 컴퓨터 사이언스’라는 오바마 대통령 이니셔티브의 한 부분이며 STEM 교육을 강조해야 한다는 의견이다.

네 번째는 인공지능의 경제적 영향으로, 인공지능이 전에는 자동화되지 않았던 영역까지 자동화할 것이고 이는 생산성을 증진하고 부를 창출할 것이지만 또한 직업 유형에도 여러 영향을 미칠 것이다. 특히 저 임금 노동자나 학력이 떨어지는 사람들에게 부정적 영향을 줄 것이고 공공 정책은 이런 부분에 대해 접근해야 한다. 특히, 공공 정책은 경제적 혜택이 넓게 공유될 수 있음을 보장해야 한다.

다섯 번째는 공정성, 안전, 거버넌스 이슈이다. 인공지능이 널리 채택됨에 따라 의도하지 않은 결과에 대해 우려가 있고, 이는 2014년에 발표한 빅 데이터 보고서나 빅 데이터와 프라이버시에서 제기한 우려와 궤를 같이하는 점이다. 인공지능과 실제 세계의 장치를 제어하게 되면서 안전에 대한 검토도 필요하다. 인공지능의 주요 도전 중 하나가 ‘닫힌 세계’에서 검증된 연구 결과가 외부의 ‘열린 세계’에 적용하게 되면 예측할 수 없는 일이 일어나기 때문이다. 과거 안전에 크리티컬한 시스템 개발자들의 경험을 통해 검증과 확인 방식이 인공지능 실행자들에게 학습될 수 있게 만드는 것이 필요하다. 윤리적 훈련 역시 필요하며 단지 윤리학을 가르치는 것이 아니라 기술 도구나 방식이 강화된 훈련 방안이 마련되어야 한다.

여섯 번째는 글로벌 고려와 안보 문제이다. 인공지능 정책이 국제간 관계와 안보에 전 방위적으로 영향을 줄 수 있기 때문이다. 최근 여러 국가와 다양한 기관들, 이해 당사자들이 인공지능의 혜택과 도전에 대해 논의하고 있다. 사이버 보안 문제, 무기 시스템에서의 사용, 자동화된 치명적인 무기에서 이런 잠재적 위험은 국제적 협의가 필요하며, 국제 인도주의 문제로 다루어야 한다. 인공지능은 경제 성장과 사회 진보의 주요 동력이고, 시민 사회, 정부, 공공 인력들이 함께 노력해 잠재적 위험을 파악하고 관리하도록 사려 깊은 주의가 필요하다. 중요한 이슈에 대해서 대화를 이끌고 공적 토의 의제를 정하는 것이 필요하다.

보고서 저자들은 인공지능 기술의 개발은 인공지능이 활용된 시스템에 대한 제어나 관리가 보장되도록 개발되어야 하며, 공개적이고 투명하며 이해 가능해야 한다고 주장한다.

보고서에는 각 이슈에 대한 자세한 설명과 사례 그리고 관련 정보를 매우 상세히 소개하고 있어서 앞으로 많은 국가의 인공지능 정책 개발에 매우 중요한 역할을 할 것이다.

‘인공지능 미래를 준비하기’ 보고서는 각 이슈를 다루면서 최종적으로 23개의 권고 사항을 정리하고 있다. 이를 간략히 소개하면 다음과 같다.

[box type=”info”]

인공지능과 머신러닝이 사회에 도움을 줄 수 있는 방향으로 어떻게 활용할 수 있을지 민간과 공공 기관은 책임을 갖고 검토하도록 고취되어야 한다.
연방 기구는 인공지능에서 오픈 학습 데이터와 오픈 데이터 표준에 우선 순위를 놓아야 한다.
연방 정부 주요 기관들이 인공지능 기술을 자신의 미션에 적용하기 위한 능력을 개선할 방안을 찾아야 한다.
NSTC MLAI 소위원회는 정부 전체에서 인공지능 실행자를 위한 실천 사례 중심의 커뮤니티를 구축해야 한다.
각 기관은 인공지능 가능 제품에 대한 규제 정책을 설정할 때 시니어 수준에서 적절한 기술 전문성에 의존해야 한다.
각 기관은 연방 정부 인력이 기술의 현재 상태에 대한 더 다양한 견해를 조성하기 위한 광범위한 개인 과제와 이를 교환할 모델을 찾아야 한다.
교통부는 산업계와 연구자들과 협력해서 안전, 연구, 또는 다른 목적을 위한 데이터 공유가 증가하는 방안을 찾아야 한다.
미국 정부는 첨단의 자동화된 항공 교통 관제 시스템의 개발과 구현에 투자해야 한다.
교통부는 완전 자율 주행차와 무인 비행 시스템 (UAS)이 교통 시스템과 안전한 통합이 가능하도록 규제를 지속해서 진화시켜야 하는데 이에는 새로운 디자인을 포함한다.
NSTC의 MLAI 소위원회는 인공지능의 발전을 모니터하고 정기적으로 상위 정부 리더에게 보고해야 한다. 특히 중요한 마일스톤에 대한 상태를 주목해야 한다.
정부는 다른 나라의 인공지능 수준, 특히 마일스톤에 대해 모니터링 해야 한다.
산업계는 정부에게 업계에서 곧 도달할 마일스톤의 가능성을 포함해 인공지능의 일반적 진보에 대해 업데이트해야 한다.
연방 정부는 기초적이며 장기적 인공지능 연구에 우선순위를 두어야 한다.
MLAI와 NITRD는 NSTC의 CoSTEM과 함께 인공지능 인력의 파이프라인에 대한 연구를 시작해야 하며, 이를 통해 인력의 규모, 질적 수준, 다양성에 대한 적정한 증가를 보장할 수 있는 액션을 개발해야 한다.
대통령실은 연말까지 후속 보고서를 발행해야 하며, 여기에는 인공지능과 자동화가 미국의 직업 시장에 대한 영향을 조사하고 정책 대응에 대한 아웃라인을 추천해야 한다.
의사 결정을 하거나 지원하는 인공지능 기반 시스템을 사용하는 연방 기구는 그 결과가 개인에게 효능과 공정성을 보장하도록 추가적인 점검이 필요하며 이는 증거에 기반을 둔 확인과 검증에 바탕을 두어야 한다.
연방 기구는 주 정부와 지방 정부가 사용하는 인공지능 시스템의 결과가, 각 개인에 대한 결정이 충분히 투명하고 효능과 공정성의 증거를 갖는다는 것을 보장하는 조건으로 연방 자금 지원이 이루어지도록 해야 한다.
학교와 대학은 윤리학, 보안, 프라이버시, 안전에 관련된 주제 등이 인공지능, 머신러닝, 컴퓨터 사이언스, 데이터 사이언스 커리큘럼에 통합되도록 해야 한다.
인공지능 전문가, 안전 전문가, 그리고 전문 학회는 인공지능 안전 공학의 영역이 지속해서 발전하고 성숙하도록 함께 노력해야 한다.
미국 정부는 인공지능과 관련된 국제적 참여와 관여에 대한 정부 수준의 전략을 개발해야 하며, 국제적 참여와 모니터링이 필요한 인공지능 주제 영역 리스트를 만들어야 한다.
미국 정부는 주요한 국제 이해 당사자(외국 정부, 국제기구, 산업계, 학계 등)와 협력을 깊게 가져가고 인공지능 R&D에서 정보 교환과 협력을 촉진하도록 한다.
정부 기관의 계획과 전략은 사이버보안에 대한 인공지능의 영향, 그리고 인공지능에 대한 사이버 보안에 대해 책임을 져야 한다.
미국 정부는 자동 또는 반자동 무기에 대해서, 국제 인도주의 법에 일치하는 하나의 정부 수준의 정책 개발을 완성해야 한다.