왜 AI는 예술 작품을 만들지 못하는가

1. 영국 AI 전략을 재편하려는 노동당, 이유는 비용 절감!

영국의 AI 전략은 우리에게 늘 중요한 참고가 되어 왔다. 2021년 9월 22일에 발표한 국가 AI 전략은 2022년 12월 18일에 수정했고 그 내용은 웹사이트를 통해서 공개했다. 또한 2023년 11월에 개최한 블레츨리 AI 안전 정상회의를 통해 AI 안전 분야에서는 세계를 리드하는 국가가 되고자 하는 의지를 표명했다.

그러나 지난 총선에서 승리한 노동당은 보수당의 AI 전략을 재검토하면서 몇 가지 수정을 하려고 한다. 로이터 기사를 요약해 보면 다음과 같다.  

• 일단 산업에 관한 직접 투자보다는 공공 부문에 AI 도입을 확대하는 것을 우선으로 한다. 이를 위해 과학혁신기술부(DSIT)는 경제학자들을 대상으로 AI의 광범위한 보급이 영국에 미칠 영향을 모델링하기 위한 지원서를 받기 시작했다.
• 이미 보수당 정부가 에든버러 대학의 슈퍼컴퓨터 개발을 위한 8억 파운드 투자를 비롯해 관련 기술에 관한 13억 파운드 투자를 폐기한다고 한다. 관련 전문가들은 13억 파운드도 적은 돈이고 프랑스가 얼마 전 25억 유로를 투자하겠다고 한 것에 비해서도 적은 금액인데 이마저 폐기하면 영국이 혁신 지원에 관심이 적어졌다는 신호가 된다고 비판한다. 
• 과학혁신기술부(DSIT)에 따르면 영국이 미국 샌프란시스코에 오픈할 예정이었던 AI 안전 연구소 SF 사무소 개소를 취소하려고 한다고 한다. 이는 이 지역에서 전문 인력을 채용하려면 한 사람당 최소 10만 달러가 필요하기 때문이다. 문제는 이 사무소가 미국의 AI 안전 연구소와 실리콘 밸리의 AI 기업 간의 협업을 위한 중요한 교두보가 될 것이라는 전망이었으나, 이렇게 되면 미국과 영국 사이의 AI 안전 문제 협력에 약간 흔들림이 생길 수 있다.
• 7월에 피터 카일 DSIT 장관은 AI 안전연구소 공동 설립자 중 한 명인 니타르샨 라즈쿠마르를 수석 정책 고문직에서 해임했다. 그 대신 AI 안전 정상회의 조직을 맡았던 매트 클리포드를 영입해 9월에 발표할 가을 연두교시를 위한 새로운 전략을 수립하고자 한다. 지난주 다우닝 스트리트에서 열린 미공개 회의에서 클리퍼드는 인덱스 벤처스, 라이트스피드 벤처 파트너스, 세쿼이아 캐피탈 등 세계 최대 벤처 캐피탈 회사 대표 10여 명을 초청해 정부의 AI 전략에 대해 논의했다. 이 회의에서도 정부가 공공 서비스를 개선하기 위해 AI를 어떻게 도입할 수 있는지에 초점을 맞췄다고 한다.

기본적으로 노동당은 현재 220억 파운드에 달하는 공공 재정 적자를 메우기 위해 전반적으로 비용을 절감하고자 하며 AI 산업을 직접적으로 지원하는 것보다는 공공 섹터에서 이를 이용해 일반 시민에게 더 많은 가치를 줄 수 있는 방안을 찾고 있다고 볼 수 있다. 좀 더 자세한 전략 방향은 다음 AI 전략이 발표될 때까지 기다려 봐야 할 것 같다.

2. AI가 예술을 만들지 못하는 이유

작가 테드 창이 뉴요커에 기고한 이 글을 읽기 위해 어쩔 수 없이 뉴요커 디지털 버전 일 년 구독권을 결제했다(첫해는 49.99달러). 개리 마커스(뉴욕대, 인지심리학)는 AI와 예술에 대한 환상적인 에세이라고 촌평했다. 테드 창은 지난 서울 방문에서도 멋진 토크를 해줬는데 그가 AI에 갖고 있는 입장은 늘 비판적이다. 

테드 창은 예술은 정의하기 어렵고 좋은 예술과 나쁜 예술의 차이도 그렇지만 중요한 것은 수많은 선택의 결과물이라고 얘기할 수 있다고 말한다. 하지만 AI는 인터넷에서 찾은 텍스트와 그림을 차용하며 모방하든 평균을 구하든 흥미로운 예술을 만들어 내지 못한다. 예술가는 디지털로 하든 물감으로 하든, 창작 과정에서 수백 단어의 프롬프트에 들어갈 수 있는 것보다 훨씬 더 많은 결정을 암묵적으로 내린다. 이는 사진에서도 마찬가지이다.

생성형 AI는 아티스트가 원하는 수많은 선택을 담아내는 방식으로 작동하게 만들어지지 않았다. 그 이유는 처음부터 AI는 소설을 쓰는 사람이나 그림을 그리는 아주 특별한 사람을 위한 것이 아니라 일반인이 손쉽게 사용할 수 있는 도구로 개발되었기 때문이다. 그리고 실제로도 AI는 사람들이 투입한 것보다 훨씬 더 많은 것을 생성한다. 즉, 생산성이 높다. 이런 점을 생각하면 선택이 중요한 아티스트에게 AI는 (역설적으로) 효과적인 도구가 될 수 없다.

“예술에는 모든 규모의 선택이 필요하며, 구현 과정에서 이루어지는 무수한 소규모 선택이 구상 단계에서 이루어지는 몇 가지 대규모 선택만큼이나 최종 결과물에 중요하다는 것을 말하고 싶습니다. 예술을 창작할 때 ‘대규모’와 ‘중요’를 동일시하는 것은 실수이며, 대규모와 소규모의 상호 관계에 예술성이 있습니다.”

테드 창, 뉴요커 2024.08.31.

또한 그는 영감이나 노력이 최종 결과물이 읽을 가치가 있다는 것을 보장하지는 않지만 노력 없이는 가치 있는 작업이 불가능하다는 걸 강조한다. 구글이 파리 올림픽 동안 제미나이로 올림픽 선수에게 보낼 팬레터를 쓰는 광고를 내세웠다가 사람들 반발로 내린 것은 팬레터의 진정한 의미는 유창함이 아니라 진심에서 비롯한다는 점을 사람들이 알기 때문이다.

많은 사람이 AI는 사람들이 읽은 책을 통해서 학습하는 것처럼 텍스트를 통해서 학습한다고 하지만, AI는 작가도 아니고 언어 사용자도 아니며 의사소통하려는 의도가 없다. 챗GPT는 아무것도 느끼지 않고 아무 것도 원하지 않으며 이러한 의도가 없기 때문에 실제로는 언어를 사용하지 않는다는 것이 테드 창의 주장이다. 

“언어학자 에밀리 M. 벤더가 지적했듯이, 교사가 학생들에게 에세이를 쓰라고 요구하는 것은 세상에 더 많은 학생 에세이가 필요하기 때문이 아닙니다. 에세이 쓰기의 요점은 학생의 비판적 사고력을 강화하는 것입니다.”

테드 창, 뉴요커 2024.08.31.

이 에세이에서 그는 몇 번의 시도로 이루어지는 지능의 수준, 그리고 AI가 오히려 인간에 대한 기대치를 낮추기 때문에 얼마나 비인간적인 기술인지, 아무리 간단한 표현이라도 진심이 담겨 있을 때 의미가 있음을 강조한다. 

예술은 인류 역사상 모든 예술 작품과 달라야만 가치가 있는 것이 아니라, 작품을 말하는 사람, 그 사람의 독특한 경험에서 비롯되고 작품을 보는 사람의 삶의 특정 순간에 도달한다는 사실이 작품을 새롭게 만드는 것이다. 

3. 미국 AI 안전연구소, 앤스로픽 및 오픈AI와 AI 안전 연구, 테스트 및 평가 협약 체결

미국 AI 안전 연구소는 미국국립표준기술연구소(NIST)에 의해 만들어진 기관이다. 이 뉴스는 이제 프론티어 모델을 만드는 기업들이 신규 모델을 출시하기 전에 기능∙안전 위험 평가 방법과 위험 완화 방법을 공동 연구하고, 이를 위해 정부와의 협력을 실질적으로 추진한다는 소식을 전한다. 지금까지 이런 활동은 기업 자체에 의해서만 이루어졌지만, 지난 바이든 행정 명령 14110에 따라 AI 안전과 위험을 사전 검토하며 이런 프로세스가 체계화될 것이라는 얘기이다.

나아가 미국 AI 안전 연구소(USAISI)는 영국의 AI 안전 연구소(AISI)와 협력을 할 것이고 두 회사의 신규 모델에 대한 피드백을 영국 AISI에 제공할 것이다. 우리가 자체 AISI를 빨리 만들지 않거나 미국과 영국의 AISI와 협력 체계를 구축하지 않으면 우리는 향후 프런티어 모델이 국내에 어떤 안전 문제를 일으킬 것인지에 관해 사전 검토할 수 기회를 얻지 못할 것이다. 

앞으로 이 테스트와 평가 결과가 얼마나 공개될 것이고 프로세스가 체계화하면 국내 AI 향후 모델에도 적용할 것인지 그리고 이것이 다른 나라의 AISI와 어떻게 연계할 것인지 관심을 두고 살펴봐야 한다. 

4. 아마존이 알렉사 새 버전에 앤스로픽 AI를 사용한다

이제 ‘알렉사’ 대신 ‘클로드’하고 불러야 할까? 아마존이 10월에 새로 내놓을 알렉사 음성 비서에 앤스로픽의 클로드 모델을 사용할 예정이라고 한다. 로이터가 관련자 5명을 통해 입수한 정보에 따르면, 무료는 여전히 자체 기술을 사용하지만 월 5~10달러를 지불하는 ‘놀라운’ 버전은 앤스로픽의 클로드를 사용할 예정이라고 한다.

아마존 대변인은 고객에게 최고의 경험을 제공하기 위해 아마존 모델인 타이탄이나 향후 모델, 파트너사의 모델을 다양하게 사용할 예정이라고 말했다. 2023년 9월 알렉사에 생성형AI를 접목한 버전에 대한 첫 데모 영상을 보면서 맘을 졸였던 기억이 난다. 아마존 알렉사 팀은 여전히 느린 반응이나 생성 대답의 품질을 만족스럽게 개선하지 못했나 보다. 

알렉사가 100억 달러 넘는 적자를 내 왔기 때문에 이번에는 유료 버전을 내놓나 본데 스마트 스피커에서 보다 유창한 대답을 듣기 위해 한 달에 10달러 정도를 낼 사람들이 얼마나 될지 궁금하다. 이미 GPT-4o나 클로드에 매달 20달러를 지불하는 사람들이 아마존에도 낼까? 스마트 폰에서 음성 모드를 사용할 수 있는데 아마존 알렉사는 얼마나 다른 기능을 보여줄 것인지 궁금하다. 

5. 애플과 엔비디아, 오픈AI에 추가 투자 논의 중

대다수 프론티어 모델 개발 회사는 앞으로도 상당한 기간 동안 지속적인 투자를 필요로 한다. 오픈AI가 일 년 기준 매출이 34억 달러에 이르렀지만 회사는 아직 수익을 내지 못한다. 이번 신규 투자는 1,000억 달러 수준의 회사 가치를 기준으로 투자 협상 중이라고 하는 데 투자는 쓰라이브 캐피탈(Thrive Capital)이 주도하고 있다. 쓰라이브 캐피탈은 이번에 10억 달러를 넣을 예정이고, 마이크로소프트 역시 참여할 것이라고 한다.

1천억 달러 가치 평가는 8개월 전에 비해 200억 달러가 늘어난 평가이다. 2019년 이후 지금까지 오픈AI에 투자한 금액은 130억 달러 정도이다. 엔비디아가 투자할 것이라는 얘기는 블룸버그가, 애플이 논의 중이라는 얘기는 월스트리트저널이 보도했다. 

애플이 투자한다면 애플이 GPT뿐 아니라 구글의 제미나이, 앤스로픽의 클로드, 퍼플렉시티 등 다양한 모델을 파트너로 할 것이라고 했던 지난 6월 개발자 컨퍼런스에서 했던 입장이 바뀔 수 있다는 얘기가 된다. 엔비디아는 투자한 돈을 자기네 GPU 사는 데 쓸 것이기 때문에 여유로운 입장일 것이고. 

쓰라이브 캐피탈은 조슈아 쿠슈너가 2010년에 설립한 투자회사이고 이방카 트럼프와 결혼한 자레드 쿠슈너와 형제간이다. 쓰라이브 캐피탈은 그 동안 오픈AI 직원들이 갖고 있던 주식을 매각할 수 있게 해 왔고 직원들이 모두 부자가 될 수 있게 도와줬다. 그게 샘 알트만이 직원들로부터 전격 지지를 받은 이유 가운데 중요한 점이라고 생각한다.

그 밖의 단신

• 8월 19일에 전달한 캘리포니아 SB 1047 AI 법은 예상대로 통과했다. 5월에 상원에서 32대 1로 통과했는데 8월 28일 하원에서 찬성 48대 반대 16으로 통과했다. 이제 개빈 뉴섬 캘리포니아 주지사가 서명하면 법안이 확정된다. 각종 미디어에서는 아직도 이 법의 영향에 관해 논의 중이다. 복스(VOX)가 결과에 따른 후속 기사를 냈다. 디 인포메이션도 이 법안의 의미를 해설하는 기사를 올렸다.
  
• 호주 정부가 정부 내 책임 있는 AI 활용에 관한 정책 보고서를 발간했다. 90일 이내 AI 책임자를 지정해야 하고 6개월 이내에 AI 접근방식에 대한 공개 성명을 발표해야 하며, 공공기관 직원에 대한 AI교육 실시, 그리고 각 공공기관의 AI 사용 현황 파악 및 관리 목록∙도구 개발을 권장하고 있다.
  
• 챗GPT 사용자가 작년(2023) 11월에 비해 두 배로 늘었다고 한다. 이제 일주일 사용자가 2억 명이 넘는다고 한다. 또한, 포춘 500대 기업의 92%가 자사 제품에 사용하며 자동화 API 사용도 두 배로 늘었다고 한다. 악시오스가 보도했다.