[AI in a Week by TechFrontier] 한 주일의 주요 AI 뉴스, 논문, 칼럼을 ‘테크프론티어’ 한상기 박사가 리뷰합니다. (⌚10분)
1. 우리는 수학에서 미지의 영역으로 들어가고 있다
필즈상을 받은 호주 출신 천재 수학자 테렌스 타오와 애틀란틱의 마테오 웡 기자가 줌으로 인터뷰한 내용이다. 오픈AI의 o1(‘오원’)이 나오고 국내 여러 지식인이 o1이 못하는 것을 찾아내는 놀이를 하는 반면, 전문 수학자는 o1이 제공할 새로운 기회에 주목한다.
테렌스 타오는 UCLA 교수이며 ‘수학의 모차르트’라고 불리는 천재다. 기자는 마스토돈을 사용하는 수학자 그룹인 마스토돈.xyz에 올린 o1에 관한 그의 포스팅을 보고 이 기술의 잠재성에 관한 타오 교수의 견해를 알고 싶었다고 한다.
테렌스 타오가 o1에 올린 프롬프트는 다음과 같다 (물론 나는 무슨 소리인지 모른다).
그는 같은 프롬프트를 GPT-4에도 사용했고 o1의 결과는 GPT-4보다 개선되었지만, 여전히 실망스럽다고 하면서도 다음과 같은 의견을 전했다:
“새 모델은 많은 힌트를 제공하면 올바른(그리고 잘 작성된) 해답을 찾을 수 있었지만, 스스로 핵심 개념 아이디어를 생성하지 못했고 사소한 실수도 몇 가지 범했습니다. 이 경험은 평범하지만, 완전히 무능하지는 않은 (정적인 시뮬레이션을 하는) 대학원생에게 조언을 해주는 것과 거의 비슷해 보였습니다.”
테렌스 타오. 2024.10.
타오 교수는 대학원생과 비교했는데, 다만 대학원생은 배울 수 있다는 점이 다르다. 즉, AI는 접근 방식이 효과가 없다고 말하면 즉각 사과하고 방향을 수정하지만, 때로는 이전에 시도했던 방식으로 다시 돌아간다. 더군다나 세션을 새로 시작하면 다시 원점으로 돌아간다. 사람은 실수하면 그것을 통해 배우고 그 학습은 지속적으로 유지된다는 점에서 AI와 다르다.
그럼에도 타오 교수는 적어도 가까운 미래에는 AI가 그 자체로 창의적인 협력자는 아니지만 수학자의 가설과 접근 방식을 위한 윤활유 역할을 하는, 이전에는 불가능했던 일종의 ‘산업 규모의 수학’이 가능할 수 있다는 견해를 피력했다. 미지의 영역을 열어줄 이 새로운 종류의 수학은 인간과 기계를 경쟁이 아닌 상호 보완적인 관계로 생각해야 할 매우 다른 강점을 품고 있다는 것이다.
AI는 아니지만 그동안 수학에서 증명을 위해 사용한 증명 도우미 같은 프로그램은 증명 과정을 쪼개서 수많은 사람이 나누어 증명해 나가는 산업 규모의 수학이 가능했다. 그런데 증명 도우미를 사용하려면 특별한 언어로 기술해야 하는데, 타오 교수의 제안은 AI를 이용해 일상적인 언어로 증명을 설명하고 이를 증명 시스템이 사용하는 언어로 전환하게 하자는 것이다. 이는 인터페이스이고 인간과 증명 시스템을 붙이는 접착제 역할을 할 수 있다.
이미 유전체 연구에서 유전자 염기 서열 분석기를 사용하는 방식과 유사한 것으로, 훨씬 더 큰 규모의 크라우드소싱을 통해 여러 가지 AI의 도움을 받아 많은 범위의 문제를 풀 수 있고, 이는 수학적 통찰력을 얻는 데 매우 상호보완적인 방법이 될 수 있다. 타오는 이렇게 말한다:
“저는 인간이 이미 잘하는 것을 복제하는 데 큰 관심이 없습니다. 비효율적으로 보이거든요. 최전선에서는 항상 인간과 AI가 필요하다고 생각합니다. 상호 보완적인 강점이 있기 때문입니다. AI는 수십억 개의 데이터를 하나의 정답으로 변환하는 데 매우 능숙합니다. 인간은 10개의 관찰을 통해 정말 영감 있는 추측을 하는 데 능숙합니다.”
테렌스 타오. 2024.10.
2. 오픈AI o1에 감탄한 과학자들
오픈AI o1(‘오원’)을 테스트해 본 과학자들이 챗봇을 과학에 사용하는 유용성에서 큰 진전을 이뤘다고 평가했다는 네이처 기사다. 하지만 좋은 소식만 있는 건 아니다. o1이 박사급 학자를 능가할 정도로 뛰어나지만, 이전 버전보다 더 환각을 보일 수 있다는 점도 네이처는 더불어 지적했다.
프리뷰 버전에 관한 레드팀에 있었던 막스 플랑크 연구소 AI 연구실 책임자인 마리오 크렌은 ‘양자 물리학에서 이전 모델보다 훨씬 더 상세하고 일관된 응답을 제공한다’고 했으며, 또 다른 레드팀 과학자들은 과학 실험을 위한 프로토콜을 마련하는 데 o1이 많은 도움이 되었다고 했다.
하지만 오픈AI도 밝힌 것처럼, “폭발 위험을 강조하지 않거나 부적절한 화학물질 격리 방법을 제안하는 등 유해한 단계와 관련된 안전 정보가 누락되어 고위험 물리적 안전 작업에 의존하기에는 모델이 부적합하다는 점을 지적”했다.
o1은 초보자보다는 전문가를 가이드하는데 더 적합한데, 문헌을 스캔하여 누락된 부분을 확인하고 향후 연구를 위한 흥미로운 방법을 제안함으로써 과학을 가속할 수 있다는 것이 크렌의 의견이다.
캘리포니아 베이 지역 환경 연구소의 데이터 과학자인 카일 카바사레스는 블랙홀의 질량을 계산하는 박사 학위 프로젝트 일부 코딩을 복제하는 데 o1을 사용했는데, 몇 달이 걸렸던 작업을 한 시간 만에 완료할 수 있었다고 말하며 “그저 경외감을 느꼈다”고 말했다.
매사추세츠주 보스턴 아동병원의 유전학자인 캐서린 브라운스타인은 현재 병원에서 희귀 질환의 환자 특성과 유전자 사이의 연결점을 찾는 것과 같은 애플리케이션을 위해 o1-프리뷰를 비롯한 여러 AI 시스템을 테스트하고 있다. 브라운스타인은 o1이 “더 정확하고 챗봇으로는 불가능하다고 생각했던 옵션을 제공한다”고 말한다. 앞서 수학자 얘기를 했지만, 이제 물리나 화학 분야의 과학자가 자신의 연구에 새로운 시각을 부여하거나 복잡한 코딩을 순식간에 끝낼 수 있으며, 연구 조수로 그 역할을 잘할 수 있는 AI를 가지게 된 것으로 보인다.
3. 미국 정부, 지속 가능한 반도체 물질 연구개발과 AI 기술 활용에 1억 달러 투자
미국 정부가 지속 가능한 반도체 물질과 공정을 개발하는 데 AI를 사용하기 위한 1억 달러 연구 자금을 공개경쟁 방식으로 지원하기로 했다. 이는 환경과 지역 커뮤니티를 보호하는 동시에 반도체 물질과 제품을 생산할 방안을 모색하는 것으로 산업계의 필요를 반영하면서 5년 안에 활용할 수 혁신기술 개발 촉진책이다.
이 프로젝트는 미국을 위한 칩스(CHIPS for America) 이니셔티브가 지원하고, 업계 정보에 기반한 대학 주도의 협업을 이끌어 내면서 AI와 함께 자율 실험(AE) 기술을 개발하는 걸 목표로 한다.
지나 러몬도(Gina Raimondo; 상무부 장관)은 다음과 같이 미국이 지속 가능한 혁신을 위해 반도체 재료와 공정 개발 의지를 밝힌 바 있다:
“현재 새로운 반도체 재료는 생산 준비에 수 년이 걸리고 자원 집약적인 경우가 많습니다. 기후 위기 위협이 증가하는 상황에서 장기적으로 지속 가능한 방식으로 미국의 반도체 제조 기반을 빠르게 구축하려면 AI를 활용해 지속 가능한 재료 공정을 신속하게 개발해야 합니다.”
지나 러몬도
AI/AE(인공지능 기반 자율 실험; artificial intelligence-powered autonomous experimentation)는 자동화된 합성·특성화 도구와 AI ‘플래너’를 결합해 다음 실험 단계를 결정함으로써 신재료의 설계와 재료 데이터 수집을 크게 향상하게 할 것으로 보인다. 여러 지역에 걸친 연합 연구를 가능하게 하는 AI/AE는 기존 연구 대학, 신생 연구 기관, 산업계, 국립 연구소 간에 협업할 기회를 창출할 수 있다는 것이 NIST 발표문의 전언이다.
또한 이 공모전은 신흥 연구기관을 포함한 대학과 그 졸업생의 반도체 연구 개발 생태계 확대를 목표로 미국이 반도체 기반 기술에서 리더십을 확보하려는 야심을 보여준다. 이번에 발표한 것은 의향서(NOI)로 전체 문서는 ‘여기'(링크)서 찾아볼 수 있다. 앞으로 연방 정부 승인을 받아 최대 5년 동안 1억 달러 지원하고, 최대 두 개의 대형팀을 선정할 계획이다.
4. 피치북 발표, 2024년 3분기 생성형 AI 시장 현황
시장과 투자 현황을 분석하는 피치북이 2024년 3분기 생성형 AI 시장 현황 보고서를 냈다. 보고서는 여기에서 다운로드 요청할 수 있다(다운 받으면 피치북 담당자로부터 메일이 자주 날아온다는 점은 이해하시길).
이 보고서는 2023년 4월 보고서에서 말했던 예측과 현재 보이는 실제 시장 상황을 비교하면서 주요 특징과 원인을 파악한다. 몇 가지 포인트를 정리하면 다음과 같다.
- AI 트랜스포메이션의 걸림돌로 항상 지적받는 것은 높은 컴퓨팅 비용, 데이터 가용성, 데이터 보안, 전반적인 시스템 복잡성 등이다. 파운데이션 모델 레벨에서 진전이 있었지만, 투자 자본은 밑 빠진 독에 물 붓기고 애플리케이션 스타트업은 펀딩 환경이 좋지 않으며, 상업적 가능성을 단기적으로 보여야 한다는 압박감에 시달린다.
- 생성형 AI(GenAI) 투자 건수는 2023년 877건 총금액 260억 달러였는데, 2024년 3분기 기준으로 508건 239억 달러 규모다.
- IDC 분석에 따르면 GenAI 소프트웨어는 전체 AI 소프트웨어 지출에서 14%(145억 달러)에 불과하고, 2028년에서야 32.3%로 커질 전망이다. 아직 대부분은 기존의 예측 기반 AI 기술이 큰 비중을 차지한다는 방증이다.
- 1년 전에는 AI가 암호 화폐나 블록체인 기술에 큰 영향을 줘서 스마트 계약, 감사, 코드 디버깅, 블록체인 데이터 처리, 고객 지원 영역을 발전시킬 것으로 생각했는데, 현실은 인제야 개발이 시작이고 배포도 느릿느릿 진행 중이다.
- GenAI 네이티브 데이터 분석, 비즈니스 인텔리전스는 2024년 21억 달러로 2023년에 비해 61.6% 성장했다.
- 엔터프라이즈 SaaS는 많은 부분이 실현됐고, 기업은 대화형 AI 시스템을 활발히 채택하고 있으며, ‘환각’도 빠르게 줄고 있다. 특히 감성 AI 소프트웨어의 발전이 빠르게 진행돼 이를 통한 기계와 인간 인터페이스 개발이 크게 발전할 것으로 많은 이들이 전망한다.
- 핀테크 스타트업이 빠르게 GenAI 제품을 만들고 배포하고 있지만, 기본 금융 기관이나 은행은 좀 더 조심스럽게 접근한다. 이 분야에선 전략적 M&A가 활발하게 일어나고 있는데, 인력 면에서도 CIBC는 내년에 200명 이상의 데이터와 AI 전문가 채용이 있을 예정이고, S&P 글로벌은 액센츄어와 협력해 35,000명 직원 전체에 GenAI 기술 훈련을 제공할 예정이다.
- 기존 이커머스 기업은 대화형 에이전트, 제품 목록 자동화, 사기 완화, 매장 내 상호작용 등에서 활용 중이고, 스타트업은 고객 지원, 대화형 커머스, AI 핵심 서비스에 초점을 맞추고 있다.
산업별 분석 (농업, 기후 기술, 방위 산업, 푸드테크, 모빌리티, 우주 기술, 공급망 기술)과 헬스케어 분야에 관해서도 세부적인 현황 분석이 있으니 관련 분야에 관심이 있는 분은 보고서를 참고하시기 바란다.
5. 개빈 뉴섬이 SB 1047 법안에 거부권을 행사한 이유
폴리티코, 10월 1일
예상대로 개빈 뉴섬(캘리포니아 주지사)이 SB 1047 AI 법안에 거부권을 행사했다. 그는 거부권을 행사하면서 이 법안의 의도는 좋지만, AI 시스템이 고위험 환경에 배포되거나 중요한 의사 결정이나 민감한 데이터 사용과 관련이 있는지를 고려하지 않았다고 말했다.
또한, 투입된 자금의 규모로 인해 규제 대상을 정하는 것의 문제점으로 “더 작고 특화된 모델이 SB 1047이 목표로 하는 모델과 동등하거나 더 위험한 모델로 등장할 수 있으며” 이 법안이 “공익을 위해 발전을 촉진하는 혁신을 위축할 가능성이 있다”고 지적했다.
이 법안은 지난번에 다루었듯이 많은 논쟁을 불러왔다. 폴리티코는 찬반에 나선 AI 전문가뿐만 아니라 법안을 발의한 위너 의원, 거부권을 행사한 뉴섬 주지사의 입장을 여러 각도에서 분석했다. AI 전문가들이 법안에 찬성하든 반대하든 정치인의 이런 배경을 이해하지 못하면 원하는 결과를 얻지 못할 수 있음을 잘 보여준 사례다.
일단 스콧 위너는 이번에 전국적인 주목을 얻었다. 그는 연방 하원에 진출해 펠로시 자리를 탐내는 사람이지만 펠로스가 이 법안에 적극 반대하고 나온 것은 펠로스의 딸이 샌프란시스코 하원의원 자리를 놓고 위너와 경쟁할 것이기 때문이다. 하원 과학위원회 최고위원인 민주당 조이 로프그렌도 뉴섬에 편지를 보내고 다른 의원들에게 반대를 촉구했는데, 그럼에도 스콧 위너는 이 법안 논쟁으로 워싱턴에서 할 논의를 캘리포니아로 가져오는 데 성공했다.
게리 뉴섬은 차차기 백악관을 노리는 사람이고, 두 번이나 연방하원의장을 역임했던 펠로시와 가까운 관계를 맺고 있다. 향후 캠페인에 실리콘 밸리의 주요 기업과 투자자들의 지원을 놓칠 수 없는 사람이다. 전설적인 엔젤 투자자 론 콘웨이에 저항할 정치인은 별로 없다. 게다가 지금 테크 분야는 뉴섬이 주지사 자리를 끌고 가는데 필요한 세금과 일자리를 보장해 주는 역할을 해야 한다. 뉴섬으로서는 캘리포니아 빅테크나 AI 기업을 위태롭게 만들 이유가 없기 때문이다. 게다가 테크 기업과 주요 투자자는 뉴섬과 가까운 인물이 있는 로비 기업을 고용하기도 했다.
거부권을 행사하던 기간에 뉴섬 주지사는 AI와 관련한 여러 법안에 사인했는데 여기에는 딥페이크를 단속하는 법도 포함돼 있다. 기업에 영향을 주지 않는 법에는 적극적인 면을 보여 대중의 지지는 계속 얻고자 한 것이다.
뉴섬은 앞으로 이 문제를 좀 더 깊이 있게 연구해 ‘상식적인 가드레일’을 만들 워킹 그룹을 구성한다고 했는데 이 그룹은 페이-페이 리 교수가 끌고 나갈 예정이다. 그러나 일부 비판자들은 페이-페이 리 교수도 자기 프로젝트(스탠퍼드HAI)를 이끌고 있는데 그런 역할을 하는 것이 적당하냐는 불만을 터뜨리고 있다
아무튼 이 법안과 관련한 논쟁은 기술적으로는 법안이 고려하는 대상을 단지 모델의 크기나 투자한 돈으로 정하는 것이 맞냐는 것부터 시작해서 위반의 경우 처벌의 수위와 규모, 실제 배포한 모델이 사용되는 환경, 제재와 혁신을 어떻게 균형 있게 할 것인가 하는 등의 의제를 논의 테이블에 올렸지만, 결국 정치인의 향후 행보와 야심에 이 법안이 어떤 역할을 할 수 있는지가 법안 통과에 매우 중요하다는 것을 다시 확인하게 했다.
6. 소식 두 개 더
AI 기술을 연극에 활용한다면
로버트 다우니 쥬니어가 나오는 연극 맥닐(McNeal)에 관한 소개가 여러 미디어에서 나왔다. 아야드 아크타르가 쓴 이 연극은 AI와 예술에 관한 사고 실험이라는 평이다.
‘예측 챗봇, 대규모 언어 모델, 생성 지능 등 컴퓨터가 매개하는 상호작용이 아날로그의 선조들과 맞붙는 ‘가까운 미래’를 배경으로 한 이야기’로 기술은 예술가에게 어떤 창의적 기회를 제공할 것인가를 묻는다. 연극의 대부분은 셰익스피어, 입센, 플로베르, 카프카 글로 학습한 AI에 자신이 쓴 소설의 일부를 집어넣어 다양한 작가의 글을 짜깁기 한 소설을 중심으로 펼쳐진다. 유튜브에 보이는 연극 소개를 보면 무대는 챗봇이 만들어 내는 글로 뒤덮인다. 뉴욕 가면 보고 싶은 연극이다.
액센츄어와 엔비디아가 AI 엔터프라이즈 시장을 선도하겠다는 의지
전 세계 30,000명의 전문가가 교육받는 새로운 액센츄어 엔비디아 비즈니스 그룹이 출범하여 고객이 AI 에이전트를 통해 프로세스를 혁신하고 엔터프라이즈 AI 채택을 확장할 수 있도록 지원한다고 발표했다.
기업이 엔비디어 AI 스택(엔비디아 AI 파운드리, AI 엔터프라이즈, 옴니버스)을 사용하여 맞춤형 에이전트 AI 여정을 빠르게 시작할 수 있도록 지원하는 액센츄어 AI 리파이너리(Refinery) 플랫폼과 유럽, 아시아 및 북미에서 57,000명의 액센츄어 AI 실무자에게 서비스를 제공하는 리파이너리 엔지니어링 허브 네트워크를 오픈해 엔비디아 AI로 대규모 운영, 에이전트 아키텍처 및 기반 모델 개발을 지원한다.
액센츄어는 이미 생성형 AI에서 30억 달러의 매출을 예정하고 있다.
새로운 액센츄어 엔비디아 비즈니스 그룹은 생성형 AI의 추진력을 가속화하고 고객이 생성형 AI 차세대 분야인 에이전트 AI 시스템을 확장하여 새로운 차원의 생산성과 성장을 도모할 수 있도록 지원할 것이라고 한다.