지난주는 라스베이거스의 CES 등으로 많은 뉴스가 쏟아졌고 AI 주요 기업이나 정책에서는 다른 주에 비해 뉴스가 적었다. CES에서 엔비디아의 젠슨 황 CEO가 발표한 내용은 다른 미디어에서 이미 많은 보도를 했기 때문에 이번 글에선 생략했다.

1. MS 부회장이 말하는 ‘미국 AI의 황금 기회’


트럼프 2기 정부 출범이 초읽기에 들어가면서 미국의 빅테크들이 빠르게 새 정부에 호응하는 여러 정책을 내놓거나 기존 정책을 변경하고 있다. 마이크로소프트 역시 트럼프 정부에 기대한다는 취지의 글을 브래드 스미스 부회장을 통해 발표했다.

이 글에서 그는 AI는 우리 시대의 전기이며, 앞으로 4년이 다음 25년 동안 미국의 경제 성공을 위한 기반을 구축할 수 있다고 기대를 표명했다. 세 가지 비전 분야를 얘기했는데, 그 내용은 다음과 같다.

  1. 첫째, 세계를 선도하는 미국 AI 기술과 인프라에 대한 발전과 투자하고,
  2. 둘째, 광범위한 AI 채택과 경제 전반에 걸쳐 향상된 커리어 기회를 가능하게 하는 스킬 프로그램을 최고로 만들며,
  3. 셋째, 미국 AI를 동맹국과 우방들에 수출하고, 국내 경제를 강화하며, 다른 국가들이 AI 발전의 혜택을 받도록 하는 데 집중해야 한다고 주장했다. 특히 세 번째는 비슷한 시기에 나온 AI 수출 통제에 관한 바이든 정부의 마지막 정책에 부응하는 하는 것으로 볼 수 있다.

스미스 부회장은 2025 회계연도(6월에 끝남)에 AI 모델을 훈련하고 전 세계에 AI 및 클라우드 기반 애플리케이션을 배포하기 위해 AI 지원 데이터 센터를 구축하는 데 약 800억 달러를 투자할 예정이며 이 중 50% 이상은 미국에 투자할 것이라고 밝혔다.

브래드 스미스 (Brad Smith, 1959년생). 마이크로소프트 제공.

또한, 이런 전략의 성공은 광범위하고 경쟁적인 기술 생태계에 달려 있으며, 그 대부분은 오픈 소스 개발에 기반을 두고 있음을 강조했다. 미국의 기술혁신은 기초 연구에 대한 지속적 지원과 모든 규모의 회사에서 제품 개발에 대한 투자에 대한 지속적인 헌신에 의해 이루어졌음을 강조했다. 특히 세계적인 기초 연구는 기업뿐만 아니라 대학의 학자들이 추진하며, 종종 국가 과학 재단(NSF) 및 기타 연방 기관의 자금 지원을 기반으로 하며, 이익 동기보다는 호기심에 의해 주도되는 이 연구는 종종 예상치 못했지만, 심오한 발견으로 이어져 왔음을 언급했다.

더불어 바이든 정부가 AI 연구에 투자하고 연방 데이터와 컴퓨팅 리소스를 더욱 쉽게 접근하는 데 초점을 맞췄다면서 트럼프 정부와 의회에서도 이런 방향을 더욱 확대해 달라고 요구했다.

AI 능력 제고를 위한 스킬 증대 프로그램에 관해 마이크로소프트는 2025년에 250만 명의 미국 학생, 근로자, 지역 사회 구성원에게 새로운 일자리를 얻고, 새로운 경력을 추구하고, 새로운 사업을 구축할 수 있는 AI 기술을 교육할 것이라고 밝혔다. 커뮤니티 칼리지가 미국 노동력 공급에 중요한 역할을 하므로 ‘커뮤니티 칼리지를 위한 국가 AI 컨소시엄’과 함께 산업에 맞춰진 AI 커리큘럼을 제공하고 있으며, AI 부트캠프를 통해 교수진 교육을 제공함으로써 지역 노동력 수요를 맞추는 수요가 많은 기술을 학생들이 준비할 수 있게 한다고 한다. 또한, 교사를 위한 새로운 AI 교육 프로그램도 개발했다. 그리고 학생을 위한 프로그램, 젊은이들이 정밀 농업에 참가하는 것을 독려하는 프로그램도 실행하고 있다고 한다.

AI 수출 정책에서는 중국 정부가 특히 아프리카, 아시아, 라틴 아메리카와 같은 지역에서 기술 도입을 지원하기 위해 국제 보조금에 공적 자금을 지출할 것으로 예상해야 하지만 중국이 미국의 민간 부문 투자와 국제 자본 기금에 맞추는 것은 어려울 것으로 본다고 하면서, 미국 공공 정책 우선순위는 미국 민간 부문이 바람을 등에 업고 계속 발전할 수 있도록 하는 것이라고 주장했다. 미국은 신뢰할 수 있는 데이터 센터의 AI 구성 요소에 대한 강력한 보안 보호와 미국 기업이 빠르게 확장하고 미국의 동맹국이자 친구인 많은 국가에 안정적인 공급원을 제공할 수 있는 능력의 균형을 이루는 실용적인 수출 통제 정책이 필요하다고 말했다.

결론적으로 그가 향후 4년을 낙관하는 이유로, 견고한 AI 기반 기술, 강력한 교육 시스템, 미국 AI 기술이 국제적으로 기반이 되게 함으로써 중국과의 필수적인 경쟁에서 이길 수 있기 때문이다. 특히 수출 통제 정책에 대한 균형 잡히고 상식적인 접근 방식을 통해 미국은 글로벌 AI 채택에 중요한 외교 관계를 공고히 할 수 있음을 언급하면서 정부와 민간이 효과적으로 협력하자는 제안을 담고 있다. 그게 기술 협업을 기반으로 하는 팀워크라는 것이다.

2. 바이든의 첨단 AI 칩·모델 수출 3단계 통제 계획


조 바이든 행정부가 퇴임 전에 마지막 행정 명령으로 첨단 AI 칩 수출과 프론티어 모델을 일부 국가에서 사용하는 것을 제한할 것이라고 여러 매체가 보도했다. 특히 이번에는 수출 통제에 대한 국가를 세 단계로 분류해 적용할 것이라고 한다. 당연히 가장 제한적인 단계는 중국, 러시아 및 미국 수출 금수 조치의 적용을 받는 다른 국가를 겨냥한 것으로, AI 하드웨어 수출을 전면적으로 금지하려는 것이라고 한다.

가장 제한이 적은 단계는 미국과 독일, 일본, 네덜란드, 한국, 대만을 포함한 18개 동맹국에 있는 기업이 미국산 AI 칩을 제한 없이 수입하는 것을 허용하는 단계이다.

1단계 국가는 자국 국경 내에서는 원하는 만큼 GPU와 가속기를 배치할 수 있지만, 다른 곳에 배치하려면 미국의 허가가 필요하며, 1단계 국가 외부에 배치하는 것은 25%를 넘을 수 없고, 2단계 국가에 배치하는 것은 7%로 제한한다.

또한 미국 본사 기업은 소위 ‘보편적 검증된 최종 사용자(VEU)’ 지정을 신청하는 기업은 전체 컴퓨팅 파워의 최소 절반은 미국 영토에 유지해야 할 것이라고 하는데, 이는 미국과 동맹국이 항상 전 세계보다 더 많은 컴퓨팅 파워를 보유하도록 하기 위함이다.

두 번째 단계에서는 전 세계가 유지할 수 있는 컴퓨팅 파워의 양에 대한 수입 한도를 설정하여 미국을 AI 개발에 대한 글로벌 게이트키퍼로 자리매김하려고 한다. 이러한 제한에는 2025년부터 2027년까지 2년 동안 한 국가가 사용할 수 있는 컴퓨팅 성능에 대한 제한이 포함되는데, 이는 50,000개의 GPU에 해당한다. 미국의 국가 안보 및 인권 정책에 동의하는 2단계 국가는 더 높은 수입 상한을 부여받을 수 있다.

2단계 국가에는 폐쇄형 AI 모델의 가중치(웨이트) 수출에 대한 제한도 가해질 것으로 보이는데 이는 3단계 국가에서는 최첨단 모델을 호스팅하는 것 자체를 금지할 것이다. 2단계 국가는 해당 가중치를 호스팅하려면 보안 표준을 준수해야 한다. 아직 메타의 라마 3.1 405B 같은 오픈형 모델은 이런 규칙을 적용받지 않을 것이라고 한다.

이런 조치를 칩 개발 업체가 좋아하는 것은 아니지만 엔비디아가 중국을 위한 칩을 따로 개발했듯이 중국에 공급을 원하는 기업은 저성능 버전을 따로 만들어야 할 것이다. 이는 인텔, AMD, 세라브레스 같은 기업도 마찬가지다. 중국은 지난번에 소개한 딥시크같이 저성능 칩을 이용해서도 고성능 모델을 만드는데 더 역량을 모을 것이다. 그래서 엔비디아의 정부 업무 담당 부사장은 이런 정책이 미국 경제에 오히려 해를 끼치고 세계를 대체 기술로 밀어붙일 것이라는 비판 성명을 내기도 했다.

흥미로운 것은 트럼프 행정부가 바이든 정부가 마지막으로 내놓은 이 정책을 그래도 수용할 것인가 하는 점인데, 이는 어쩌면 트럼프의 손을 덜어주기 위한 바이든의 선제 조처일 수도 있다.

3단계 분류에 의한 첨단 AI 기술 수출 통제 계획. 출처 블룸버그.

3. 에이전트 실험실과 rStar-Math


지난주에 여러 타임라인에 제일 많이 올라온 논문 두 편이다. 하나는 네이버 클라우드의 하정우 센터장이 소개했고, 다른 하나는 세실 타무라의 포스팅에서 확인했다.

먼저 에이전트 실험실(Agent Laboratory)은 AMD와 존스 홉킨스의 공동 연구로 지난번에 사카나AI에서 만든 AI 과학자 에이전트와 같은 흐름이다. 연구 아이디어를 입력하면 에이전트가 관련 문헌 리뷰, 실험, 보고서 작성 3단계를 거쳐 논문을 만들어 낸다. 실험과 보고서 작성을 위해서는 다른 모듈이 각각 존재한다. 에이전트 브레인으로는 GPT-4o, o1-미니, o1-프리뷰를 사용했으며 외부 도구로는 아카이브, 허깅페이스, 파이썬, 레이테크(LaTeX) 등을 사용했다.

결과는 o1-프리뷰가 가장 좋았고(실험의 경우는 o1-미니가 더 좋은 결과를 보임), 생성 코드는 SOTA 수준이며, 사람이 중간에 개입하면 연구 결과 품질이 더 향상된다. 가장 흥미로운 면은 연구비를 크게 줄일 수 있는데 과거 연구 자동화 도구에 비해 84%의 연구비를 줄일 수 있다고 한다.

지속적으로 과학 연구의 자동화 어시스턴트로서의 AI의 가능성이 보이는 결과가 여러 곳에서 나온다는 얘기는 우리나라의 과학 연구에서 AI 활용을 위한 전략적 이니셔티브가 빨리 수립되어야 함을 느끼게 된다.

두 번째 논문은 마이크로소프트 연구소 아시아에 있는 연구자들의 논문으로 소규모 언어모델(SLM)이 o1과 같은 선도적 모델만큼 복잡한 수학 문제를 심층적으로 사고하고 효과적으로 해결할 수 있음을 보이는 rStar-Math을 소개했다. 더 뛰어난 모델에서 학습하는 것이 아니라 전략적 게임 계획과 유사한 방법을 사용하여 스스로 학습하도록 했다. 모델이 여러 가지 가능한 해결 경로를 탐색하고 내장된 보상 시스템을 통해 어떤 접근 방식이 가장 효과적인지 학습하는 문제 해결 기법인 몬테카를로 트리 검색(MCTS)을 사용했다.

또한 광범위한 솔루션 시뮬레이션을 실행해 데이터를 합성하고, 보상 시스템이 단순한 점수가 아니라 전체 프로세스를 평가하는 정교한 보상 시스템으로 고품질 솔루션을 더 잘 식별하게 했고, 수백만 개의 연습 솔루션을 통해 문제 해결 능력을 반복적으로 개선하면서 지속적으로 스스로를 개선하도록 했다.

결과는 그동안 작은 모델이 MATH 벤치마크에서 58% 수준의 정확도에서 90%로 올렸으며 미국 수학 올림피아드에서 톱 20%에 들어가는 성과를 보였다. 이 연구 역시 전략적 사고와 혁신적인 학습 기술을 이용하면 작은 언어 모델도 수학에서 좋은 성과를 보일 수 있음을 입증했다고 주장한다.

4. 사이버트럭 폭발 범인, 범죄 계획에 챗GPT 사용


미 경찰 당국이 지난 1일 라스베이거스 사이버트럭 폭발 범인이 챗GPT를 이용해 계획을 세웠다고 발표했다. 37세의 매튜 앨런 리벨스버거는 폭발물을 어떻게 조립해야 하는지, 트럭에서 발견된 폭발물이 그냥 불이 붙는 것이 아니라 폭발하려면 얼마나 빨리 발사해야 하는지, 그리고 재료를 구하기 위해 어떤 법률을 따라야 하는지에 대한 정보를 챗GPT로 얻었다고 한다.

이는 미국에서 AI가 위험한 장치를 만드는 데 도움을 준 첫 번째 사건이라는 것이 경찰 입장이다. 오픈AI의 대변인은 이 사건이 슬픈 일이고 AI 도구가 책임감 있게 사용되어야 하며, 자사의 모델은 유해한 지시를 거부하고 유해한 콘텐츠를 최소화하도록 설계했다는 입장을 밝혔다. 이미 인터넷에 공유된 정보를 제공했을 뿐이라는 것도.

국내에서 만든 AI 기본법에는 고려해야 하는 핵심이 영향력이 많은 AI인데, 이런 범죄 사용 가능성을 어떤 영향력으로 파악할지 궁금하다.

그 밖의 소식


  • 캐나다의 코히어(Cohere)가 기업을 위한 AI 워크스페이스 ‘노스(North)를 발표했다(코히어, 1월 9일). 이를 통해 마이크로소프트의 코파일럿, 구글의 버텍스 AI 에이전트 빌더와 경쟁하겠다는 이야기이다. 노스는 LLM, 검색, 자동화를 보안성이 높은 AI 워크벤치로 통합한 것이다. B2B 시장에 집중하겠다는 의지를 다시 보인 것이다.
  • 캘리포니아의 스콧 위너 의원이 SB 1047 폐기 이후 다시 ‘SB 53’이라는 법안을 제안하고 있다. “AI 프론티어 모델 개발을 위한 안전장치를 마련하는 법안을 제정하려는 입법부의 의도를 선언하는” 법안으로 개빈 뉴섬 주지사가 SB 1047을 폐기할 때 설립한 태스크포스를 인용하여 “AI 사용을 위한 주정부의 역량을 구축”하고 “주지사가 설립한 AI 프론티어 모델에 관한 캘리포니아 공동 정책 실무 그룹의 결과를 포함하되 이에 국한되지 않을 수 있다”고 밝히고 있다.
  • 앤스로픽이 600억 달러 기업 가치로 20억 달러 증자를 추진 중이라고 한다(월스트리트저널, 1월 7일). 일 년 전에는 180억 달러로 평가받았다.
  • 에릭 슈미트 전 구글 회장이 새로운 AI 영상과 소셜 미디어를 결합한 기업을 키우고 있다고 한다(실리콘 앵글, 1월 9일). 후글리(Hooglee) LLC라는 이 기업은 현재 슈미트의 가족 사무실(힐스파이어)에서 자금 지원과 육성을 하고 있다. 틱톡의 잠재적 대안이 될 수 있다고 생각한다는 후글리는 “AI와 비디오의 힘을 통해 사람들이 연결되는 방식을 바꾸는 사명감을 가지고 있으며, 사람들을 더 가깝게 만들고, 커뮤니케이션을 간소화하고, 참여를 강화하는 혁신적인 솔루션을 만들고 있다’고 한다. 뭔가 이런 결합으로 하나가 나올 때가 되었다.

관련 글