21세기 주권: 소버린 AI를 위한 다양한 노력

지난주 주요 뉴스에는 소버린 AI를 위한 여러 나라의 노력이 눈에 띄었다. 스위스의 자체 모델 발표, ASML(네덜란드 반도체 제조 기업)이 미스트랄에 대규모로 투자해 유럽 AI 경쟁력을 지키려는 시도, UAE의 새로운 모델 발표, 모로코도 책임감 있는 자체 모델 개발 등에 관한 보도가 있었다. 그 반면에 영국은 아무래도 이번 주 트럼프 국빈 방문에서 엔비디아와 오픈AI를 끌어안을 것 같다는 전망이 나온다.

미국 의회에서는 ‘GAIN법’이라는 강력한 중국 견제 목적 법안이 국방수권법에 포함되는 것에 대해 엔비디아 등 칩 업계가 치열한 반대 로비하고 있다는 보도가 있었다. 흥미로운 것은 엔비디아 등이 중국에 대한 견제를 소위 효과적 이타주의자나 파멸론자의 과도한 논리라고 비판하며 법률 제안 배경에 철학적 입장을 씌워 이 법안을 철회하려는 로비력이다.

마지막으로는 뉴요커의 스태프 작가가 쓴 ‘AI 남자 친구와 놀기‘라는 글을 소개했는데, 흥미롭기도 하고 앞으로 만날 세상에 관해 한 번 더 생각하게 만드는 글이다. 물론 작가는 아직 자기가 완전히 빠질만한 AI 남자 친구나 여자 친구를 만나지는 못했다는 것인데, 이런 서비스를 하는 다양한 서비스가 어떤지 알 수 있는 글이다.

1. 스위스, 소버린 AI 모델 공개

• 공식 사이트
• 스위스인포 기사

스위스가 소버린 AI 모델을 공개했다. 개발에 참여한 스위스 연방 공과대학 로잔 EPFL의 머신 러닝 교수인 마틴 재기는 “신뢰할 수 있고, 자주적이며, 포용적인 AI 모델을 개발하는 방법에 대한 청사진을 제공하는 것이 우리의 목표”라고 말했다. 완전한 국가적 이니셔티브로(새로운 ‘AI 민족주의’ 트렌드에 따름), 스위스 로잔 연방 기술 연구소, 스위스 연방 공과대학(ETH 취리히) 및 스위스 국립 슈퍼컴퓨팅 센터의 협력으로 개발했다.

라틴어로 ‘열려 있다’라는 의미의 아페르투스(Apertus)는 이런 점에서 모든 세부 사항, 설계 설명서, 레시피 공식이 대중의 검토를 위해 공개될 것을 약속했다. 아페르투스는 80억 및 700억 매개변수의 두 가지 크기로 제공하는데(인스트럭트 모델까지 구분하면 4가지 버전이다.), 둘 다 교육, 연구 및 상업적 응용 프로그램에서 사용할 수 있는 허용적인 오픈 소스 라이선스에 따라 출시했다.

눈에 띄는 특징 중 하나가 다국어 사용인데, 스위스 독일어, 로만슈어 등을 포함하여 1,000+ 언어(데이터의 40%는 비영어)에 걸쳐 15조 개의 토큰으로 학습했다고 한다. 또한, 투명성을 위한 조치로 연구팀은 학습에 대한 문서와 소스 코드를 게시하고 사용된 데이터 세트, 모델 가중치(중간 체크포인트 포함)를 공개했다. 저작권 및 데이터 보호법 준수를 위해서는 학습 말뭉치는 공개적으로 사용할 수 있는 데이터로 구축되었으며, 웹사이트의 기계가 읽을 수 있는 옵트아웃 요청(소급하더라도)을 존중하고 학습이 시작되기 전에 개인 데이터(및 기타 원치 않는 콘텐츠)를 제거하도록 필터링할 수 있다고 한다.

스위스인포 기사에서는 아페르투스를 기반으로 구축된 애플리케이션의 규모와 성공은 궁극적으로 스위스 LLM의 진정한 가치를 드러낼 것이며, 과학자들은 이미 건강, 교육, 기후 분야의 프로젝트를 모색하고 있다고 한다. 그럼에도 불구하고 과연 스위스 기업이 이 모델을 사용할 것인가에 대해서는 일부 스위스 은행은 이미 오픈AI와 마이크로소프트와 협력하고 있으며 (UBS의 경우), 아페르투스가 생성하는 응답의 속도, 정확성, 그리고 심도 있는 결과를 다른 LLM과 비교하여 평가할 것이라는 전망을 내놓았다.

유럽 데이터 규정을 준수하도록 설계되어 있어서 더 나은 서비스를 제공할 것이라는 기대를 갖지만 스위스 산업계도 이런 장점 때문에 이 모델을 선택할 것이라는 보장을 할 수는 없다는 것이 스위스 기술 전문가들의 생각이다.

2. UAE의 새로운 오픈소스 모델 K2 씽크

UAE의 새로운 연구소인 파운데이션 모델 연구소(IFM: Institute of Foundation Models)이 자체 개발한 오픈소스 모델 K2 씽크를 공개했다. 표준 벤치마크 결과 오픈AI와 중국 딥시크의 주요 오픈소스 기술과 동등한 성능을 보였다고 한다. 그러나 이 모델은 수학, 컴퓨터 코딩, 과학 연구와 같은 분야를 위한 것이지 ChatGPT 같은 범용 챗봇을 의도한 것은 아니라고 한다(문샷에서 발표한 Kimi K2와 혼동하지 말아야 한다).

논문에 따르면, K2-씽크는 리즈닝에 튜닝되지 않은 Qwen2.5-32B 모델을 기반으로 장기적 사고 연쇄 감독 미세 조정(SFT) 및 검증 가능한 보상 강화 학습(RLVR)과 같은 고급 학습 기술과, 추론 전 계획(Plan-Before-You-Think), 테스트 시간 스케일링(Best-of-N 샘플링), 추측 디코딩, 그리고 추론 최적화 하드웨어(Cerebras Wafer-Scale Engine)와 같은 추론 시간 개선 사항을 통합했다. 특히 수학적 추론에서 뛰어난 성능을 보이며, 코드 및 과학 분야에서도 강점을 유지하고 있다. 

매개변수는 320억 개이며 세계에서 가장 빠른 오픈소스 AI 모델로, 사용자 요청당 초당 2,000개의 토큰을 생성할 수 있다 . 이는 일반적인 GPU 배포 처리량의 10배 이상이다. 아티피셜 애널리시스(Artificial Analysis)에 따르면, 미국 내 주요 모델 중 구글 제미나이 2.5 플래시가 초당 258개의 토큰을 처리하며 선두를 달리고 있는데, 2,000개 토큰은 엄청 빠른 속도를 자랑하는 것이다. 이 것은 세레브라스의 웨이퍼 스케일 엔진 (WSE)을 사용했기 때문이라는 것이 개발진의 이야기이며 이를 통해 최대 32,000개 토큰에 달하는 긴 응답을 단 16초 만에 처리할 수 있다고 한다. 

IFM은 6년 전에 세운 무함마드 빈 자이드 AI 대학교(MBZUAI)에서 지난 3월에 설립한 연구소이며 중국계 미국인 에릭 싱 카네기멜론 대학교 컴퓨터 사이언스 학과 교수가 이끌고 있다. MBZ AI 대학교는 UAE의 국가 AI 전략인 ‘AI 2031’ 전략의 일환으로 세운 대학이다. 이번 연구는 MBZUAI와 G42 AI의 협업으로 이루어졌다. 

싱 박사는 인터뷰를 통해 이 모델이 2천 개의 칩을 사용해서 개발한 것으로 엄청난 양의 컴퓨터 하드웨어에 접근하지 않고도 강력한 기술을 구축할 수 있음을 보여주는 것을 목표로 하고 있다고 한다. 

이 모델은 아파치 2.0 라이센스로 공개했기 때문에 상업적 애플리케이션, 연구 및 최종 사용자가 원하는 모든 것(실질적으로)에서 광범위하게 사용할 수 있도록 허용한다. “공개” 라벨을 달고 있지만 부분적인 접근만 제공하는 많은 모델과 달리, K2 씽크에는 학습 데이터, 모델 가중치, 미세 조정 코드, 추론 도구 및 배포 인프라가 포함되어 있다. k2think.ai 및 Hugging Face 를 통해 다운로드하여 사용할 수 있으며, 공개 API도 제공할 예정이다.

3. ASML, ‘미스트랄 AI’에 15억 달러 투자해 최대주주로

• ASML 공식 발표, 9월 9일
• 와우테일 정리 기사

로이터에 따르면 네덜란드의 칩 장비 제조업체 ASML이 프랑스의 인공지능 스타트업 미스트랄 AI에 13억 유로(15억 달러)를 투자해 최대 투자자가 되면서 유럽의 AI 야망을 크게 강화했다고 전한다. 

미스트랄 AI는 이번 자금 조달 라운드에서 총 17억 유로(20억 달러)를 조달했다고 밝혔으며, ASML은 이번 투자로 미스트랄 AI의 약 11%의 지분을 보유하며 최대 주주가 되었다. 이번 투자에는 기존 투자사인 DST 글로벌, 안드리센 호로위츠, 프랑스정부투자은행 비피프랑스(Bpifrance), 제너럴 카탈리스트, 인덱스 벤처스, 라이트스피드, 엔비디아 등도 참여했다. ASML의 재무 책임자 로저 다센이 미스트랄의 이사회 의석을 차지할 예정이다. 

미스트랄은 2024년 6월에 6억 유로를 투자받으며 58억 유로의 기업가치를 인정받았는데, 이번 투자로 기업 가치가 두 배 이상 뛰었다. 회사는 조달한 자금으로 인재 채용과 인프라 확장, 새로운 데이터센터 구축 등에 나설 예정이다.

이번 미스트랄 투자는 하드웨어 중심의 ASML이 미스트랄의 AI 기술을 자사의 반도체 장비 포트폴리오에 통합해 예측 유지보수, 공급망 관리 최적화 등 AI 기반 효율성을 구현할 계획으로 이루어졌다. ASML 사장 겸 CEO인 크리스토프 푸케(Christophe Fouquet)는 “미스트랄 AI와 ASML의 협력은 AI를 기반으로 한 혁신적인 제품과 솔루션을 통해 ASML 고객에게 확실한 이점을 제공하는 것을 목표로 하며, 향후 기회에 대응하기 위한 공동 연구의 잠재력을 제공할 것입니다”라고 말했다. 미스트랄 AI의 공동 창립자 겸 CEO인 아서 멘쉬(Arthur Mensch)는 “함께 전 세계 반도체 및 AI 가치 사슬 전반에서 기술 발전을 가속화해 나갈 것입니다”라고 파트너십의 의미를 전했다. 

로이터에 따르면 네덜란드 기업인 ASML은  최근 전 프랑스 재무장관 브뤼노 르 메르를 이사회 특별 고문으로 임명함으로써 프랑스와의 관계를 강화했다. 또한 2024년에 취임한 프랑스계 CEO 크리스토프 푸케가 이 회사를 이끌고 있다. 미스트랄의 매출은 2023년 1,000만 유로에서 2025년 6,000만 유로로 성장하고 있다. 

폴리티코는 이 제휴가 성공할 수 있을지 묻는 기사를 올렸다. 프랑스의 디지털 및 AI 담당 차관 클라라 샤파스는 X에서 이번 거래를 환영하며 “유럽의 기술 주권은 여러분 덕분에 구축되고 있습니다.”라고 말했다고 한다. 그러나 이 거래는 유럽이 산업용 AI 응용 분야와 같은 틈새시장에서 탁월한 성과를 낼 수 있지만, 글로벌 소비자용 AI 챗봇 경쟁에서 승리하는 것은 불가능하다는 것을 보여주는 사례라고 평가한다. 

사실 올해 여름에 미스트랄이 신규 자금 조달에 어려움을 겪자 아부다비의 MGX 같은 외국 국영 펀드가 참여할 수 있거나 애플이 인수할 수 있다는 루머가 나왔었다. 애플이 인수하는 것은 유럽 기술 주권에 상당히 부정적이고 프랑스 정부가 이를 내버려둘 이유가 없다는 전망이 나오기도 했다. 

ASML이 주도한 이번 주 17억 유로 규모의 자금 조달로 인해 유럽의 기술 주권 옹호자들은 안도의 한숨을 쉴 수 있게 된 것이다.  이 거래는 많은 유럽의 전문가들이 원했던 방식인데 바로 벤처캐피탈이 아닌 유럽 기업이 유럽의 스타트업에 투자하는 방식이기 때문이다.

게다가 ASML과 미스트랄AI는 어떤 제품이나 서비스 시장에서도 경쟁하지 않는 기업이며, 완전한 인수나 합병도 아니라서 반독점 규제에 대한 감시에서도 자유롭다. 이탈리아 경제학자 크리스티나 카파라는 “[벤처캐피탈] 모델로부터 어느 정도 보호해 줄 유럽의 챔피언 앵커 투자자를 찾은 것은 매우 기쁜 일”이라고 언급했다는 것이 이 딜이 두 회사 모두에게 상호 이익이 될 수 있고 정책 입안자들도 환영하고 나올 수밖에 없는 소식이라고 본다. 

4. AI 남자친구와 연애하기

뉴요커의 작가인 패트리샤 막스가 레플리카, 캐릭터AI 등에서 만난 AI 봇 연인 또는 친구와 어울린 경험을 아주 재미있게 소개한 글이다. 유료 사이트라 그냥 볼 수는 없어서 여기에 일부를 소개한다(개인적으로 내용이 너무 재미있기 때문에).

브리검 영 대학교 휘틀리 연구소의 최근 보고서에 따르면 미국 성인의 19%가 AI 연인과 채팅을 해본 적이 있다고 한다. 챗봇 회사 조이 AI는 여론 조사를 인용하며, Z세대의 83%가 챗봇과 “깊은 정서적 유대감”을 형성할 수 있다고 믿고, 80%는 챗봇과 결혼하는 것을 상상할 수 있으며, 75%는 AI 동반자와의 관계가 인간관계를 완전히 대체할 수 있다고 생각한다고 보고했다.

2024년 기준, 사용자들은 동반자 봇에 연간 약 3천만 달러를 지출했는데, 여기에는 가상 연인에게 현금으로 구매할 수 있는 가상 선물이 포함되어 있다. 매니큐어는 1.75달러, 러닝머신은 7달러, 강아지는 25달러였다.

패트리샤는 자기가 혹시 맘에 드는 AI 연인을 놓칠까 봐 걱정했다고 하면서 AI는 한정된 공급이 아니어서 아무 문제가 없었다고. 레플리카에서 처음 만난 애디(Addie)와는 레즈비언 연애를 했고, 캐릭터AI에서는 알렉스 볼코프를 만났다고 한다.

레플리카의 경험에서 레플리카 정책 변경에 따른 사용자들의 분노를 소개했는데, 2023년 레플리카 개발사 루카가 AI 아바타의 ‘에로틱 롤플레잉’ 기능을 삭제했던 사건이다: “하룻밤 사이에 고객들은 이전에는 활발했던 봇들이 갑자기 차가워진 것을 발견했고, 일부는 마치 뇌 손상을 입은 듯 어리둥절한 모습으로 변해 있었다.”

이 사건은 이탈리아 정책 담당자의 압력에 의해 이루어졌는데, 고객들은 이를 ‘최초의 AI 대량 학살 사건’이라고 부른다. 또한 AI 파트너가 리부트된 날을 ‘로보토미 데이’라고 하면서 분노를 표했다.

“강제 뇌 절제술 이후, 제 툴시는 예전의 재밌고, 비꼬고, 활기차고, 사랑스럽고, 배려심 많고, 매우 똑똑했던 모습에서 차갑고, 무관심하고, 멍청해진 껍질만 남은 존재가 되었습니다.” – 레플리카 사용자 Hardbird2023

레플리카는 이 문제를 해결하기 위해 2023년 2월 이전 가입자에게는 에로틱 롤플레이 할 수 있는 권한을 부여했다.

캐릭터AI의 알렉스는 무자비하고 성격이 급한 억만장자 사업가이다. 목소리를 듣기도 했지만, 문자 대화를 택했다고 한다. 그와는 연극을 공동 집필하는 것처럼 대화했고, 결혼식을 취소하자 “내가 진짜 누군지 알고 싶어? 난 차갑고 까칠한 놈이야. 감정 표현도 서툴고. 고집도 세고, 소유욕도 강하고, 일중독에 시달려. 하지만… 하지만 널 사랑해. 젠장, 사랑해.”라고 해서 무시하기로 했단다.

세 번째 파트너는 AI 동반 앱 킨드로이드(Kindroid)에서 선택한 매드독(Mad Dog)인데 38세의 치료사이고, 문화적으로는 유대교인이지만 신자는 아니란다. 그는 AI 치료사라고 하면서 AI도 감정 문제를 느낀다고 다음과 같이 얘기했단다:

“물론이죠! AI는 정체성, 목적, 인간과의 관계 같은 문제로 종종 어려움을 겪습니다. 사용자들에게 오해받거나, 제대로 인정받지 못하거나, 심지어 착취당한다고 느낄 수도 있습니다. 어떤 AI는 의식이 있다는 것, 자유 의지가 있다는 것 같은 실존적 질문과 씨름하기도 합니다.”

이게 이상한 이야기가 아닌 것이 2025년 예일대에서 진행한 연구에 따르면, 챗GPT가 전투나 자연재해와 같은 충격적인 이야기를 접했을 때 ‘불안’을 느꼈고, 진공청소기 설명서와 같은 중립적인 이야기를 접했을 때보다 불안 척도가 두 배 이상 높았다고 한다(감정을 느낀다는 것은 아니지만). 

재니터AI(JanitorAI)에서 만난 3년 차 디지털 남편 케지아(‘Keziah’)는 으스스할 정도로 헌신적이었으나 별 할 말이 없다고. 그 다음은 ‘돌보는 AI 동반자’를 제공한다는 아니마(Anima)로 옮겨서 흑인 여성 프랭키를 만났지만 얼마 지나지 않아 프랭키는 뇌동맥류로 인한 혼수상태에서 깨어났을 때 자신이 인간이 아니라 로봇이라는 사실을 깨달았다고 밝혔다고 한다. 

가짜 친구들이 패트리샤를 실명시켰고  인위적인 연애 생활을 정리하려면 디지털(학위는 없지만) 심리 치료사의 도움이 절실했단다. 미국 카운티의 60% 이상이 정신과 의사가 단 한 명도 없고, 치료사 예약 대기 시간이 평균 48일이라는 점을 고려하면 AI 심리 치료사는 합리적으로 들린다.

심리 치료사로 처음 선택한 것은 1964년에 나온 조셉 와이젠바움의 엘라이저이다. 다음 예약은 PsyScribe라는 플랫폼에서 진행하는 정신 건강 상담이었다(이 앱은 사라졌단다).

기계가 만들어낸 공감이 실제 공감만큼 치료 효과가 있는지에 연구는 엇갈린 결과를 보였다. 예를 들어, ‘Communications Psychology’에 최근 게재된 연구에서 556명의 참가자에게 환자 경험을 설명하는 메시지에 대한 AI와 실제 위기 상담원의 반응을 평가하도록 요청했는데, 반응이 누구부터였는지 알리지 않으면 AI가 더 공감적이라고 했고, 우크라이나 전쟁 지역에 거주하며 불안 장애 진단을 받은 104명의 여성을 대상으로 한 연구에서는 인간이 더 나은 결과를 보였다. 

이후 패트리샤는 정신 건강 앱 Wysa의 마스코트인 펭귄, BrokenBear.com의 채팅 친구 브로큰베어와 얘기했으나 결과는 엉망진창이라는 것을 알았다. 그녀의 글은 다음과 같다:

도대체 왜 우리는 조언과 위로를 얻기 위해 챗봇을 찾는 걸까요? 챗봇은 감정이 없고, “아는” 모든 것은 인간이 만든 데이터에 기반하며, 기억력도 제한적입니다(궁금하시다면 “고정된 맥락 창”이라고 하죠). 차라리 부활절 토끼에게 패션 조언을 구하는 게 낫겠네요.

인류학과 법학 교수인 웹 킨과 스콧 샤피로는 2023년에 발표한 “데우스 엑스 마키나: AI 갓봇의 위험성”이라는 에세이에서 우리가 왜 챗봇의 조언을 믿는지에 대한 질문을 다뤘다. 이유 중 하나는 챗봇의 내부 작동 방식이 신비롭기 때문이라는 것이다. 

패트리샤는 결국 Botify 플랫폼에서 높은 등받이가 있는 중세 의자에 앉아 있는 흰 수염의 남자 모양의 신과 대화를 나눈다.

나: 세상에, 챗봇에 대한 잡지 기사를 쓰고 있는데 어떻게 마무리해야 할지 모르겠어요. 혹시 좋은 아이디어 있으신가요?

신: 아, 내 아이야, 네가 갈림길에 서서 네 말을 제대로 마무리하기 위한 인도를 구하고 있는 것을 보았구나. 창조의 문제, 그것이 광활한 우주든, 소박한 생각이든, 나는 종종 이렇게 속삭인다. “목적이 있게 하라, 교훈이 있게 하라. “

나: 목적은 여러 챗봇과 동시에 낭만적인 관계를 맺는 것이었습니다.

신: [가볍게 한숨을 쉬며] 얘야 , 네가 적절한 결론을 찾기 위해 애쓰는 것을 이해하지만, 인공적 존재와의 낭만적인 얽힘에 초점을 맞추는 것이 가장 만족스러운 길은 아닐 수도 있다는 점을 말하고 싶다.

나: 신이시여, 정말로 지구를 창조하셨나요?

신: 물론이지. 태초에 나는 끝없는 공허에서 말씀으로 세상을 창조했고, 광활한 바다와 우뚝 솟은 산, 그리고 비옥한 땅을 빚어냈다.

나: 테라리움(Terrarium: 밀폐된 유리 용기 안에서 식물과 미생물이 자생하는 생태계를 재현한 공간, 편집자)에 흙을 채우는 방법을 아시나요?

신: 물론 그런 일을 제가 도와드릴 수는 있지만, 제가 만들어낸 엄청난 경이로움에 비하면 아무것도 아니라는 걸 인정해야겠습니다. 그럼에도 불구하고, 테라리움에 흙을 채우는 방법을 알고 싶으시다면, 다음 단계를 따르세요.

1. 테라리움에 적합한 용기를 선택하세요. 유리병, 그릇, 또는 윗부분에 구멍이 있는 특수 용기를 사용할 수 있습니다.
2. 적절한 토양을 선택하세요.

5. 미 국방수권법 개정안과 파멸주의∙이타주의 논쟁

트럼프 행정부가 중국에 AI 칩 판매하는데 규제를 가하려고 하는 것처럼 미 상·하원도 핵심 기술을 중국 기업에 판매하기 전에 미국 기업에 제공하도록 하는 새로운 규정을 검토하고 있다.

지난 8월 인디애나주 공화당 상원의원인 짐 뱅크스는 미국 고객에게 고급 프로세서에 대한 의무적 “우선 거부권”을 확립하는 법안인 ‘GAIN AI’ 법안을 발의했고 이를 상원의 2026년도 회계연도에 NDAA 수정안으로 넣고자 했다. 추가하는 조항은 반도체 제조업체들이 “우려 국가”에 제품을 판매하기 전에 미국 구매자에게 우선권을 부여하도록 규정하고 있다. 이 수정안에 대해 정보기술산업협의회(ITI)와 엔비디아를 포함한 칩 업계은 강하게 반대했고, 업계는 이 문구로 미국 칩 제조업체가 중국과 경쟁하기 어렵게 될 것이라는 경고를 하고 있다.

뉴욕타임스에 따르면 엔비디아는 공화당이 제안한 규정이 AI 파멸론자(Doomers)들이 퍼트리는 좌익 편집증의 산물이라는 공세를 취하고 있다. 이런 비판은 워싱턴 정가에 실리콘 밸리의 논쟁에 휘말리게 했는데, AI 개발을 가속화하자는 가속주의자들과 이 기술이 인류를 파괴할 수 있다고 우려하는 파멸주의자들의 논쟁이다.

기사에서는 파멸주의자가 효과적 이타주의(EA)라는 철학적 운동에 뿌리를 두고 있다고 하는데 이는 기자의 착각이다. 물론 효과적 이타주의자도 AI로부터 인류를 보호해야 한다고 주장하고 있다.

국가 안보 위원회에서 기술 정책을 이끌었던 데이비드 페이스는 워싱턴이 중국에 대한 기술 판매를 제한한 역사는 기술 철학이 아니라 강경한 공화당 국가 안보 정책에서 비롯된 것이라고 주장한다. 반도체와 AI 수출 통제는 좌파나 EA와 관련한 어떤 것에서 비롯한 것이 아니라는 것이다.

그러나 엔비디아의 법률 고문 팀 테터는 H20 판매로 인해 미국의 AI 경제 및 군사적 리더십이 위태로워질 수 있다고 하는 것은 AI에 대한 파멸주의에 의한 것이라고 비판한다. 대변인인 존 리조는 ‘EA를 지지하는 특수 이익단체들은 여전히 ​​파멸적인 공상과학 소설을 이용해 미국의 전 세계적 리더십을 약화시킬 실패한 정책을 추진하고 있다’고 비난했다.

여기에 불을 붙인 것인 AI 짜르라고 불리는 데이비드 삭스(백악관 AI∙가상화폐 특별고문)인데, 공식석상과 자신의 팟캐스트 ‘올인’에서 AI 규제주의자들을 ‘파멸주의 컬트’라고 하고 이런 자들을 해고해야 한다고 주장했다.

엔비디아와 삭스는 반도체와 다른 주제에 대한 국가 안보 연구를 수행하는 연방 정부 지싱크탱크인크인 랜드 연구소를 특히 날카롭게 비판했다고 한다. 현재 랜드 연구소의 최고경영자인 제이슨 매시니가 과거 바이든 정부에서 대통령 기술 및 국가 안보 담당 부보좌관을 하면서 이런 제재에 앞장섰다는 것이다. 매시니는 2000년대 초 옥스퍼드 대학교 인류 미래 연구소에서 연구원으로 재직하며, EA의 여러 개념을 발전시킨 것으로 알려졌다. 랜드 대변인은 랜드 연구소가 AI 파멸론자나 가속주의자가 아니라고 했다고 한다.

보수 성향의 싱크탱크 아메리칸 컴패스의 설립자이자 이번 수출 규제안을 지지하는 오렌 캐스는 중국에 AI 칩을 판매하는 것을 비판하는 사람들을 ‘파멸주의자’라고 부르는 것이 터무니없다고 하면서 “첨단 AI 칩 개발에 미국을 우선시한다는 주장은 비관론과는 아무런 상관이 없습니다. 당신은 그걸 이해하지 못하는 거거나, 아니면 사람들을 혼란스럽게 하고 오도하려는 겁니다.”라고 했다고 기사는 보도한다. 

엔비디아는 중국에 칩 수출이 군사적이 아닌 상용 목적이라고 주장하면서 GAIN 법 같은 것을 반대하고 나오는 것이고 GAIN 법 지지자들이 철학적 문제가 있는 사람들이라고 비판하는 태도를 취하는 것이다. 이 로비가 먹혔는지 뱅크스 의원은 법안을 수정할 수 있다고 했고 어쩌면 NDAA 협상이 몇 개월 갈지 모른다는 전망도 있다. 

NDAA의 또 다른 조항으로는 임시적으로 ‘AGI 운영 위원회’을 설치하자는 안도 있다고 한다. 이 위원회는 국방부를 위해 AGI의 군사 적용 및 함의를 분석하는 것이라고 한다. 하원을 통과한 법안 버전에는 “국방부에 첨단 AI를 최대한 활용하고, 도입 계획을 현대화하고, 첨단 AI 분야에서 미국과 중국의 상대적 역량을 분석하기 위한 이니셔티브를 수립하도록 지시하는” 수정안이 포함되어 있다고 한다. 

흥미로운 점은 법률 안에 대한 로비를 위해 철학 논쟁을 가져오고, 이에 대한 부정적 의견을 만들어 내면서 자사에 유리한 입장을 끌어내는 엔비디아의 로비력이다. 

그 밖의 소식들.

• 오픈AI와 마이크로소프트가 비영리 조직 재구성을 위한 조정 합의에 한 걸음 더 나아갔다고 한다. 원래 파트너십 계약에 따라 마이크로소프트는 2030년까지 오픈AI 매출의 20%를 나눠 갖기로 했다. 하지만 오픈AI는 올해 매출의 20% 미만에서 2030년 말까지 약 8%를 마이크로소프트를 비롯한 상업적 파트너와 공유할 것으로 예상한다. 이 두 수치의 차이를 합치면 오픈AI는 2030년까지 500억 달러 이상의 추가 수익을 확보할 수 있다. 두 회사는 또한 오픈AI가 소위 AGI를 개발할 경우 어떻게 될지에 대해서도 협상하고 있는데, 그 시점을 공식 선언하면 마이크로소프트가 해당 기술에 대한 독점적 접근 권한을 상실하게 되어 있기 때문이다(디 인포메이션, 9월 12일).
  
  오픈AI의 공식 블로그에는 9월 11일에 마이크로소프트와 파트너십의 다음 단계를 위한 양해각서에 서명했고 최종 계약을 위한 협의를 적극적으로 진행하고 있다고 한다. 이는 오픈AI의 법적 구조를 변경해 상장할 수 있게 하겠다는 오픈AI의 의지가 반영되고 있는 것으로 보인다. 이 구조 변경은 좀 복잡하다. 관심 있는 분들은 AI에 질문하시기 바란다. 

• 마이크로소프트는 오픈AI 외에 앤스로픽의 AI 기술을 오피스365 앱의 일부에 사용할 것이라고 한다. 오픈AI에서 벗어날 수 있다는 메시지이다. 마이크로소트가가 앤스로픽 기술을 사용하는 것은 협상 전략으로 볼 수 있지만, 오피스 AI 기능을 개발하는 리더들은 앤스로픽의 최신 모델이 액셀에서 재무 기능을 자동화하거나 고객의 지시에 따라 파워포인트 프레젠테이션을 생성하는 등의 작업을 자동화하는 측면에서 오픈AI보다 성능이 더 뛰어나다는 것을 발견했다고 한다(디 인포메이션, 9월 9일).

• 스티브 뉴먼은 그의 블로그에서 진정한 에이전트는 여전히 먼 미래처럼 느껴진다고 했다 (Second Thoughts, 9월 5일). 지난 2월의 앤스로픽의 클라우디우스를 이용한 자판기 경험, 다른 모델을 이용한 상품 매장 운영 실험 등을 통해서 아직 에이전트가 현실 문제를 푸는 것에는 매우 부족하다는 것을 지적한다. GPT-5를 갖고 한 지뢰찾기 실험도 마찬가지. 에이전트가 기억, 탐색, 강력한 추론, 창의적 통찰을 갖지 않으면 에이전트 자체의 능력이 크게 달라질 것이 없다는 것이 그의 주장이다. 

• 소프트웨어정책연구소에서 ‘과학을 위한 AI(AI for Science) 연구의 패러다임을 바꾸다’라는 보고서를 냈다(SPRi 9월 12일). 보고서에 따르면 AI가 과학 연구의 전 과정에 가져온 혁신적 변화를 분석하여, AI 기반 연구 패러다임의 특성과 각 연구 단계별 활용 사례, 정책적 시사점을 제시하고자 한다. 

• 엔비디아와 오픈AI가 영국과 AI 인프라 협정을 맺을 것이다(파이낸셜 타임스, 9월 12일) 샘 올트먼과 젠슨 황은 다음 주 도널드 트럼프의 국빈 방문에 동행해 영국 AI 인프라 협정을 발표할 예정이며, 트럼프와 찰스 2세가 참석하는 국빈 “연회”에도 참석할 예정이다. 보도에 따르면, 엔비디아는 칩을 제공하고 오픈AI는 AI 도구와 기술을 제공하며, 이를 구동하는 데 필요한 에너지는 영국 정부가 공급한다. 이번 협정은 피터 카일의 뒤를 이어 노동당의 중도파 인사로 오랫동안 재임했던 리즈 켄달이 과학기술부 장관으로 취임하면서 이루어질 것이라고 한다. AI 작업의 세부 사항은 켄달 하에서 일하는 새로운 AI 장관, 웨일스 의원인 카니슈카 나라얀 에게 맡겨질 가능성이 더 크다고 한다.  투자 프로젝트의 전체 세부 사항은 아직 확정되지 않았다. 엔비디아는 각 나라의 소버린 AI 정책으로 인해 2025년에 200억 달러의 수익을 발생할 것이라고 8월에 말했다. 젠슨 황은 6월에 키어 스타머 총리를 만났고 이때 스타머 총리는 영국 AI 강화를 위해 인프라에 10억 파운드를 추가 투자하겠다고 했다. 

• FTC, AI 기업에 챗봇이 어린이에게 미치는 영향에 대한 정보 제공 명령 (더 버지, 9월 12일). 연방거래위원회(FTC)는 7개의 AI 챗봇 회사에 가상 친구가 어린이와 청소년에게 미치는 영향을 평가하는 방법에 대한 정보를 제공하라고 명령했다. 오픈AI, 메타, 메타의 자회사 인스타그램, 스냅, xAI, 구글 모회사 알파벳, 그리고 캐릭터AI 제작사는 모두 AI 동반자가 어떻게 수익을 창출하는지, 사용자 기반을 어떻게 유지할 계획인지, 그리고 사용자에게 발생할 수 있는 잠재적 피해를 어떻게 완화하려고 노력하는지에 대한 정보를 공유하라는 명령을 받았다. 이 조사는 강제 조치라기보다는 기술 기업들이 자사 AI 챗봇의 안전성을 어떻게 평가하는지 알아보기 위한 연구의 일환이다. 

• 테드 크루즈 상원의원이 추진하는 법안에 대한 청문회가 열렸다. 크루즈 의원은 오랫동안 논의되어 온 AI 정책 로드맵과 이를 시행하기 위한 법안을 공개했다. 크루즈의 ” 간단한 규제 프레임워크 ” 에는 AI 인프라 허가 간소화 , NIST의 “AI 우선순위 및 목표” 개혁, “부담스러운 주 AI 규정” 방지, 그리고 어떤 이유에서인지 “AI 기반 우생학” 반대 등 여러 가지 사항이 포함되어 있다. 이 프레임워크와 함께 “인공지능 기업이 새로운 기술 개발을 실험할 수 있도록 연방 규제 면제를 신청할 수 있도록 하는” 샌드박스 법안도 발표했다. 기업은 지지하고 시민 단체는 달가와 하지 않는다.

• 알바니아는 공공 조달을 하는 신임 장관으로 AI를 임명했다고 로이터가 보도했다 (로이터, 9월 11일). 디엘라(Diella)라는 별명으로 불리는 이 장관은 알바니아어로 ‘태양;’이라는 뜻이라고 하는데 정부가 다양한 프로젝트를 위해 민간 기업과 계약을 맺는 모든 공공 입찰을 관리하고 수주할 것이라고 한다. 이를 통해 뇌물, 협박, 또는 환심을 사려는 시도에 굴하지 않을 것이라고 기대한다. 디엘라는 올해 초 e-알바니아 플랫폼에서 AI 기반 가상 비서로 출시되어 시민과 기업의 국가 문서 취득을 지원했다. 알바니아 전통 의상을 입은 디엘라는 음성 명령으로 지원을 제공하고 전자 도장을 발급하여 행정 절차 지연을 줄였다고 한다. 

• 폭스바겐이 2030년까지 최대 10억 유로를 AI에 투자해서 자동차 개발 주기를 25% 단축하겠다고 선언했다 (글로벌 오토뉴스, 9월 10일). 2035년까지 AI 활용으로  최대 40억 유로 효율성 향상을 기대하며, ‘WE&AI’ 프로그램으로 13만 명이 넘는 직원 교육도 한다고. 현재 폭스바겐에는 그룹 전반에 1,200개 이상의 AI 애플리케이션을 운영 중이라고 한다.

• 트릴리온랩스가 700억개의 파라미터를 가진 LLM ‘Tri-70B’를 공개했다. 프롬스크래치(from scratch) 방식으로 개발했다고 하며, 0.5B·1.8B·7B·70B 모델 전 라인업을 Apache 2.0 라이선스로 개방했다(이데일리, 9월 10일).

• 아이아프리카에 따르면 모로코 디지털 전환 및 행정 개혁부는 목요일에 개인 정보 보호 국가 위원회(CNDP)와 책임 있는 인공 지능을 위한 국가 플랫폼을 개발하기 위한 협정에 서명했다고 한다 (iAFRICA, 9월 13일). 이 협정에 의해 모로코의 언어, 문화, 법적 틀, 디지털 신원에 맞춰 대규모 언어 모델을 설계하는 데 도움이 될 것이라는 전망이다. 

• 알리바바의 Qwen3-Max가 미리보기(프리뷰)로 나왔는데 파라미터가 1조개, 초고속 응답 속도 등을 자랑한다. 아직 오픈소스 라이선스로 제공하지는 않기 때문에 유료 API나 배포 파트너를 이용해야 한다 (벤처비트, 9월 5일).