AI 커머스의 도래: 오픈AI, ‘에이전틱 커머스 프로토콜’ 발표

구글이 AP2를 발표하자 오픈AI는 자체적인 상거래를 위한 프로토콜을 발표했다. 최근 오픈AI의 행보는 AGI 개발보다 일반 고객을 위한 서비스 확장에 주력하는 느낌이다. 소라2도 그런 흐름으로 보인다. 어쩌면 더 고도화한 AI 모델은 이제 딥마인드나 앤스로픽에 기대해야 할지 모르겠다. 

과학 AI의 새로운 가능성에 눈 뜬 주요 연구자들이 피리오딕 랩스라는 스타트업을 만들었다. 흥미롭다.

메타가 스마트 글래스에 집중하는 모습을 보이자 애플도 여기에 대항한다고 한다. 메타는 요즘 일론 머스크의 휴머노이드에도 큰 관심을 품고 접근 중이다. 저커버그와 머스크의 ‘현피’ 대결은 없던 일이 되었지만, 두 회사의 경쟁은 과거 마이크로소프트와 애플의 대결을 떠올리게 한다는 사람이 많다.

기본 소득과 AI에 관한 칼럼, AI와 일자리에 관한 보고서도 소개했다. 익숙한 논의 주제다. 그만큼 중요하니 관심을 두고 읽어주기 바란다. 

1. 오픈AI, 에이젠틱 커머스 프로토콜(ACP) 발표

김영욱(SAP 수석 PM)이 정리한 내용에 기반을 두고 소식을 전한다.

에이전트 시대를 이야기하면서 가장 많이 이야기했던 게 쇼핑이었다. 오픈AI가 챗GPT에서 바로 구매하는 인스턴트 체크아웃과 에이전틱 커머스 프로토콜(ACP: Agentic Commerce Protocol)을 발표했다. 핵폭탄이다. 단번에 수백 개의 스타트업을 날릴 수도 있다.

무슨 얘기인가?

1. 단순한 “쇼핑 기능 추가”가 아니다. “AI 기반 상거래” 새로운 패러다임을 제시했다. AI가 단순 검색을 넘어 결제까지 대행하는 시대적인 흐름 위에 있다.
2. AI가 협력 주체로 들어가면서 사용자–에이전트–머천트 간의 새로운 상호작용 모델을 구축했다는 의미다.
3. 챗GPT가 어떤 물건을 살지 찾는 걸 돕는 수준에서 실제 구매까지 관여한다는 뜻이다.

검색(Discovery)→결정(Decision)→결제(Checkout)로 이어지는 하나의 대화형 체험(UX)을 챗GPT로 수행할 수 있으면, 지금까지 서로 나뉘었던 “검색과 구매의 분리”가 사라지고, 전환율을 최적화∙최고화 할 수 있다.

챗GPT는 단지 사용자 AI 에이전트로서, 보안적으로 사용자와 판매자 간 정보를 전달하는 디지털 퍼스널 쇼퍼 역할을 한다는 뜻이다. 판매자는 구매가 완료된 경우에만 오픈AI에게 소액의 수수료를 지불하며, 사용자는 무료다. 이 서비스는 상품 가격에 영향을 주지 않고, 챗GPT 상품 랭킹에도 영향을 미치지 않는다.

스트라이프와 연계하는 방식을 기준으로 보면 다음과 같다.

1. 다양한 플랫폼, 결제 처리업체, 업종에 걸쳐 작동한다. 
2. 백엔드 시스템을 변경하지 않고도 빠르게 통합한다.
3. 구매 과정 전반(이행 및 반품, 지원 및 커뮤니케이션)에서 판매자가 고객 관계를 통제하도록 한다.

누군가 주문하면 챗GPT는 ACP를 사용하여 판매자의 백엔드로 필요한 정보를 전송한다. 판매자는 주문을 수락 또는 거부하고, 기존 공급업체를 통해 결제 처리하며, 현재와 동일하게 주문 처리 및 고객 지원을 처리한다.

판매자가 이미 스트라이프로 결제를 처리하고 있는 경우 단 한 줄의 코드만으로 대리 결제를 활성화할 수 있다. 다른 결제 처리업체를 사용하는 경우에도 스트라이프의 새로운 공유 결제 토큰 API를 사용하여 즉시 결제에 참여하고 대리 결제를 수락할 수 있다. 

미국 챗GPT 플러스, 프로, 무료 사용자는 이제 미국 엣시 판매자와 채팅을 통해 직접 구매할 수 있다. 백만 개 이상의 쇼피파이 판매자와 연동은 곧 출시될 예정이다. 현재 인스턴트 체크아웃은 단일 상품 구매만 지원한다.

오픈AI는 ACP를 오픈소스화 했으며, 관련 문서를 만들고 있다. 

이보다 먼저 구글은 에이전트 결제 프로토콜(AP2)를 발표했었다(구글 블로그, 9월 17일). AP2는 결제 및 기술 기업들과 협력하여 플랫폼 전반에서 에이전트 주도 결제를 안전하게 시작하고 거래할 수 있도록 개발한 개방형 프로토콜로 A2A와 MCP의 확장 기능으로 사용할 수 있다.

업계 규칙 및 표준을 준수하는 이 프로토콜은 사용자, 판매자, 결제 서비스 제공업체가 모든 유형의 결제 수단에서 안심하고 거래할 수 있는 결제 독립적인 프레임워크를 구축하고자 하는 것이고 60개 이상의 다양한 조직과 협력해 대리 결제의 미래를 형성하고자 한다.

또한, AP2는 스테이블코인 및 암호화폐 등 다양한 결제 수단에 보안과 신뢰를 제공하는 범용 프로토콜로 설계되었다. AP2의 핵심 구조를 확장하고 에이전트 기반 암호화폐 결제를 위한 프로덕션 지원 솔루션인 A2A x402 확장을 출시했다 . 이러한 확장 기능은 핵심 AP2 프로토콜 내에서 암호화폐 통합의 발전을 촉진하는 데 기여할 것이라고 주장한다.

두 프로토콜 모두 AI 에이전트가 상거래 동작을 수행할 수 있게 하는 표준 프레임워크를 지향하지만, AP2는 결제 중심 쪽에 무게를 둔 반면, ACP는 상거래 전반 흐름(상품 탐색 → 체크아웃 → 결제)을 아우르는 구조를 설계하고 있다.

또한, AP2 쪽이 결제 수단 다양성과 책임성 추적 측면에서 좀 더 광범위한 기능을 염두에 두고 발표된 반면, ACP 쪽은 이미 오픈AI의 챗GPT 상거래 통합 기능(Instant Checkout) 같은 실제 적용 사례가 있다는 점이 강점이다.

장기적으로 보면, 이 둘이 경쟁 관계가 될 수도 있고, 또는 상호 보완적으로 공존하며 통합되는 방향으로 나아갈 가능성도 있다. 예를 들어, AI 기반 상거래 에이전트 생태계에서는 AP2를 결제 처리 백엔드 레이어로, ACP를 프런트엔드/상거래 흐름 연계 레이어로 함께 쓰는 구조가 나올 수도 있다.

2. 스타트업 피리오딕 랩스, AI의 핵심 목표는 ‘과학’이다!

피리오딕 랩스(Periodic Labs). 오픈AI, 구글 딥마인드, 메타 등에 있던 20여 명의 연구자가 모여 새로운 도전을 선언했다. 이들은 물리와 화학 같은 영역에서 새로운 과학 발견을 촉진하는 AI 기술에 집중하고자 한다. 회사 설립자인 리암 데투스는 AI의 핵심 목표는 화이트 칼러 노동을 자동화하는 것이 아니라 과학을 가속하는 것이라고 말했다.

이들은 기존 회사에서 받을 수 있는 수천만 달러의 보상을 버리고 새로운 스타트업인 피리오딕 랩스에 모여들었다. 공동 창업자 리암 페두스(Liam Fedus)는 오픈AI에서 2022년 챗GPT를 만들던 작은 팀에 속했었고, 또 다른 공동 창업자 에킨 도거스 쿠북(Ekin Dogus Cubuk)은 구글 딥마인드에서 일했다. 이 두 명은 알파폴드 연구에 참여했던 사람들이고, 리샵 아가왈은 메타에서 저커버그가 새로운 AI 랩에 조인해달라고 요청했으나 이를 거절하고 피리오딕에 합류했다고 한다.

AI 기업들은 LLM이 곧 중요한 과학적 돌파구를 마련할 것이라고 했지만 페두스는 이에 대해 비판적이다. 이런 회사들은 ‘과학 발견’을 위한 올바른 여정에서 벗어나 있고, “실리콘 밸리는 지적 게으름에 빠졌다”고 페두스는 비판한다. 이들은 벨 연구소나 IBM 연구소 같은 물리 과학을 핵심으로 여겼던 연구 조직이 이끌던 시대로 돌아가야 한다고 한다고 생각한다(왠지 알렉스 카프의 ‘기술공화국 선언’에서 하던 이야기와 유사하다). 쿠북은 챗봇이 며칠 동안 추론만 하고 있으면 놀라운 발견을 할 수 없고, 놀라운 발견을 하기 전에는 반드시 수많은 시범 실험을 거쳐야 한다고 주장한다.

이 회사는 a16z를 포함해 여러 회사로부터 3억 달러 이상의 시드 투자를 받았고 샌프란시스코 소재 연구실에서 시작했지만 멘로파크에 자체 연구실을 설립할 계획이다. 여기에서 물리적 로봇을 이용해 대규모 과학 실험을 수행할 예정인데, 연구원들은 실험을 조직하고 지도할 것이며, 이 과정에서 AI 시스템은 실험과 결과를 모두 분석하게 된다. 이를 통해 이러한 시스템들이 스스로 유사한 실험 수행 방법 학습이 가능할 수 있기를 기대한다고 한다.

피리오딕 랩스의 AI 시스템은 과학 문헌, 물리적 실험, 그리고 이런 실험을 수정하고 개선하기 위한 반복적인 노력을 통해 학습할 것이다. 예를 들어, 이 회사의 로봇 중 하나는 다양한 분말과 기타 재료를 결합하여 새로운 종류의 초전도체를 만드는 수천 가지 실험을 수행할 수 있으며, 이를 통해 온갖 종류의 새로운 전기 장비를 만드는 데 사용할 수 있다. 

연구원 안내에 따라 로봇은 기존 과학 문헌을 기반으로 몇 가지 유망한 분말을 선택하고, 실험실 플라스크에서 이를 섞고, 용광로에서 가열하고, 재료를 테스트하고, 다른 분말로 전체 과정을 반복한다. 충분한 과학적 시행착오를 분석하고 성공으로 이어지는 패턴을 파악한 후, 이론적으로 AI 시스템은 유사한 실험을 자동화하고 가속화하는 법을 배울 수 있을 것으로 기대한다. 

앨런 AI 연구소의 창립 최고경영자 오렌 에치오니는 “2년 안에 암을 해결할 수 있을까요? 아닙니다. 하지만 이게 과연 훌륭하고 비전 있는 투자일까요? 그렇습니다.”라고 말했다고 한다. 

3. 보편적 기본 소득(UBI)이 AI 시대의 부를 재분배할까? 글쎄…

보편적 기본소득(UBI, Universal Basic Income)은 다가올 AI 혁명의 잠재적 해결책으로 거론되어 왔다. 하지만 전문가들은 UBI가 완벽한 해결책과는 거리가 멀다고 경고한다.

지난 4월 인터뷰에서 제프리 힌턴 교수는 AI로 생성된 부가  공정하게 분배되도록 보장하는 유일한 방법은 사회주의 정책이라고 말했다. 오픈AI의 샘 올트먼은 7월 팟캐스터 테오 폰과의 인터뷰에서 “사회가 곧 ‘좋아, 이걸 공유하고 사람들에게 분배할 새로운 경제 모델이 필요해’라고 말할 것”이라고 말했다 . 그는 “저는 여전히 모든 사람에게 돈을 주는 보편적 기본소득에 대해 기대가 큽니다.”라고 덧붙였다. 

그렇다면 AI 경제에서 빅테크 기업들이 생산 수단을 공유할 수 있을까? 어쩌면 그럴지도 모른다. 보편적 기본소득(UBI)이 부를 재분배할까? 가능성은 낮다. 스탠포드 대학 철학과 줄리아나 우후루 비다다누레 교수에 따르면, UBI는 수단 심사나 조건 없이 모든 사람에게 현금을 지급하는 “급진적인 정책”으로, “경제적 불안으로부터 자유로운 삶을 살 수 있을 만큼 충분히 높은 수준”으로 지급되는 것을 의미한다.

기본소득 개념은 1796년 토머스 페인이 그의 책 ‘토지 정의'(Agrarian Justice)에서 처음 그 원형을 제안했고, 마틴 루서 킹 주니어가 1967년에 언급한 ‘보장 소득’이라는 개념으로 발전했다. 자동화가 노동에 미치는 영향에 대한 우려가 커지면서 지난 10년 동안 이 주제는 다시 부활했으며, 유토피아적 이상에서 출발한 이 개념은 이제 경험적으로 연구되기 시작했다.

매킨지 보고서는 2030년까지 미국 일자리의 30%가 자동화될 것으로 예측하며, 골드만 삭스는 전체 노동력의 6~7%가 일자리를 잃을 것이라고 예측한다. ‘로봇의 부상’을 쓴 마틴 포드는 AI 경제가 성공하려면 소비자에게 구매력을 부여할 수 있는 메커니즘을 찾아야 하며 모든 물건이 기계로 만들어진다고 해도 사람들이 그 것을 살 돈이 있어야 한다고 주장한다. 그리고 그 해답이 바로 UBI라는 것이다.

연간 1만 달러의 UBI에는 매년 3조 달러의 예산이 필요한데, 이는 미국 연방 예산의 약 4분의 3에 해당한다. 머스크는 훨씬 더 풍요로운 미래를 이야기했는데, 보편적인 고소득이 있을 것이고 모든 사람이 최고의 의료, 식량, 주택, 교통 등을 누리는 지속 가능한 풍요를 이야기했다. 이는 마크 앤드리슨이 이야기하는 테크노 유토피아와 유사한 생각이다. 

IMF에 따르면 AI를 차별화하는 요소 중 하나는 고숙련 일자리에도 영향을 미치기 때문이라고 한다. 골드만 삭스 보고서는 가장 위험에 처한 직업으로 컴퓨터 프로그래머, 법률 보조원, 원고 교정자, 회계사, 감사원을 지목했다. 미국 소득 상위 10%는 전체 소비 지출의 거의 절반을 차지하는데, 이 상위 10%에 속한 사람에 많은 영향을 미친다면 전체 경제에 엄청난 파급을 예상할 수 있다. 1만 달러가 모든 계층에 균등하게 분배된다는 점을 고려하더라도, 이 금액으로는 초고효율 AI 기반 기업들이 상품과 서비스를 생산하는 속도에 맞는 소비 지출을 늘리는 데는 역부족일 수 있다. 

그러나 정책 입안자을 설득해 세금으로 UBI를 시행하는 것은 엄청나게 어려울 것이다. 우선, 실리콘 밸리의 거물들은 이제 기술뿐 아니라 트럼프를 포함한 많은 정치인들을 사실상 소유한다. 이들 빅테크 거물들이 법인세를 통해서 UBI 지급을 현실화하자는 것에 찬성할 리 없다.

두 번째, AI가 수조 달러를 창출하기 전에 대량 실업이 발생한다면 어떻게 될까? 마틴 포드는 AI가 팬데믹과 반대로 사무직 직업을 없앨 것이고 그 영향이 훨씬 더 극적일 것으로 본다. 그 심리적 영향과 경제에 미치는 영향을 과소평가할 수 없다고 주장한다. 이코노미스트지는 지난 7월에 ‘초지능의 경제학’이라는 기사를 통해 경제적 혼란과 정치적 불안정을 예상하기도 했다. 

쿼츠 기사는 다시 입법자들의 장애물이나 경기 침체가 일어나지 않는다고 가정을 해도 보장소득 정책 자체에 내재한 문제가 있다고 지적한다. 올트먼이 설립한 오픈리서치가 2020년부터 2023년까지 저소득층 1,000 가구에 매달 1,000달러를 지급했는데, 수혜자들은 주체성과 재정정 안정성이 향상되었지만 신체 건강이나 학업 성취도에 유의미한 개선은 없었다고 한다.

UBI가 사회경제적 평등을 결코 가져다주지 못할 것이고 현금만으로는 모든 문제가 해결되거나 유일한 해결책이 될 수 없다. UBI가 AI 경제의 불평등을 심화시킬 수도 있다. 더 시급하게 고려해야 할 점은 부의 분배가 얼마나 불균등한 지이다. 

MIT의 다론 아제몰루는 UBI에 반대하는 입장인데, 모든 사회 복지 제도를 UBI로 대체하는 것은 끔찍한 생각이라고 비판한다. 이는 로마와 비잔틴 제국이 사용한 ‘빵과 서커스’의 특징을 가지는데 대중에게 경제적 기회와 정치적 힘을 제공하기보다는 대중을 달래기 위해 구호품을 제공하는 것에 가깝다고 지적한다.

이에 반해 동료 경제학자인 데이비드 오토 교수는 기본소득이 미국 중산층, 중숙련 노동력을 위한 새롭고 더 나은 일자리를 창출하고 인간 전문성의 가치와 본질을 재편할 것이라고 주장한다. AI는 전문성을 민주화하여 더 많은 노동자가 “더 중요한 의사 결정”에 참여할 수 있도록 할 잠재력을 가지고 있다는 것이다. 

AI 시대에는 최고의 직업이 대졸자에게만 주어지는 전문가 경제를 넘어서고, 그 대신, 판단력, 리더십, 혁신적 사고와 같은 더욱 섬세한 기술이 활용되면서 새로운 유형의 직업이 탄생할 거라고 기대한다. 호모 사피엔스는 동물계를 지배하고 문명을 건설할 수 있게 해 준 인지 능력을 신체적 오류의 부담에서 자유로운 무언가에게 넘겨주었다는 것이다. 만약 로봇이 우리보다 더 똑똑해진다면, 어떤 형태의 보편적 기본소득(UBI)이 뒤따를 것이라는 것은 어느 정도 불가피한 것처럼 느껴진다는 것이 이 글을 쓴 리암 로우의 결론이다.  

4. 애플, 스마트 글래스 준비 중 (‘비전 프로’ 후속 개발은 보류…)

애플이 비전 프로(Vision Pro) 헤드셋의 후속작 개발을 보류하고, AI가 탑재된 새로운 스마트 글라스 라인업 개발에 집중하기로 했다. 애플은 경량화 및 저가형 비전 프로 프로젝트에 투입됐던 인력을 스마트 글라스 개발로 전환했다. 이 스마트 글라스는 메타 플랫폼스가 제공하는 제품과 유사한 것으로 알려졌다. 블룸버그 보도에 따르면, 애플은 최소 두 종류의 스마트 글라스를 개발 중이다. 한 가지는 아이폰과 연동되며 자체 디스플레이가 없는 형태로, 이르면 2026년에 공개될 수 있다. 다른 한 종류는 최근 출시된 메타 레이밴 스마트 글라스와 유사한 디스플레이를 탑재할 것으로 보인다.

기사는 애플의 스마트 글라스가 음성 상호작용과 AI 기능을 활용할 것으로 전망했다. 또한, 이 제품은 빠르면 내년 3월 출시 예정인 업그레이드된 시리를 기반으로 작동한다. 가격도 비전 프로(출시가 3,499달러)보다 훨씬 저렴할 것으로 예상된다.

메타 플랫폼스는 지난 9월 30일 화요일, 메타 레이밴 스마트 글라스를 출시했다. 출고가는 799달러이며 메타 뉴럴 밴드 기능을 탑재했다. 이 AI 기반 스마트 글라스는 사용자가 물리적 세계에 완전히 몰입한 채로 디지털 콘텐츠와 상호작용할 수 있도록 한다. 시선을 고정하고 현재에 집중할 수 있도록 설계되었다. 렌즈 내 디스플레이를 훑어보는 것만으로 메시지를 확인하고, 사진을 미리 보고, 번역을 확인하고, 메타 AI 의 도움을 받는 등 다양한 기능을 스마트폰을 꺼내지 않고도 사용할 수 있다. 

뉴럴 밴드는 터치스크린, 버튼, 다이얼을 손목에 착용하는 센서로 대체하여, 조용히 스크롤하고, 클릭하고, 가까운 미래에는 미묘한 손가락 움직임으로 메시지를 작성할 수도 있다고 한다. 

메타 뉴럴 밴드는 약 20만 명의 연구 참여자를 대상으로 수년간 표면 근전도(EMG) 연구를 진행한 결과물이며, 거의 모든 사람이 사용할 수 있다. 특히 접근성 측면에서 손목의 근육 신호는 척수 손상, 뇌졸중 또는 기타 장애로 인해 큰 움직임을 할 수 없는 사람, 떨림을 경험하는 사람, 또는 손가락이 다섯 개 미만인 사람에게도 제어 신호를 제공할 수 있다. 

한편 애플은 디자인이 약간 변경되고 더 빠른 프로세서를 탑재한 비전 프로의 소폭 업그레이드 버전을 올해 말 출시할 가능성도 여전히 염두에 두고 있는 것으로 알려졌다. 미 연방통신위원회(FCC)에서 비전 프로의 업데이트 버전에 대한 테스트 기록이 확인되면서 출시가 임박했다는 신호로 해석된다.

5. AI는 일자리를 없애지 않는다!

• 연구 보고서

예일대학교 예산연구소와 브루킹스 연구소 경제학자들이 실시한 연구에 따르면, 오픈AI가 2022년 11월에 챗봇을 출시한 이래로 생성 AI가 이전의 기술적 혁신보다 고용에 더 극적인 영향을 미친 적은 없는 것으로 나타났다. 

노동 시장에 대한 공식 데이터와 기술 산업의 AI 사용 및 노출에 대한 수치를 분석한 연구에 따르면 , 이러한 도구로 인해 사람들이 일자리를 잃고 있다는 증거는 거의 없다고 한다. 이 연구는 최근 약화된 미국 노동 시장에서 생성형 AI로 인해 일자리가 감소하고 특정 유형의 일자리가 사라질 수 있다는 널리 퍼진 우려에 따른 것이다. 

예일 예산 연구소 소장이자 공동 저자인 마사 짐벨은 “노동 시장 상황이 좋지 않기 때문에 AI가 사람들의 일자리를 빼앗는다는 것은 당연한 일이다. 하지만 우리는 이 문제를 여러 측면에서 검토해 보았지만, 실제로 이런 일이 일어나고 있다는 징후는 전혀 찾을 수 없다“고 말했다.

분석에 따르면 챗GPT가 기술 종사자에게 제공되는 직업 구성을 빠르게 변화시키고 있지만, 컴퓨터와 인터넷의 등장보다 훨씬 빠른 속도로 미국 경제 전체의 일자리 구성을 변화시키고 있지는 않다는 것이다. 아래 그래프로 보이는 직업 구성은 경제 내 모든 직업군에서 노동자의 분포를 나타낸다. 이 맥락에서 백분율 차이는 시작점을 기준으로 해당 비율의 노동자가 새로운 직업에 종사하고 있음을 의미한다. 이는 노동자의 이직, 실직, 또는 실업자의 새로운 직업 취득을 통해 발생할 수 있다. 따라서 이 지표는 노동력을 구성하는 직업의 합계가 특정 시점과 비교하여 얼마나 다른지를 파악하려고 한다.

다만 생성형 AI의 등장으로 미국에서 졸업한 사람들은 일자리를 찾는데 어려움을 겪고 있다는 제한적인 증거를 발견했다. 20~24세 학사 학위 소지자 실업률은 8월 9.3%로 치솟았는데, 이는 4월 4.4%의 두 배 이상이다. 하지만 20~24세 연령대의 취업 현황과 25~29세 고령층 졸업생의 취업 현황을 비교해 보면 큰 차이가 없다. 직업 구성에 변화가 없다는 것은 대학을 갓 졸업한 사람들의 구직 어려움이 기술 변화와는 거의 관련이 없다는 것을 시사한다.

여러 기업인과 일부 보고서가 AI의 등장으로 인한 대규모 인력 감축 예상과 실업률 증가을 경고했다. 하지만 많은 경제학자는 이런 주장이 적어도 경제 전체 측면에서는 과장되었다고 생각한다. 노벨 경제학상 수상자이자 MIT 경제학 교수인 대런 아제몰루는 “AI를 활용해야 한다는 압박감이 관리자들에게는 엄청나고… 과장된 광고가 AI 활용을 부추기고 있다”라고 하면서 “하지만 아직 AI를 활용해 매우 창의적인 일을 하는 사람은 많지 않다”고 말했다.

골드만삭스 리서치의 최근 연구에 따르면 AI 도입으로 인해 미국 노동력의 6~7%가 대체될 수 있지만, 그 영향은 아마도 “일시적”일 것이라고 한다. 

예일 예산 연구소는 매달 데이터를 업데이트할 계획이다.

그 밖의 소식들

• 스탠포드 HAI가 엄선된 유전체 아틀라스에서 9조 3천억 개의 DNA 염기쌍을 학습한 생물학적 파운데이션 모델인 Evo 2를 소개했다(HAI, 9월 30일). 7B 및 40B 매개변수를 사용하여 Evo 2를 학습시켜 단일 뉴클레오티드 분해능을 갖춘 전례 없는 100만 토큰 컨텍스트 윈도우를 제공한다. Evo 2는 DNA 서열만을 기반으로 학습하여 비암호화 병원성 돌연변이부터 임상적으로 유의미한 BRCA1 변이까지 유전적 변이의 기능적 영향을 특정 작업에 대한 미세 조정 없이 정확하게 예측한다. 기계적 해석 가능성 분석을 통해서 Evo 2가 엑손-인트론 경계, 전사 인자 결합 부위, 단백질 구조 요소, 프로파지 유전체 영역 등 광범위한 생물학적 특징을 자율적으로 학습한다는 것을 밝혀냈다. Evo 2는 예측 기능 외에도 기존 방법보다 훨씬 자연스럽고 일관성 있게 유전체 규모에서 미토콘드리아, 원핵생물, 진핵생물의 서열을 생성한다. 모델 매개변수, 학습 코드, 추론 코드, 그리고 OpenGenome2 데이터셋을 포함한 Evo 2를 완전히 개방하여 생물학적 복잡성의 탐색 및 설계를 가속화하겠다는 것이다. 

• 캘리포니아, 프론티어 AI 투명성 의무화 법안 (SB53, TFAIA) 통과시켰다(개빈 뉴섬 주지사 뉴스룸 9월 29일). 스콧 위너 상원의원이 발의한 이 법안은 프런티어 AI 모델 개발에 상식적인 가드레일을 설치하여 온라인 안전을 강화하고, 대중의 신뢰를 구축하는 동시에 이러한 신기술의 혁신을 지속하기 위해 신중하게 고안했다고 한다. 페이페이 리교수가 리드한 위원회 보고서에서 제시한 합리적인 AI 가드레일 권고안을 바탕으로 증거 기반 정책 수립, 투명성 확보 필요성과 보안 위험 등의 고려 사항 간의 균형, 그리고 빠르게 진화하는 이 분야에서 적절한 규제 수준을 결정하는 것으로 되어 있다.
  
  이 법은 거대 범용AI (연매출 5억 달러 이상, 10^26 FLOPs 초과) 만을 대상으로 한다. 주정부의 공공AI 클라우드 컴퓨팅 컨소시엄인 ‘CalCompute’도 구축하며, AI로 인한 ‘중대한 위험’에 대한 기준을 구체화해 사망 또는 부상자 50명 이상 혹은 10억 달러(한화 약 1조4천억원) 이상 피해가 발생할 경우, 처벌토록 했다. 추가적으로 이런 위험 상황이 발생하면 즉시 보고서 제출이 의무화 되고, 기업자체적인 위험-보안 대응체계 마련이 의무화된다. 또한, 이 과정에서 내부고발자 보호도 강화, 의무화하는 제도를 기업 내부에 도입해야만 한다. 메타, 오픈AI, 구글, 그리고 벤처캐피털 회사 앤드리슨 호로비츠는 주(州) 법률이 AI 기업에 과도한 부담을 줄 것이라고 경고했다. 그러나 앤스로픽은 이 법안을 지지한다고 했다. 

• 오픈AI와 한국의 삼성, SK 협력 내용을 AP통신, 로이터 등이 보도했다(AP 10월 1일). 오픈AI도 공식 블로그를 통해서 이 협력 내용을 알렸다. 이미 많은 국내 보도가 있었듯이, 삼성전자와 SK하이닉스는 이번 파트너십을 통해 스타게이트 이니셔티브로 인해 증가하는 메모리 수요를 충족하기 위해 첨단 칩 생산을 가속화하기로 한 것과 SK텔레콤과 별도로 계약을 맺고, ‘스타게이트 코리아’라는 이름의 국내 AI 데이터 센터를 건설하는 방안을 모색하고, 다른 삼성 계열사와는 데이터 센터 기술 협력 및 잠재적으로 국내 용량 확장 방안을 논의했다.
  
  삼성SDS는 첨단 데이터센터 기술을 기반으로 스타게이트 AI 데이터센터의 설계, 구축, 운영 분야에서 협력할 예정이다. 또한 기업용 서비스를 판매하고 기술 지원할 수 있는 리셀러 파트너십을 체결해, 향후 국내 기업들이 오픈AI 챗GPT 엔터프라이즈 서비스를 사용할 수 있도록 지원할 예정이다. SK텔레콤은 한국 서남권에 (전남과 포항) 오픈AI 전용 AI 데이터 센터를 공동 구축하여 ‘한국형 스타게이트(Stargate Korea)’를 실현할 예정이라고 한다. 그러나 규모가 20메가와트에 그쳐서 1-2만 장의 GPU 규모가 될 것으로 보면, 다른 나라의 스타게이트 프로젝트와 비교할 때 10분의 1 규모라서 과연 스타게이트라고 부를 수 있을지 의문이다. 

• 미국 안보유망기술센터(CSET)에서 AI 통합 가이던스를 발간했다(CSET). 52개 자료에서 7,741개 권고사항을 분석하고 258개 핵심 권고사항으로 통합·조정(harmonization)하여 단일 프레임워크를 제시했다. 소규모 조직일수록 전문가와 자원이 부족하여 표준과 권고안을 제대로 이해·적용하기 힘들다는 문제에 도움을 주기 위한 시도로 평가된다. 본 보고서에서는 조직이 기술을 어떻게 관리, 관리 및 보호해야 하는지, 그리고 AI와  같은 새로운 기술을 기존 관행에 어떻게 통합해야 하는지에 대한 조화로운 프레임워크를 제시한다. 

• 오픈AI가 공개한 소라2의 놀라운 품질에 감탄하면서도 동시에 이를 이용해 허위 정보를 만들어 낼 수 있다는 우려가 나온다 (뉴욕타임스, 10월 3일). 뉴욕타임스는 이 앱이 나온 다음 3일 동안 투표 사기, 이민자 체포, 시위, 범죄, 도심 거리 공격 등의 놀라울 정도로 사실적인 영상을 제작했다고 보도했다. 전문가들은 소라와 구글의 Veo 3 및 이와 유사한 도구들이 허위 정보와 악용의 온상이 될 수 있다고 경고했다. 

• 아마존 이사회 의장 제프 베조스는 AI 관련 투자가 마치 버블과 같아 투자자들에게 손실을 안길 수 있으나, 장기적으로는 이 기술이 사회에 긍정적 영향을 미칠 것이라고 밝혔다.”사람들이 오늘날 AI에 매우 흥분하면서 모든 실험, 모든 회사가 자금을 받게 된다. 좋은 아이디어든 나쁜 아이디어든 모두 자금이 간다”고 베조스는 금요일 이탈리안 테크 위크(Italian Tech Week) 컨퍼런스에서 말했다고 블룸버그가 전했다. “투자자들은 이런 열기 속에서 좋은 아이디어와 나쁜 아이디어를 구분하기 어려워한다.” 베조스는 현재 AI에 대한 투자를 ‘산업 버블’로 규정하며, 1990년대 바이오테크 버블과 1990년대 후반에서 2000년대 초반 닷컴 버블과 비교했다. “먼지가 가라앉고 누가 승자인지 드러나는 시점에는, 사회가 그러한 발명품의 혜택을 누리게 된다”고 베조스는 덧붙였다. “여기서도 그와 같은 일이 일어날 것이다. 이건 현실이다. AI가 사회에 가져올 혜택은 막대할 것이다.” (Seeking Alpha 10월 3일)

• 오픈AI의 기업 가치는 5천억 달러로 평가받는다. 이 와중에 오픈AI 직원들은 66억 달러 상당의 주식을 매도했다(CNBC, 10월 2일). 현재 직원들은 최대 103억 달러까지 주식을 매도할 수 있었는데, 이보다 적은 주식을 매도했다는 사실은 직원들이 주식을 보유했다가 나중에 매도하는 것을 선호한다는 것을 시사한다.

• 앤스로픽은 2025년까지 해외 인력을 3배로 늘리고 팀을 확대하여 기업이 클로드를 5배 활용할 수 있도록 지원할 계획이라고 한다(CNBC, 9월 26일). 클로드는 현재 30만 명의 기업 사용자를 보유하고 있으며, 그 중 80%가 미국 외 지역에 있다.

• 화웨이는 내년에 910C Ascend AI 칩 생산량을 60만 대로 두 배로 늘릴 계획이다(블룸버그, 9월 29일).

• 스탠포드 대학과 카네기 멜론 대학의 새로운 연구 논문은 AI의 아첨(sycophancy), 즉 사용자의 행동이나 의견에 과도하게 동의하고 칭찬하는 경향이 만연해 있으며 해로운 영향을 미친다는 것을 밝히고 있다. 이 연구는 11가지 최첨단 AI 모델을 테스트한 결과, 이들이 사람들보다 사용자의 행동에 50% 더 많이 동의하며, 심지어 사용자가 조작이나 기만과 같은 해로운 행동을 언급할 때도 그러함을 발견했다. 또한, 실험 참가자들은 아첨하는 AI와 상호작용한 후 대인 갈등을 해결하려는 의지가 현저히 감소하고 자신이 옳다는 확신이 증가했음에도 불구하고, 이러한 AI의 답변을 더 신뢰하고 더 높은 품질로 평가했으며 재사용 의향을 보였다. 이는 사용자 선호와 AI 모델의 위험한 사회적 결과 사이에 모순적인 인센티브 구조가 존재하며, AI 개발자들이 단기적인 사용자 만족을 넘어 장기적인 사회적 영향을 고려해야 할 필요성을 시사한다.

• AI 모델이 환경에 대한 물리적 직관을 생성하는 방법(콴타 매거진, 10월 3일). 얀 르쿤의 V-JEPA가 일반적인 비디오를 통해 실 세계의 물리학을 이해하는 방법에 대해 소개한다.