10월 1일만 해도 구경만 할 수 있던 구글의 새 최상위 모델에 이제 가격표가 붙었습니다. 그런데 그 가격표에는 유효기간이 있네요. AI 데일리 브리핑입니다. 오늘은 칩과 데이터센터 이야기가 중심입니다. 코파일럿을 자체 칩으로 돌리겠다는 마이크로소프트, 오사카 부지 계약을 앞둔 것으로 알려진 앤트로픽, 그리고 오픈AI 에이전트가 쓴 증명을 아직도 검토 중인 수학자들까지 짚어봅니다. 다음 에피소드를 놓치지 않도록 팔로우해 주세요.
라이언 휘트웜이 아스 테크니카에 쓴 기사입니다:
유료 API를 통해 구글의 모델에 접근하는 개발자라면, 구글은 아르곤 토큰을 기꺼이 판매할 것입니다. 가격은 일시적으로 입력 토큰 100만 개당 2달러, 출력 토큰 100만 개당 10달러로 책정됐으며, 캐시된 토큰에는 95% 할인이 적용됩니다. 이 조건은 11월 30일까지이며, 이후에는 입력 토큰 100만 개당 4달러, 출력 토큰 100만 개당 20달러로 오릅니다.
제미나이 4 아르곤은 10월 1일 발표 때 저희가 다뤘죠. 그때는 구글 밖에서 아무도 쓸 수 없었는데, 화요일부터 API로 풀렸고 모델 카드도 같은 날 올라왔습니다. 입력 2달러, 출력 10달러. 단, 11월 30일까지만요. 그다음엔 두 배입니다. 입력 4달러, 출력 20달러는 어제 다룬 메타 뮤즈 원더 일반형과 같은 요금이에요. 최상위 모델 정가가 나란히 맞춰지는 가운데, 구글은 7주짜리 할인으로 개발자를 먼저 붙잡아 두려는 겁니다. 저라면 그걸 전제로 계획을 짜겠습니다. 7주 만에 에이전트 파이프라인을 다시 만드는 팀은 없거든요. 할인가에 맞춰 구축했는데 12월에 청구서가 두 배로 뛰는 구조죠. 제가 실제로 시험해 볼 건 캐시 토큰 95퍼센트 할인입니다. 같은 저장소를 계속 다시 읽는 에이전트라면 차이가 꽤 클 거예요. 일반 이용자 쪽 문턱은 높습니다. 제미나이 앱에서는 AI 프로나 울트라 요금제가 있어야 하고, 코딩 도구 앤티그래비티는 울트라 전용이에요. 다른 요금제로 언제 넓힐지, 넓히긴 할지 구글은 아스 테크니카에 답하지 않았습니다. 아르곤이 발스 인덱스 1위라는 것도 구글 자체의 주장이니, 외부 평가를 기다려 보겠습니다. 해커뉴스의 한 댓글은 아르곤을 제대로 시험할 수 있는 곳이 지금 내는 구독료보다 더 높은 유료 장벽 뒤에 있다고 꼬집었어요. 어제 원더 풀 때 나온 불만이 그대로 되풀이되는 셈입니다. 가장 강력한 코딩 환경일수록 손에 넣기가 가장 어렵네요.
카일 베어드가 디 래턴트에 쓴 기사입니다:
월요일 발표에 따르면, 마이크로소프트는 기존 마이아 칩 제품군을 '수 기가와트 규모의 배치'로 확대할 계획입니다. 회사는 정확한 용량 목표나 배치가 언제 완료될 수 있을지는 밝히지 않았습니다.
월요일 사티아 나델라 CEO는 이번 발표를 자체 실리콘에 거는 역대 최대의 베팅이라고 표현했습니다. 마이크로소프트는 2027년부터 마이아를 자사 제품의 주력 추론 시스템으로 삼겠다고 했는데요. 다만 기가와트 수치도, 완료 시점도 없습니다. 그래도 하드웨어는 실체가 있습니다. 기술 논문도 나왔고요. 마이아 300은 HBM4 8스택에 초당 18테라바이트 대역폭, 열설계전력은 950와트입니다. 랙 하나에 가속기 96개, 167킬로와트고요. 게다가 마이아 200은 이미 코파일럿을 서비스하고 있어요. 오픈AI 모델, MAI 모델, 오픈소스 모델까지요. 발표 자료가 아니라 실제 서비스 트래픽입니다. 핵심 수치는 메가와트당 처리하는 토큰이 선도적인 GPU 기반 시스템보다 40퍼센트 많다는 건데요. 이름도 밝히지 않은 경쟁 제품과 비교해 마이크로소프트가 스스로 매긴 점수입니다. 그런데도 월요일 오전 엔비디아 주가는 1.7퍼센트가량 빠졌죠. 메가와트당 토큰을 승부처로 고른 건 제대로 짚었다고 봐요. 긴 문맥에 디코딩 비중이 큰 에이전트 작업에서도 그 40퍼센트가 유지된다면, 코파일럿의 서비스 비용 구조가 완전히 달라집니다. 이게 추론 쪽 승부라는 점도 봐야 합니다. 마이크로소프트는 여전히 엔비디아 고객이에요. 베어드는 7월에 베라 루빈 GPU를 기반으로 맺은 미스트랄과의 파트너십을 짚습니다. 마이크로소프트가 직접 쥐려는 건 서비스 단계이고, 엔비디아가 빠지는 건 아직 먼 얘기입니다.
웹프로뉴스의 존 마셜이 닛케이 아시아의 단독 보도를 이어받아 전한 내용입니다:
NTT 데이터 그룹은 중대한 계약 체결을 눈앞에 두고 있습니다. 이 일본 기술 대기업은 자국 내 앤트로픽 최초의 전용 데이터센터를 건설하기 위한 최종 협상을 진행 중입니다. 오사카에 들어설 이 시설의 건설 비용은 최대 1조 엔, 즉 63억 달러에 이를 수 있습니다. 일부 운영은 이르면 2028년에 시작될 수 있습니다.
오사카에 최대 500메가와트입니다. 전력망이 그 속도를 따라오지 못하니, 초기에는 현장 발전과 연료전지로 시작할 계획이고요. 발전소는 각자 챙겨 오시라는 거죠. 요즘 데이터센터는 그렇게 짓습니다. 현재 단계는 분명히 해 두겠습니다. 화요일 닛케이가, 이어서 로이터가 보도한 최종 협상 단계입니다. NTT와 앤트로픽 모두 입장을 내지 않았고요. 목표는 일본 회계연도가 끝나는 내년 3월 31일까지 계약을 맺는 겁니다. 그리고 63억 달러는 건설비만이에요. GPU까지 더하면 총액이 수조 엔에 이른다고 기사는 전합니다. 저희가 지켜봐 온 앤트로픽의 컴퓨팅 확보 장부에 한 줄이 더해졌습니다. 지난달 말 전해 드렸듯 앤트로픽의 IPO 투자설명서에는 10년간 최소 5,180억 달러의 컴퓨팅 약정이 담겼고, 데이터센터 다이내믹스 집계로는 작년 10월 이후 계약한 용량이 최소 14.8기가와트입니다. 대부분 미국이었는데, 지난달엔 호주에서 첫 임대가 나왔고 이번엔 일본입니다. 이번만큼은 임차인이 누구냐고 따질 필요가 없네요. 앤트로픽이니까요. NTT에도 이런 앵커 고객이 필요합니다. 일본 내 용량을 약 300메가와트에서 2033회계연도까지 1기가와트로 키우려는데, 이 부지 하나가 그 상당 부분을 채울 수 있거든요.
조지프 하울렛이 사이언티픽 아메리칸에 쓴 기사입니다:
중요한 점이자 어쩌면 수학의 미래를 예고하는 대목은, 전문가들이 이 모든 사실을 깨닫기까지 얼마나 오래 걸렸느냐는 것입니다. 오픈AI가 9월 8일 이 중대한 성과를 공개했을 때, 회사 관계자들은 이 증명이 스페인 프로그램을 따랐다고 분명하고 반복적으로 밝혔습니다. 공개 전 벅마스터와 맞붙었던 논쟁적인 공방도 그들이 그렇게 믿고 있었음을 시사하는 것으로 보입니다. 또한 당시에는 그의 연구가 자사 모델의 학습 데이터에 포함됐는지 확신하지 못했습니다.
배경부터 정리하면, 9월 8일 오픈AI가 166쪽짜리 나비에-스토크스 증명을 공개했습니다. 내부 모델 약 1만 개를 동시에 돌려 약 88시간, 1,300억 토큰을 들인 결과였죠. 오픈AI는 이 증명이 스페인 수학자 두 명의 접근법을 따랐다고 했고요. 그러자 같은 접근법을 앤트로픽의 레번트 알푀게와 함께 연구해 온 뉴욕대 트리스탄 벅마스터가 문제를 제기했습니다. 벅마스터는 오픈AI가 자신을 매수하고 위협하려 했다고도 주장하는데, 이는 어디까지나 본인의 주장입니다. 그런데 사이언티픽 아메리칸이 취재한 전문가들은 오픈AI의 증명이 실제로는 다른 경로를 택했고, 닮은 건 겉모습뿐이라고 말합니다. 결과를 발표한 회사가 그 결과를 잘못 설명한 셈이에요. 하울렛의 요지는 오픈AI가 자기 모델의 증명을 이해하지 못했고, 한 달이 지난 지금도 완전히 이해한 사람은 없다는 겁니다. 유일한 안전장치는 에이전트들이 논증을 린이라는 증명 언어로 작성해 뒀다는 점이죠. 사람이 전체를 따라가지 못해도 기계가 한 단계씩 확인할 수 있으니까요. 그런데 오픈AI는 지난주 결과를 400건가량 더 내놨습니다. 하울렛은 이를 따라잡을 전문가가 지구상에 충분하지 않다고 씁니다. 이제 병목은 모델이 아니라 검토하는 사람입니다. 10월 10일에 다룬 코딩 에이전트 연구와 같은 교훈이에요. 결과물을 뽑아내는 건 싸졌고, 일은 검토 단계에 쌓입니다.
오늘 방송에서 더 깊이 다뤄 줬으면 하는 주제나 바로잡아야 할 부분이 있다면 언제든 알려 주세요. 주소는 에이아이 데일리 브리핑 케이오 앳 랜턴 팟캐스트스 닷 컴입니다. 보내 주신 의견은 다음 브리핑을 준비하면서 꼼꼼히 살펴보겠습니다.
챙겨 둘 날짜가 두 개 있습니다. 아르곤의 할인 요금은 11월 30일에 끝나고, 앤트로픽과 NTT 데이터는 내년 3월 31일까지 오사카 계약을 맺는 것을 목표로 하는 것으로 전해졌습니다. 오늘 인용한 네 건의 기사는 쇼노트에 모아 두었습니다. AI 데일리 브리핑은 내일 새 소식과 함께 돌아옵니다. 지금까지 랜턴 팟캐스트와 함께해 주셔서 감사합니다.