내년에 AWS에서 큰 규모로 컴퓨팅을 빌릴 계획이셨다면, 서두르셔도 늦었을 수 있습니다. 앤디 재시 말로는 2027년 물량이 이미 대부분 나갔다고 하거든요. 2028년 물량도 상당 부분 예약이 끝났다고 합니다. 10월 26일 월요일, AI 데일리 브리핑입니다. 오늘은 예약이 꽉 찬 아마존 클라우드, 네오클라우드 주가가 미끄러지면서 CNBC가 들여다본 엔비디아의 보증 약정, 독립 평가에서 선두 세 모델 바로 뒤에 선 문샷의 키미 K3.1 프로, 그리고 채용 플랫폼 산하 AI 연구소가 내놓은 330억 파라미터 오픈 에이전트 모델을 전해 드립니다. 팔로우해 두시면 다음 소식도 바로 전해드리겠습니다.
로이터 재스프리트 싱 기자의 보도를 받아 쓴 민트의 프라기야 싱하 로이입니다.
인프라는 단순히 데이터센터만을 의미하지 않습니다. 전력 공급과 메모리 부품도 공급이 빠듯한 상황이며, 2027년에는 메모리 부족 사태가 끝날 것으로 보지 않는다고 재시는 말했습니다.
발언이 나온 곳은 지난 금요일, 안드리센 호로위츠의 벤 호로위츠와 에릭 토렌버그가 진행하는 영상 팟캐스트였습니다. 재시는 AWS 용량이 2027년까지 대부분 팔렸고, 2028년분도 상당 부분 약정이 끝났다고 했습니다. 온디맨드용으로 남겨 두는 몫은 있지만, 큰 덩어리는 이미 주인이 있다는 겁니다. 영업 담당자가 용량이 빠듯하다고 할 때 엄살이 아니었던 거죠. 스타트업 입장에서는 남는 게 온디맨드뿐인데, 하필 아마존이 가장 적게 남겨 둔 게 그 온디맨드입니다. 아마존은 2026년 설비투자로 약 2,200억 달러를 제시해 왔습니다. 로이터에 따르면 재시는 이보다 훨씬 더 투자할 수도 있고, 그게 나쁜 자본 사용은 아닐 거라고 했습니다. 그가 꼽은 제약은 건물만이 아닙니다. 전력, 고대역폭 메모리, 일반 D램까지 모두 부족하고, 메모리난이 2027년에 풀릴 거라고 보지 않는다고 했습니다. 자체 칩 트레이니엄 홍보도 빠지지 않았어요. 비슷한 대안보다 가격 대비 성능이 30에서 40퍼센트 낫다는데, 이건 아마존이 내놓은 숫자입니다. 제가 더 눈여겨본 건 따로 있습니다. 추론 비용이 AI가 제대로 퍼지기엔 아직 한 자릿수 단위만큼 비싸다고 재시가 말했거든요. 추론을 파는 회사 대표 입에서 나온 말이라 무게가 다릅니다. 아마존의 3분기 실적 발표는 이번 주 목요일, 10월 29일입니다.
토요일 자 CNBC 기사, 키프 레스윙과 이사벨 오브라이언 기자입니다.
엔비디아는 7월에 제출한 가장 최근 분기 재무 보고서 기준으로 네오클라우드를 위한 360억 달러 규모의 장부 외 AI 클라우드 계약, 즉 지원 약정을 보유하고 있었습니다. 이는 오하이오주에 제안된 10기가와트 규모 오픈AI 데이터센터의 칩과 부지, 전력에 대해 최대 1,050억 달러를 보증하기로 한 약정에 추가된 것입니다. 엔비디아는 향후 데이터센터 임대 계약 200억 달러에 대해 임차인으로 서명했으며, 이 계약은 이후 제3자에게 양도될 예정입니다.
쉽게 말해 엔비디아가 남의 데이터센터 뒤에 신용등급을 빌려주고 있는 겁니다. 이런 계약 대부분은 누군가 채무를 못 갚기 전까지는 엔비디아가 돈을 낼 일이 없죠. CNBC가 짚는 건, 시장이 이제 그 '누군가'가 나올 가능성을 가격에 반영하기 시작했다는 점입니다. 이달 숫자를 보면, 코어위브와 네비우스, 아이렌 주가가 각각 30퍼센트 이상 빠졌습니다. 코어위브 신용부도스와프 스프레드는 11퍼센트를 넘었고, 2031년과 2032년 만기 채권 수익률은 15퍼센트를 웃돌았습니다. 엔비디아 주가도 이달 들어 7.6퍼센트 내렸습니다. GPU 임대가 본업인 회사 채권이 15퍼센트라니요. 2021년 말 거품기 분위기가 납니다. 앞선 방송과 이어지는 대목이 있습니다. 지난주 월요일에 마이크로소프트가 엔스케일의 영국 로턴 사업에서 빠졌다는 소식을 전해 드렸죠. CNBC는 엔비디아가 엔스케일 투자자라는 점을 짚습니다. 엔스케일은 9월 미국 상장을 신청했지만 몇 주째 계획을 업데이트하지 않았습니다. 엔비디아가 투자한 또 다른 클라우드 업체 퍼머스는 이달 상장을 철회했고요. 지난 목요일에는 엔비디아의 2,790억 달러 규모 공급업체 지원 약정도 다뤘습니다. 공급망 양쪽 끝에서 엔비디아가 위험을 떠안고 있는 셈입니다. 젠슨 황의 답은 지난 목요일 베를린에서 CNBC에 한 말입니다. 네오클라우드 수요는 넘쳐나고, 부족한 건 운전자본이라는 거죠. 그 운전자본을 대 주는 게 마침 엔비디아고요. 무디스는 좀 더 차분하게 봅니다. 데이비드 곤잘레스는 가까운 시일 안에는 칩 가치가 계약상 잔존가치보다 높게 유지될 가능성이 크고, 그렇다면 엔비디아의 노출도 제한될 거라고 했습니다.
금요일 공개된 아티피셜 애널리시스의 평가를 오피스차이 팀이 정리했습니다.
K3.1 프로는 이 지수에서 55점을 기록해 클로드 오퍼스 5.5(폴백 포함 최대 설정, 58점), 클로드 소네트 5.5(폴백 포함 최대 설정, 56점), 뮤즈 원더 풀(최대 설정, 56점) 등 세 모델에만 뒤졌습니다. 오픈AI의 GPT-6 아스트라(53점)와 구글의 제미나이 4 아르곤(53점)은 물론, 메타의 뮤즈 원더(최대 설정, 52점)와 GPT-6.1 솔(52점)을 포함해 현재 순위표에 오른 다른 모든 모델보다 높은 점수를 기록했습니다.
전작 키미 K3보다 11점이 올랐는데, 덩치는 그대로입니다. 전체 파라미터 2조 8천억 개, 활성 파라미터 1,040억 개요. 중요한 건 누가 쟀느냐입니다. 문샷이 직접 만든 표가 아니라, 제3자가 모든 모델에 똑같은 평가 열 가지를 돌린 결과입니다. 가장 크게 오른 건 에이전트 작업입니다. 터미널 벤치 4.0에서 67퍼센트로 전체 모델 중 최고 점수를 냈는데, K3는 13퍼센트였습니다. 실제 업무 과제를 보는 GDPval-AA에서는 312 엘로가 올라 3위에 올랐습니다. 제 눈길을 끈 건 가격이에요. 문샷이 API 가격을 3분의 1 내려서 입력 100만 토큰당 2달러, 출력 100만 토큰당 10달러가 됐습니다. 과제당 출력 토큰은 14퍼센트쯤 더 쓰기 때문에, 지수 기준 과제당 비용은 1.98달러 대 2달러로 거의 같습니다. 최상위권에 근접한 에이전트 점수를 이 값에 쓸 수 있다면, 어떤 작업을 어디로 보낼지 다시 따져 봐야죠. 가중치는 아직 공개되지 않았습니다. 아티피셜 애널리시스는 공개되는 순간 최고 점수의 오픈 웨이트 모델이 되고, 최고 비공개 모델과의 격차는 12점에서 3점으로 줄어든다고 봅니다. BYOBot 정리에 따르면 약속된 공개일은 11월 4일입니다. 출시 주간이 매끄럽지만은 않았습니다. iyooo 정리에 따르면 키미는 K3.1 프로의 속도 제한과 예상치 못한 크레딧 소진에 대해 사과하고, 모든 구독자의 사용량을 초기화한 뒤 한 달 할당량의 4분의 1을 보상으로 얹어 줬습니다. 용량이 모자란 건 AWS만이 아니네요.
허깅 페이스에 올라온 난베이지 LLM 랩의 난베이지 4.3-33B 모델 카드입니다.
난베이지 4.3-33B를 약 300억 매개변수 규모로 최근 출시된 프런티어 모델인 Qwen3.8-27B, Muse-Glimmer-30B, Gemma4-31B와 비교했습니다. 모든 모델은 가장 높은 사고 노력 설정으로 평가했습니다. 각 벤치마크에서는 모델 전반에 동일한 추론 하이퍼파라미터와 평가 도구를 사용했습니다.
혼합 전문가 구조가 아닌 330억 파라미터 밀집 모델이고, 아파치 2.0 라이선스에 문맥 길이는 51만 2천 토큰입니다. 마크테크포스트의 아시프 라자크는 이 연구소가 채용 플랫폼 BOSS 즈핀 소속이라는 점, 그리고 BF16 가중치가 약 66기가바이트라는 점을 짚었습니다. 연구소는 이 모델을 교사 모델이라고 부릅니다. 에이전트 능력을 더 작은 모델로 증류하는 게 목표이고, 첫 대상은 30억 파라미터 버전입니다. 자체 표에서는 스무 개 항목 중 열일곱 개에서 앞서지만, SWE-벤치 프로에서는 큐웬에 뒤지고 터미널 벤치 4.0은 23.8에 그칩니다. 같은 벤치마크에서 키미가 67이었죠. 활성 파라미터 1천억 개가 뭘 사 주는지 보이는 대목입니다. 그런데 제가 자꾸 들여다보게 되는 줄은 뮤즈 글리머예요. 지난 수요일에 전해 드린 메타 자체 보고서에서는 글리머의 SWE-벤치 프로 점수가 51.2였습니다. 난베이지의 평가 환경에서는 36.9가 나왔어요. 조심해서 받아들여야 합니다. 경쟁 연구소가 미니 SWE 에이전트라는 자체 평가 도구로 낸 자체 수치입니다. 다만 메타 바깥에서 글리머를 다른 모델들과 나란히 돌려 본 건 이번이 처음이고, 결과가 글리머에게 우호적이지는 않습니다. 디그 스레드에서 예전 난베이지 모델을 써 봤다는 한 이용자는 결과가 대체로 맞을 거라면서도, 불안정하고 같은 동작을 끝없이 반복하는 루프에 빠지기 쉬울 수 있다고 경고했습니다. 제가 제일 먼저 시험해 볼 게 바로 그겁니다. 7단계에서 같은 짓만 되풀이하는 모델은 에이전트라고 부를 수 없죠.
오늘 소식 중 클라우드 용량 부족을 실제로 체감하고 계신 분이 있다면, 혹은 키미나 난베이지를 직접 돌려 보신 분이 있다면 경험을 들려주세요. 메일 주소는 에이아이 데일리 브리핑 케이오 앳 랜턴 팟캐스트스 닷 컴입니다. 보내 주신 이야기는 다음 브리핑을 꾸릴 때 꼼꼼히 참고하겠습니다.
용량이 바닥난 아마존, 보증으로 버티는 엔비디아, 독립 평가대에 오른 키미 K3.1 프로, 그리고 난베이지의 오픈 교사 모델까지 살펴봤습니다. 출처는 모두 쇼노트에 정리해 두었습니다. AI 데일리 브리핑은 랜턴 팟캐스트의 프로그램입니다. 내일, 10월 27일 화요일에 다시 찾아뵙겠습니다.