지난주, 미국 연구소가 내놓은 오픈 웨이트 모델 가운데 손꼽히게 큰 두 모델이 하루 차이로 허깅 페이스에 올라왔습니다. 그중 하나는 불과 며칠 전 최고 성능 뮤즈 모델을 구독 뒤에 묶어 뒀던 메타의 모델입니다. 두 모델에 묻고 싶은 건 하나예요. GPU가 몇 장 있어야 인사라도 건넬까요? 10월 19일 월요일, AI 데일리 브리핑입니다. 뮤즈 스파크 오픈과 리플렉션의 빔으로 문을 엽니다. 이어서 아직 전력망을 기다리는 영국 데이터센터에서 발을 뺀 마이크로소프트, 그리고 워싱턴에 원하는 안전 법안을 내민 앤트로픽까지 살펴봅니다.
페드로 쿠엔카와 동료들이 허깅 페이스 블로그에 쓴 글입니다.
뮤즈 스파크 오픈은 메타가 공개한 오픈 웨이트 모델입니다. 이 혼합 전문가 모델은 텍스트와 이미지, 오디오, 비디오를 하나의 모델에 통합했으며, 파라미터는 약 8,160억 개, 토큰당 실제로 활성화되는 파라미터는 약 420억 개입니다. 컨텍스트 창은 최대 100만 토큰을 지원합니다. 이 모델은 텍스트를 생성하며, 개발자들이 다양한 유형의 입력에 대해 질문할 수 있는 공통 인터페이스를 제공합니다.
이 글은 10월 15일 목요일에 올라왔습니다. 전체 파라미터 8,160억 개에 활성 파라미터 420억 개, 입력으로는 이미지와 오디오, 비디오까지 받습니다. 메타는 이 모델을 에이전트형 코딩용으로 학습시켰어요. 그래서 저장소에서 작업하는 도중에 화면 녹화를 보거나 스크린숏을 읽을 수 있죠. 저희는 10월 13일에 뮤즈 원더와 원더 풀을 다뤘습니다. 둘 중 더 강력한 모델은 뮤즈 코드 안에 묶여 있었고, 메타는 가중치를 내놓지 않았죠. 그런데 이틀 뒤, 풀사이즈 뮤즈 모델이 내려받을 수 있는 가중치로 나왔습니다. 허깅 페이스는 이 모델을 지금까지 나온 미국 오픈 웨이트 모델 가운데 가장 뛰어나다고 소개합니다. 다만 이건 호스팅 플랫폼의 표현이에요. 독립적인 평가는 아직 나온 게 없고, 그 문구를 옮기기 전에 저는 외부 평가부터 보고 싶습니다. 배포 비용을 따져 보죠. BF16 체크포인트는 약 1.5테라바이트이고, 허깅 페이스는 H200 여덟 장짜리 노드 네 대에 나눠 돌렸습니다. NVFP4 버전은 B200 노드 한 대에 들어가고요. 2비트 양자화 버전은 512기가바이트 M3 울트라 맥에서도 돌아갑니다. 초당 18토큰으로요. 예산을 짜신다면 걸리는 점이 하나 있습니다. 추론 기능을 끌 수 없어요. 가장 낮은 설정이 '로우'입니다. 그리고 100만 토큰 문맥 하나에 KV 캐시가 약 266기가바이트 필요합니다. 그러니 100만 토큰 문맥 창은 실제로 쓰는 사람보다 사양표에서 더 자주 보게 될 겁니다. 266이라는 숫자는 기억해 두세요. 다음 모델은 정반대로 가거든요.
역시 허깅 페이스 블로그에서, 벤 버트쇼와 페드로 쿠엔카가 리플렉션의 빔을 소개했습니다.
토큰당 8개의 전문가 모델만 작동하므로, 모델이 각 토큰을 처리할 때 계산에 사용하는 파라미터는 약 230억 개입니다. 256개 전문가 모델은 모두 메모리에 상주하기 때문에 배포에는 5,010억 개 파라미터 모델에 해당하는 메모리가 필요하지만, 실행 속도는 230억 개 파라미터 모델과 같습니다. BF16 체크포인트는 safetensors 형식으로 약 1테라바이트입니다.
리플렉션이 빔을 발표한 건 10월 5일이었고, 저희가 다음 날 전해 드렸을 때만 해도 가중치는 나오지 않은 상태였습니다. 그 가중치가 10월 16일 금요일에 풀렸어요. 아파치 2.0 라이선스에 BF16과 FP8, NVFP4 형식이고, 트랜스포머스와 vLLM, SGLang에서 첫날부터 지원됩니다. 제 눈길을 끈 건 어텐션 구조입니다. 52개 층 가운데 43개는 직전 512토큰 범위만 보고, 전체 문맥을 보는 층은 9개뿐이에요. 덕분에 100만 토큰 시퀀스 하나의 KV 캐시가 40기가바이트 아래로 유지됩니다. 뮤즈 스파크 오픈은 약 266기가바이트가 필요했죠. 이건 실제로 계획을 세울 수 있는 숫자네요. NVFP4로 가중치가 약 280기가바이트까지 줄고, 허깅 페이스는 B200 네 장을 잡으라고 안내합니다. 파라미터 5천억 개에 100만 토큰 문맥 창이라면, 저는 이 조건 받겠습니다. 이제 점수입니다. SWE-벤치 베리파이드 81.6, 터미널 벤치 2.1에서 80.1, GPQA 다이아몬드 90.6. 모두 리플렉션이 내놓은 수치예요. 게다가 출시 당시 리플렉션 자체 표에서도 빔은 대부분 항목에서 키미 K3와 딥시크 V4.1 플래시에 뒤졌습니다. 허깅 페이스가 직접 돌린 다섯 가지 과제 테스트는, 본인들 표현을 빌리면 '감으로 보는 평가'고요. 구글 클라우드의 출시 글은 리플렉션의 조 스피삭을 인용해, 구글 서빙 스택에서 성능은 최대 5배, 지연 시간은 8배 낮다고 주장합니다. 그런데 그 주장에 붙은 단서가 '고객 벤치마크 기준'이에요. 베이스텐과 파이어웍스, 투게더가 이미 허깅 페이스를 통해 빔을 서비스하고 있으니, 외부에서 잰 지연 시간도 머지않아 나오겠죠.
제노스펙트럼이 영국 텔레그래프 보도를 바탕으로 전한 내용입니다.
영국 텔레그래프는 10월 18일, 마이크로소프트가 영국 에식스주 로턴에서 엔스케일과 함께 개발 중인 AI 데이터센터를 이용하기로 한 계약에서 철회했다고 보도했습니다. 2025년 발표 당시 이 시설에는 엔비디아 GPU 2만 3,040개가 배치되며, 납품은 2027년 1월부터 3월 사이에 이뤄질 예정이라고 밝혔습니다. 하지만 신문에 따르면 전력망 연결은 2030년대까지 이뤄지지 않을 것으로 예상됩니다.
GPU는 2027년 초에 도착하는데, 전력은 다음 10년 어딘가에서나 들어온다는 거죠. 사실상 그 간극이 이 이야기의 전부입니다. 다만 원인은 신중하게 봐야 합니다. 전력망 지연 때문에 마이크로소프트가 떠났다는 건 확인되지 않았어요. 로이터는 텔레그래프가 철수 이유를 밝히지 않았고, 마이크로소프트는 논평을 거부했다고 전했습니다. 엔스케일은 로이터에 로턴을 포함한 영국 사업을 이어 가면서, 대체 전력원과 영국 내 다른 부지를 검토하고 있다고 밝혔습니다. 로턴은 엔스케일이 2025년 9월에 발표한 영국 계획 가운데 애저용 부분이었습니다. 처음엔 50메가와트로 시작해 90메가와트까지 늘릴 수 있고, GB300 기반으로 설계됐죠. 오픈AI와 함께하는 스타게이트 UK는 별개 계약입니다. 저희는 몇 주째 앤트로픽의 5,180억 달러부터 보도된 오사카 부지까지, 컴퓨팅 약정을 하나씩 쌓아 왔습니다. 로턴은 반대 방향으로 움직인 첫 대형 사례예요. 그리고 오프젬의 개혁 문서에 따르면, 수요 측 전력망 연결 제안 규모는 2024년 11월 41기가와트에서 2025년 6월 125기가와트로 뛰었습니다. 마이크로소프트가 마이아를 수 기가와트 규모로 배치하겠다고 밝힌 지 일주일도 안 돼 나온 소식이기도 합니다. 두 일이 연결돼 있다는 말은 아니에요. 하지만 기가와트 단위로 계획을 말하려면, 그 전력을 실제로 끌어올 수 있는 부지부터 있어야 하죠.
폴리티코 오언 달캠프의 보도를 이어받아, 조위 모랄레스가 야후에 실린 글에서 전한 내용입니다.
앤스로픽은 AI 모델이 10억 달러의 피해를 일으키거나 50명 넘는 사람을 사망 또는 부상에 이르게 할 위험이 있을 때에만 정부가 해당 모델의 출시를 막을 수 있도록 하는 AI 안전 법안을 조용히 추진하고 있습니다.
10억 달러, 아니면 50명 넘는 사람. 기준선이 거기 그어져 있습니다. 폴리티코에 따르면, 상무부에 등록된 독립 평가기관이 연구소와 그 모델을 정기적으로 검토하고, 연구소는 독립성을 해치지 않는 선에서 평가기관에 비용을 낼 수 있습니다. 대상 위험은 세 가지입니다. 생물무기, AI를 이용한 사이버 공격, 그리고 연구소가 자사 모델이나 에이전트에 대한 통제력을 잃는 경우죠. 평가기관은 이런 일이 임박했다고 보면 72시간 안에 상무부에 보고해야 합니다. 그러면 상무부가 증거를 워싱턴 D.C. 연방 판사 앞에 가져가고, 판사가 출시 중단 여부를 결정합니다. 그리고 미국의 다른 어떤 부처나 기관, 공무원도 연구소에 모델 출시 중단을 명령할 수 없다는 조항이 들어 있어요. 오직 상무부만 할 수 있습니다. 규제를 받게 될 회사가 직접 쓴 선점 조항인 셈이죠. 앤트로픽은 이 법안이 지난 6월부터 연방과 주 의원들에게 제안해 온 자사의 첨단 AI 프레임워크를 반영한 것이라고 설명합니다. 인정할 부분도 있습니다. 모든 걸 AI 안전이라는 말 하나에 몰아넣지 않고, 구체적인 피해 세 가지를 짚었으니까요. 앤트로픽은 이미 비슷한 방식을 실행하고 있기도 합니다. 아스 테크니카는 일요일, 평가 비영리단체 메터가 앤트로픽 사무실에 팀을 상주시켜 직원에 준하는 수준으로 하드웨어와 내부 시스템에 접근하고 있다고 보도했습니다. 자기 사무실에서 외부 평가를 시연하면서, 의회에는 그걸 전국 표준으로 삼아 달라고 하는 거네요. 영리한 수입니다. 그런데 이 모델들 위에서 제품을 만드는 입장에선, 정지 버튼을 누가 쥐느냐가 핵심이에요. 이 초안대로라면 기관 하나, 법정 하나이고, 심판 보수는 연구소가 내는 구조입니다.
한 주를 여는 이 브리핑이 쓸모 있으셨다면, 지금 듣고 계신 팟캐스트 앱에서 별점과 한 줄 리뷰를 남겨 주세요. 좋았던 점도, 아쉬웠던 점도 괜찮습니다. 리뷰가 쌓일수록 이 방송을 아직 모르는 분들이 더 쉽게 찾아오실 수 있습니다.
오늘은 뮤즈 스파크 오픈과 빔, 로턴 데이터센터, 그리고 앤트로픽의 법안 초안을 짚어 봤습니다. 인용한 출처는 모두 쇼노트에 정리해 두었습니다. AI 데일리 브리핑은 내일 다시 찾아옵니다. 월요일 시간을 랜턴 팟캐스트와 함께 보내 주셔서 감사합니다.