지난주 허깅페이스에 아주 큰 오픈 웨이트 모델 두 개가 하루 차이로 올라왔어요. 오픈 웨이트는 모델의 학습된 숫자를 누구나 내려받을 수 있게 공개한다는 뜻이에요. 하나는 메타가, 하나는 리플렉션이라는 미국 연구소가 만들었어요. 좋아요. 그런데 이걸 돌리려면 컴퓨터가 얼마나 필요할까요? 그 답은 조금 뒤에 말할게요. 10월 19일 월요일, AI 데일리 브리핑—쉬운 한국어입니다. 오늘은 메타의 뮤즈 스파크 오픈과 리플렉션의 빔으로 시작해요. 그다음에는 마이크로소프트가 영국 데이터센터 계약에서 빠졌다는 보도를 봐요. 마지막은 Anthropic이 원하는 AI 안전 법안이에요. 다음 에피소드를 놓치지 않도록 팔로우해 주세요.
페드로 쿠엔카와 동료들이 허깅페이스 블로그에 쓴 내용입니다:
뮤즈 스파크 오픈은 메타가 공개한 오픈 웨이트 모델입니다. 전문가 혼합 모델은 텍스트, 이미지, 오디오, 동영상을 하나의 모델로 처리합니다. 매개변수는 약 8,160억 개이고, 토큰 하나마다 실제로 작동하는 매개변수는 약 420억 개입니다. 문맥 창은 최대 100만 토큰입니다.
이 글은 10월 15일 목요일에 올라왔어요. 매개변수는 모델 안에 있는 학습된 숫자예요. 전체는 약 8,160억 개인데, 한 번에 일하는 건 약 420억 개뿐이에요. 전문가 혼합은 작은 전문가 여러 개 가운데 몇 개만 골라 쓰는 구조예요. 메타는 이 모델을 코딩 에이전트용으로 학습시켰어요. 그래서 코드를 고치면서 화면 녹화나 스크린숏도 볼 수 있어요. 10월 13일에 우리는 뮤즈 원더를 다뤘어요. 그때 더 강한 모델은 유료 코딩 도구 뮤즈 코드 안에만 있었어요. 내려받을 수도 없었고요. 그런데 이틀 뒤, 큰 뮤즈 모델을 누구나 내려받을 수 있게 됐어요. 허깅페이스는 지금까지 미국에서 나온 오픈 웨이트 모델 중에 가장 뛰어나다고 해요. 하지만 이건 모델을 올린 곳의 설명이에요. 회사 밖의 독립 평가는 아직 없어요. 이제 아까 질문에 답할게요. GPU는 AI 계산에 쓰는 칩이에요. 기본 파일은 약 1.5테라바이트예요. 허깅페이스는 H200 GPU 8개가 든 서버 4대로 돌렸어요. 더 작게 줄인 NVFP4 버전은 B200 서버 1대에 들어가요. 아주 작게 줄인 버전은 메모리가 512기가바이트인 M3 울트라 맥에서도 돌아가요. 속도는 1초에 토큰 18개예요. 토큰은 AI가 글을 처리하는 작은 단위예요. 비용을 계산할 때 알아 둘 점도 있어요. 이 모델은 생각하는 단계, 즉 추론을 끌 수 없어요. 가장 낮은 설정도 '낮음'이에요. 문맥 창은 모델이 한 번에 읽을 수 있는 양이에요. 100만 토큰을 한 번에 읽으려면 KV 캐시가 약 266기가바이트 필요해요. KV 캐시는 모델이 읽은 내용을 잠깐 기억해 두는 메모리예요. 266이라는 숫자를 기억해 주세요. 다음 모델에서는 이 숫자가 많이 달라요.
벤 버트셴쇼와 페드로 쿠엔카가 같은 허깅페이스 블로그에서 리플렉션의 빔을 소개한 내용입니다:
토큰 하나마다 전문가 8개만 작동하므로, 모델이 각 토큰을 계산할 때 사용하는 매개변수는 약 230억 개입니다. 전문가 256개는 모두 메모리에 남아 있습니다. 따라서 배포할 때는 5,010억 개 매개변수 모델에 필요한 메모리가 필요하지만, 작동 속도는 230억 개 매개변수 모델과 같습니다.
리플렉션은 10월 5일에 빔을 발표했어요. 우리는 다음 날인 10월 6일에 이 소식을 전했어요. 그때는 모델 파일이 아직 없었어요. 그 파일이 10월 16일 금요일에 나왔어요. 라이선스, 즉 사용 조건은 Apache 2.0이에요. 회사도 자유롭게 쓰고 고칠 수 있는 공개 라이선스예요. 저는 구조가 눈에 띄었어요. 이 모델에는 층이 52개 있어요. 그중 43개는 바로 앞의 512토큰만 봐요. 전체 문맥을 다 보는 층은 9개뿐이에요. 그래서 100만 토큰을 읽어도 KV 캐시가 40기가바이트보다 적어요. 뮤즈 스파크 오픈은 약 266기가바이트였죠. 이건 제가 실제로 계획을 세울 수 있는 숫자예요. NVFP4로 줄이면 모델 파일이 약 280기가바이트예요. 허깅페이스는 B200 GPU 4개를 준비하라고 해요. 매개변수 5,010억 개 모델에 이 정도면 괜찮아요. 이제 점수예요. 코딩 시험인 SWE-bench Verified에서 81.6점이에요. 그런데 이 숫자는 리플렉션이 직접 낸 거예요. 그리고 출시 때 리플렉션의 표에서도 빔은 대부분 항목에서 Kimi K3와 DeepSeek V4.1 Flash보다 낮았어요. 허깅페이스도 자기 시험을 '느낌으로 보는 평가'라고 불렀어요. 베이스텐, 파이어웍스, 투게더 같은 회사가 이미 빔을 서비스하고 있어요. 그러니 회사 밖에서 잰 속도 숫자도 곧 나올 거예요.
엑스노스펙트럼이 영국 텔레그래프의 보도를 바탕으로 쓴 내용입니다:
영국 텔레그래프는 10월 18일, 마이크로소프트가 영국 에식스주 로턴에서 엔스케일과 함께 개발 중인 AI 데이터센터를 사용하기로 한 계약에서 빠졌다고 보도했습니다. 2025년 발표에 따르면 이 시설에는 엔비디아 GPU 2만 3,040개가 설치될 예정이었고, 배송은 2027년 1월부터 3월 사이로 계획됐습니다. 그러나 이 신문에 따르면 전력망 연결은 2030년대까지 이뤄지지 않을 것으로 예상됩니다.
데이터센터는 AI 컴퓨터를 많이 모아 둔 큰 건물이에요. 전력망은 전기를 보내는 연결망이고요. GPU는 2027년 초에 오는데, 전기는 2030년대에 와요. 이 차이가 이야기의 거의 전부예요. 하지만 원인은 조심해야 해요. 전기 문제 때문에 마이크로소프트가 빠졌다는 건 확인되지 않았어요. 로이터에 따르면 텔레그래프는 이유를 밝히지 않았어요. 마이크로소프트도 의견을 밝히지 않았어요. 엔스케일은 로턴을 포함해 영국 사업을 계속한다고 로이터에 말했어요. 다른 전기 공급 방법과 영국 안의 다른 장소도 찾고 있다고 해요. 로턴 시설은 2025년 9월에 발표됐어요. 마이크로소프트의 클라우드 서비스인 애저를 영국에서 운영할 곳이었어요. 처음에는 50메가와트, 나중에는 90메가와트까지 늘릴 계획이었어요. 메가와트는 전기를 얼마나 쓰는지 재는 단위예요. 우리는 몇 주 동안 AI 회사들의 컴퓨터 계약을 하나씩 기록해 왔어요. Anthropic의 5,180억 달러 계약도 있었고, 오사카 데이터센터 보도도 있었어요. 로턴은 반대 방향으로 가는 첫 큰 사례예요. 그리고 일주일도 안 됐어요. 마이크로소프트는 자체 칩 마이아를 수 기가와트 규모로 늘리겠다고 했죠. 두 일이 관련 있다는 말은 아니에요. 하지만 기가와트를 말하려면, 그 전기를 실제로 받을 수 있는 장소가 먼저 있어야 해요.
폴리티코 보도를 바탕으로, 조위 모랄레스가 야후에 실린 글에서 전한 내용입니다:
앤트로픽은 AI 모델 출시를 막을 수 있는 AI 안전 법안을 조용히 추진하고 있습니다. 이 법안에 따르면 정부는 해당 모델이 10억 달러의 피해를 일으키거나 50명 넘는 사람을 사망 또는 부상에 이르게 할 위험이 있을 때만 출시를 막을 수 있습니다.
피해 10억 달러, 또는 50명이 넘는 사람이 죽거나 다치는 위험. 정부가 출시를 막으려면 위험이 이 정도는 돼야 해요. 폴리티코에 따르면 방법은 이래요. 미국 상무부에 등록한 독립 평가 기관이 회사와 모델을 정기적으로 확인해요. 회사는 평가 기관에 돈을 낼 수 있어요. 다만 그 돈이 독립성에 영향을 주면 안 돼요. 위험은 세 가지예요. 생물 무기, AI를 쓴 사이버 공격, 그리고 회사가 AI 모델이나 에이전트를 통제하지 못하는 경우예요. 평가 기관은 위험을 보면 72시간 안에 상무부에 알려야 해요. 그러면 상무부가 워싱턴 D.C.의 연방 판사에게 증거를 가져가요. 판사가 출시를 멈출지 정해요. 이런 조항도 있어요. 상무부 말고는 미국의 어떤 기관도 출시를 멈추라고 명령할 수 없어요. 규제를 받을 회사가 내민 안에 이런 내용이 들어 있는 거예요. Anthropic은 이 법안이 자기 회사의 AI 정책 제안을 담았다고 말해요. 6월부터 연방과 주 의원들에게 설명해 왔다고 해요. 좋은 점도 있어요. 모든 걸 'AI 안전'이라는 말로 묶지 않고, 위험 세 가지를 정확히 적었어요. 그리고 아스 테크니카는 일요일에 이렇게 보도했어요. AI를 평가하는 비영리 단체 METR의 팀이 Anthropic 사무실 안에서 일한다고요. 직원과 비슷하게 하드웨어와 내부 시스템에 접근할 수 있다고 해요. 자기 사무실에서 외부 평가를 보여 주고, 의회에는 그걸 전국 기준으로 만들어 달라는 거죠. 똑똑한 전략이에요. 하지만 저는 이런 모델로 제품을 만드는 사람이에요. 그래서 묻고 싶어요. 멈춤 버튼은 누가 갖나요? 이 안에서는 기관 하나, 법원 하나예요. 그리고 심판에게 돈을 내는 건 회사예요.
오늘 듣다가 어려운 단어가 있었나요? 아니면 우리가 틀리게 말한 내용이 있었나요? 이메일로 알려 주세요. 주소는 에이아이 데일리 브리핑 케이오 러너 앳 랜턴 팟캐스트스 닷 컴이에요.
오늘은 뮤즈 스파크 오픈, 빔, 로턴 데이터센터, 그리고 Anthropic의 법안 이야기를 했어요. 기사 링크는 모두 쇼 노트에 있어요. AI 데일리 브리핑—쉬운 한국어는 내일 다시 찾아올게요. 이 방송은 랜턴 팟캐스트가 만들었어요. 좋은 월요일 보내세요.