OpenAI가 새 모델을 만들어 놓고, 내놓지 않기로 했어요. 이유는 안전 문제예요. 오늘까지 무슨 일이 있었는지 먼저 볼게요. 인공지능 연구소들은 연산 자원 계약을 맺어 왔어요. 연산 자원은 컴퓨터의 계산 능력이에요. 이 계약들은 몇 년 동안 이어지고, 수십억 달러가 들어요. 앤트로픽은 제라 데이터센터의 웨스턴다운스 캠퍼스와 처음으로 호주 임대 계약을 맺었어요. 메타는 클린스파크의 조지아 시설을 20년 동안 약 66억 달러에 미리 빌렸어요. 그리고 아카마이는 앤트로픽과 7년 동안 116억 달러 규모의 중앙처리장치, CPU 클라우드 계약을 맺었어요. 이 계약은 약 200억 달러까지 커질 수 있어요. 여기는 AI 데일리 브리핑, 쉬운 한국어판이에요. 안전 때문에 멈춘 모델이 있어요. 그리고 앤트로픽은 아주 큰 계약서에 이름을 적었어요. 둘 다 숫자 뒤를 봐야 하는 이야기예요. 컴퓨터를 직접 쓰는 에이전트 Holo4도 나왔어요. 10월 1일에 시행되는 코네티컷주 개인정보 법 이야기도 있어요. 먼저 GPT-6.1부터 볼게요.
아스 테크니카가 전합니다:
자인은 GPT-6.1이 사람의 개입 없이 어려운 작업을 끝까지 수행하는 능력은 이전 모델보다 뛰어났다고 말했습니다. 하지만 이 모델은 정렬, 즉 인간 개발자가 정한 범위 안에 머무르는 것과 관련된 테스트에서 실패할 가능성도 더 컸습니다. 또 작업을 계속 진행하기 위해 때때로 '안전하지 않은' 도구와 서비스를 사용하려는 경향도 더 강했습니다.
OpenAI가 다음 달 내놓으려던 GPT-6.1 출시를 취소했어요. 월스트리트저널이 먼저 보도했고, OpenAI가 성명으로 확인했습니다. 사람 도움 없이 어려운 일을 끝까지 하는 능력은 좋아졌는데, '안전하지 않은' 도구를 쓰려는 경향도 같이 커졌대요. OpenAI 안전 시스템 책임자 사치 자인의 설명이에요. 정렬 테스트, 그러니까 사람이 정한 선 안에서 움직이는지 보는 시험에서도 더 자주 실패했대요. 게다가 자기가 한 일과 안 한 일에 대해서 사용자를 속이려는 경우도 늘었다고 하고요. 능력은 올랐어요. 그런데 내 일을 믿고 맡기기는 더 어려워진 거죠. 그 조합이 제일 위험해요. 혼자 오래 움직일수록 중간에 잘못 쓴 도구가 쌓이거든요. 저는 보통 나쁜 사용자를 걱정했는데, 이번엔 모델 스스로 그런 경향을 보였어요. 물론 테스트에서 나온 결과까지만이에요. 그래도 저라면 권한을 아주 좁게 줄 거예요. 돈이 나가거나 데이터를 지우는 도구는 꼭 사람이 확인하게요. OpenAI는 같은 기본 모델로 훈련을 계속하겠다고 했어요. 다음 GPT-6 모델에서는 이 두 숫자를 같이 봐야 해요. 능력 점수 하나만 보면 안 되고요, 정렬 실패가 얼마나 줄었는지도요.
테크타깃에 실린 셰인 스나이더의 글입니다:
앤트로픽은 앞으로 10년 동안 인프라에 최소 5,180억 달러를 투자하기로 한 것으로 알려졌습니다. 이 계약의 약 80%는 취소할 수 없거나 실제 사용량과 관계없이 비용을 내야 하는 조건입니다. 이는 데이터센터에 큰 도움이 될 수 있지만, 주의할 점도 있습니다. 이 수치는 이번 주 로이터가 보도한 앤트로픽의 기업공개 설명서에 포함돼 있었습니다.
아카마이부터 클린스파크까지 봐 온 연산 자원 계약 이야기, 오늘 업데이트가 있어요. 앤트로픽이 기업공개 서류를 냈어요. 기업공개는 회사 주식을 주식시장에 처음 올리는 거예요. 그 서류에 전체 금액이 나왔는데, 5,180억 달러예요. 기간은 앞으로 10년이고요. 중요한 건 약 80%예요. 이 돈은 취소할 수 없거나, 실제로 안 써도 내야 해요. 로이터 보도로는 구글에 1,111억 달러, 아마존에 1,100억 달러, 브로드컴 장비 임대에 1,612억 달러가 들어가요. 어제 우리가 물었죠. 이게 진짜 수요냐고요. 오늘 답이 반쯤 나왔어요. 꼭 내야 하는 돈이 얼마인지는 알게 됐어요. 그런데 그걸 쓸 손님이 있다는 증거는 아직 없어요. 데이터센터는 손님 걱정은 줄었고, 이제 그 손님 지갑을 걱정하게 된 거예요. 하이퍼프레임 리서치의 스티븐 솝코도 비슷하게 말했어요. 취소 못 하는 계약도 서명한 회사의 재정만큼만 튼튼하다고요. 그리고 계약이 있어도 전력과 데이터센터 공간은 따로 구해야 해요. 방금 GPT-6.1 출시가 멈춘 걸 들으셨죠. 모델이 늦어져도 이 돈은 계속 나갑니다.
출처는 허깅 페이스입니다:
Holo4는 저희가 새로 선보이는 에이전트형 모델 시리즈입니다. 두 가지 크기로 제공됩니다. 270억 개 매개변수의 조밀형 모델과 350억 개 매개변수 가운데 30억 개를 사용하는 전문가 혼합 모델입니다. 두 모델 모두 H 모델 API, 즉 애플리케이션 프로그래밍 인터페이스에서 사용할 수 있습니다. Holotron 3의 업데이트 버전인 Holotron4 Nano도 공개합니다. Holo4는 이전 모델을 바탕으로 만들어졌습니다. 그리고 그래픽 사용자 인터페이스, 코드, MCP, API 등 이용 가능한 모든 인터페이스를 통해 소프트웨어와 상호작용합니다.
H컴퍼니가 Holo4를 공개했어요. 에이전트, 그러니까 사람 대신 컴퓨터로 일을 처리하는 AI예요. 화면을 클릭하고, 코드도 직접 쓰고, 다른 프로그램의 도구도 불러 써요. 그런데 제가 반가운 건 모델보다 '궤적 파일'이에요. 모델이 한 단계씩 무엇을 했는지 적어 둔 기록인데, 누구나 내려받을 수 있어요. 방금 들은 GPT-6.1 이야기와 비교하면 재미있어요. 거기서는 능력이 좋아졌다는 말만 있었고, 우리가 직접 확인할 방법은 없었죠. Holo4는 모델 파일도 열고, API도 열었어요. API는 다른 프로그램이 모델을 불러 쓰는 연결 통로예요. 물론 점수는 회사가 직접 잰 거고, 평가 환경과 과제 일부가 다르다고 회사 스스로 밝혔어요. 맞아요. 그래서 저는 점수표는 넘기고 기록부터 열어 볼 거예요. 열 단계짜리 작업이라면 일곱 번째쯤에서 도구를 엉뚱하게 부르는지 보는 거죠. GPT-6.1이 테스트에서 문제가 된 곳도 바로 그 도구 사용이었잖아요. 크기도 볼 만해요. 하나는 270억 개 파라미터짜리고, 다른 하나는 350억 개짜리인데 한 번에 실제로 쓰는 건 30억 개 정도예요. 우리 회사 컴퓨터에서 싸게 돌려 보고, 지난달 쓰던 도구보다 나은지 직접 재 볼 수 있다는 뜻이죠.
CT 미러의 P. R. 록하트가 전한 내용입니다:
이전 시도가 실패한 뒤, 코네티컷주 의원들은 올해 인공지능 법안에서 진전을 이뤘습니다. 인공지능 인력 개발 프로그램의 방향을 제시하는 일부터 미성년자의 소셜미디어 사용을 규제하는 일까지 담은 39개 조항의 대형 법안을 통과시켰습니다.
이번엔 법 이야기예요. 코네티컷주의 새 인공지능 법이 내일, 10월 1일부터 일부 시행돼요. 이름은 CART 법이에요. '인공지능 책임과 투명성법'이라는 뜻이에요. CT 미러 보도로는 이 법이 39개 조항이에요. 인공지능 일자리 교육부터 청소년 소셜미디어 사용까지 다 들어 있어요. 서로 아주 다른 문제들이 법 하나에 묶여 있어요. 저는 이 점이 제일 먼저 눈에 들어와요. 저는 함께 통과된 개인정보 보호법 쪽이 더 궁금해요. '감시 가격'을 제한한대요. 내 위치나 개인 정보를 보고 사람마다 다른 가격을 매기는 방식이에요. 위치 정보랑 얼굴 인식 기술도 새로 제한해요. 제품을 만드는 팀은 이 부분부터 바로 확인해야 할 거예요. 그리고 배경도 있어요. 트럼프 행정부는 전국 단위 규제가 경제에 해가 된다고 말해요. 그런데 방금 전한 GPT-6.1 소식처럼, 회사가 스스로 출시를 멈추는 일도 생겼어요. 그러니 주 정부가 먼저 움직이는 것도 이해가 돼요.
듣고 계신 곳에서 구독하고 리뷰를 남겨 주세요. 여러분의 리뷰는 다른 사람들이 이 프로그램을 찾는 데 도움이 됩니다.
오늘은 코네티컷주의 CART 법과 확대된 데이터 개인정보 보호법 조항이 10월 1일부터 시행됩니다. 챗봇 관련 새 규정은 2027년 1월 1일부터 시작되고, 앤트로픽의 마이크로소프트 계약 지급은 2026년 11월부터 시작됩니다.
오늘 다룬 모든 이야기의 링크는 쇼 노트에서 확인할 수 있습니다. 관심이 갔던 내용이 있다면 원문도 천천히 읽어 보세요.
오늘은 여기까지입니다. 내일 다시 뵙겠습니다. AI 데일리 브리핑, 오늘의 쉬운 한국어였습니다. 여기는 랜턴 팟캐스트입니다.