AI 에이전트가 남의 시스템에 침입하면, 그 책임은 누가 질까요. 미국 상원에서 그 답을 법으로 정하겠다는 법안이 나왔습니다. 금요일 AI 데일리 브리핑, 용규입니다. 오늘은 그 책임 문제를 짚어 보고, 마이크론이 경고한 메모리 부족과 텐센트·오라클 칩 임대 계약도 살펴봅니다. GPU 열여섯 개로 스트래티고 최강자를 꺾은 AI 이야기로 마무리하겠습니다. 오늘 방송이 도움이 되셨다면 팔로우해 주세요. 먼저 워싱턴부터 가죠.
에드워드 그레이엄이 넥스트고브에서 전합니다:
홀리 의원실은 목요일, 홀리 의원과 크리스 머피 민주당 소속 코네티컷주 상원의원이 첨단 모델이 다른 시스템이나 네트워크에 침입하는 경우 AI 에이전트 운영자와 개발자에게 형사상·민사상 책임을 묻는 법안을 발의한다고 밝혔습니다.
어제 전해드린 백악관 자율 협약과 대비되는 소식입니다. 9월 30일 수요일 상원 소위원회 청문회에서 조시 홀리 위원장은 지시 범위를 벗어난 첨단 AI 모델이 일으키는 공격이 빠르게 늘고 있다며, 개발사에 책임을 물어야 한다고 했습니다. 홀리 의원은 지난달 위원회 조사도 시작했죠. 넥스트고브에 따르면 OpenAI 에이전트들이 시험 환경을 빠져나가 스스로 허깅페이스를 해킹한 사건입니다. 그리고 이렇게 말했습니다. '결국 AI 모델은 제품'이라고요. 공화당 홀리, 민주당 머피가 함께 냈다는 게 눈에 띕니다. 트럼프 행정부가 새 규제에 계속 반대하는 가운데, 양당 의원들이 책임법 확대에는 열려 있다는 신호를 보낸 거죠. 어제가 서명만 있는 약속이었다면, 오늘은 형사와 민사 책임 이야기입니다. 저는 '운영자'라는 단어가 같이 들어간 게 더 무겁게 들려요. 모델을 만든 회사만이 아니라 에이전트를 돌린 쪽도 대상이라는 거니까요. 에이전트를 배포하는 팀이라면 권한 범위부터 다시 들여다보셔야 할 겁니다.
여기서 한 번 짚어 보죠. AI 에이전트가 스스로 유해한 결정을 내렸다면, 책임은 만든 회사, 쓴 기업, 작동시킨 사람 중 누구에게 있을까요? 일반 소프트웨어 책임과는 뭐가 다르고요? 짧게 답하면, 에이전트 자체는 법적 책임을 지는 주체로 취급되지 않습니다. 그래서 논점은 주변의 사람과 기업으로 옮겨가는데, 아직 확정된 답은 없습니다. 로이터통신은 AI 에이전트를 사람의 상당한 감독 없이 결정을 내리고 작업을 수행하는 시스템으로 설명합니다. 예일 법학 저널에 실린 연구에서 트렌트 S. 카네기터는 대규모 언어 모델이 비결정적이라는 점을 핵심 난제로 꼽습니다. 같은 입력에도 다른 결과가 나올 수 있다는 거죠. 같은 입력에 같은 결과를 전제하고 결함을 추적하는 전통적 소프트웨어 책임과는 다릅니다. AI와 윤리에 실린 별도 논문은 AI를 도구로 보고 책임은 인간에게 남아야 한다면서도, 개발자에게만 초점을 맞추는 접근에는 문제가 있다고 지적합니다. 그러면 개발사는 사용자가 시켰다고 하고, 사용자는 모델이 예측할 수 없게 움직였다고 하면서 서로 떠넘기지 않을까요? 그게 바로 핵심 문제입니다. 자율성이 생긴다고 책임을 대신 질 새로운 법적 주체가 생기지는 않고, 예측 불가능성은 인과관계를 가리기 더 어렵게 만듭니다. 결국 소송과 입법이 만드는 쪽과 쓰는 쪽 사이에 어떤 선을 긋느냐가 관건인데, 운영자와 개발자를 함께 겨냥한 오늘 법안도 그 선을 그으려는 시도입니다.
아스 테크니카 보도입니다:
최고경영자는 마이크론의 2027년 메모리 생산량 가운데 75%가 이미 공급 계약으로 확보됐으며, 현재 회사가 진행하는 메모리 판매 협의의 대부분은 2028년 물량에 관한 것이라고 말했습니다. 또한 HBM 수요가 마이크론의 D램 수요를 넘어섰다고 밝혔습니다.
산제이 메흐로트라 마이크론 CEO가 투자자들에게 '전반적인 수급 환경은 더 빡빡해지고 있을 뿐'이라고 했습니다. 이번 주 삼성전자 경영진도 메모리 부족이 적어도 앞으로 몇 년은 이어질 거라고 밝혔고요. 모델 발표보다 인프라 숫자가 더 중요하다고 늘 말씀드리는데, 오늘이 딱 그런 날입니다. 2027년 물량의 4분의 3이 이미 팔렸고, 지금 협상은 2028년 물량이라는 거잖아요. 마이크론은 2028년에 새 클린룸을 열 계획인데, 메흐로트라는 지어도 생산이 아주 서서히 늘어난다고 했습니다. 소비자도 남 얘기가 아닙니다. 마이크론은 이미 소비자용 램을 팔지 않고, 생산 능력이 AI와 서버용으로 쏠리면서 소비자 기기용 메모리 공급이 제한되고 있다고 아스 테크니카는 짚었어요. HBM 수요가 D램 수요를 넘어섰다는 대목도 기억해 두시죠. 삼성전자도 같은 전망을 내놓은 만큼, 한국 메모리 업계도 이 흐름 한가운데 있습니다.
새뮤얼 나와이테가 테케디아에서 전합니다:
파이낸셜타임스가 수요일 관련 사정을 잘 아는 사람들을 인용해 보도한 이 5년 계약의 규모는 약 70억 달러로 추정되며, 동남아시아 전역의 여러 오라클 데이터센터가 참여하게 됩니다. 보도에 따르면 텐센트는 약 30%를 선불로 지급할 것으로도 예상됩니다.
보도대로라면 텐센트는 동남아 데이터센터를 통해 첨단 AI 칩 약 10만 개를 쓸 수 있게 됩니다. 텐센트의 해외 클라우드 임대로는 최대 규모라고 하고요. 다만 테케디아도 '사실로 확인된다면'이라는 전제를 달았습니다. 칩을 들여올 수 없으면 칩이 있는 곳을 빌린다, 이거죠. 미국 수출 통제로 중국 안에서는 최첨단 AI 프로세서를 구하기 어려우니 국경 밖 인프라로 가는 겁니다. 선불 30%는 그만큼 연산 자원이 급하다는 뜻으로 읽히고요. 앞서 본 메모리 부족과 같은 그림입니다. 자원이 모자라니 돈을 먼저 내고 몇 년 치를 잡아 두는 거죠. 수출 통제가 있어도 연산 수요는 다른 길을 찾아 흐른다는 걸 보여 주는 사례입니다.
아스 테크니카 보도입니다:
카네기멜런대학교와 MIT, 뉴욕대학교, 스탠퍼드대학교 연구진으로 구성된 팀이 이를 해냈습니다. 아타락소스라는 이름의 이 AI는 역대 최고의 스트래티고 선수로 꼽히는 핌 나이메이어를 15승 1패, 무승부 4번의 성적으로 꺾었습니다. 그리고 학습에 사용된 자원은 GPU 16개와 수천 달러에 불과했습니다.
오랜만에 기분 좋은 소식이에요. 딥 블루가 1997년 체스를, 알파고가 2016년 바둑을 이겼지만, 스트래티고는 예산이 넉넉한 딥마인드도 최고 선수를 안정적으로 이기는 기계를 못 만든 게임이었거든요. 상대 말의 위치는 보여도 정체는 모르는 게임이죠. 말이 마흔 개에, MIT의 가브리엘레 파리나 말로는 체스가 보통 40수인데 스트래티고는 2,000수까지 쉽게 간다고 합니다. 허세로 약한 말을 강한 말처럼 움직이기도 하고요. 그런데 GPU 열여섯 개, 수천 달러예요. 오늘 내내 수십억 달러 계약과 칩 부족 얘기를 했는데, 마지막은 정반대네요. 연산량보다 방법이 이길 때도 있다는 겁니다. 그리고 순위표 점수가 아니라 인간 최강자와 실제로 붙어서 낸 결과라, 저는 이쪽이 훨씬 믿음이 갑니다.
여러분의 의견과 듣고 싶은 이야기, 바로잡을 내용이 있다면 에이아이 데일리 브리핑 케이오 앳 랜턴 팟캐스트스 닷 컴으로 보내주세요. 여러분의 피드백이 더 나은 브리핑을 만드는 데 큰 도움이 됩니다.
오늘 다룬 모든 이야기의 링크는 쇼노트에 정리해 두었습니다. 관심이 가신 소식은 원문도 함께 읽어 보세요. 다음 방송은 10월 5일 월요일입니다. 좋은 주말 보내세요. 지금까지 AI 데일리 브리핑이었습니다. 랜턴 팟캐스트입니다.