AI를 만든 사람들이 왜 '멈추자'고 할까 — 유신익 박사가 본 속도조절론의 속내

앤트로픽의 아모데이 CEO를 비롯한 AI 기업 수장들이 개발 속도를 늦추자고 나서면서 지난주 증시가 출렁였습니다. 트럼프 대통령은 이를 '역겨운 음모'라고 받아쳤고요. 김원장의 보이는 경제는 9월 17일 KB 이코노미스트 유신익 박사와 함께 '인류를 위한 결정'이라는 말이 진짜인지 명분인지 따져 봤습니다. 유 박사의 답은 명분이었어요. 연준이 금리를 올린 다음 날 아침에 찍은 영상이라 금리 인상의 배경은 연준 FOMC 영상 글에 따로 정리해 뒀습니다.

명분이라고 본 이유, 과열된 투자와 비어 있던 규칙

유 박사는 AI가 나쁘다는 얘기가 아니라 투자하는 방식과 속도가 지나치다고 봤습니다. 규칙을 먼저 정하고 차례로 나아가야 하는데 트럼프 행정부도 빅테크도 조급하다는 거예요. 바이든 정부 때는 규제 때문에 본격적으로 뛰어들지 못했어요. 지금은 세액공제를 크게 해 주고 규제도 걷어 줬으니 이때가 아니면 기회가 없다고 여긴다는 설명입니다. 보안과 정보 보호 같은 구체적인 규정은 없는 채로 출발한 게 문제예요. 그러다 CEO들이 인류에 해가 될 수 있다며 속도 조절을 말합니다. 유 박사는 그게 인류를 위한 명분일 뿐 실제로는 자기들이 먼저 무너질 수 있다는 걸 이제야 인정한 거라고 봤습니다.

전력과 송전망을 먼저 깔았어야 했다

첫 번째 이유는 전력입니다. AI 과투자로 칩 가격이 오르는 데다 전력 가격 상승까지 겹쳤는데 이런 국가 기반 시설을 먼저 깔고 시작했어야 한다는 거예요. 미국은 주마다 반대가 나오는데 주민 입장에서는 전기요금이 오르고 대규모 정전 걱정까지 생기니까요. 송전 설비가 크게 낡아 2017년부터 학계가 교체를 경고했지만 못 바꾼 채 들어갔어요. 지난해에는 트럼프 대통령이 빅테크 CEO들을 백악관에 불러 전력은 알아서 마련하라며 SMR(소형모듈원전)을 언급했다고 해요. 추론용 AI가 자리 잡으면 데이터센터가 전 세계 전력의 2% 이상을 쓰게 될 텐데, 데이터센터를 유치한 한국과 일본도 마찬가지라고 했습니다.

서로 베끼다 같이 무너질 수 있다

두 번째는 규제와 정보 보호입니다. AI는 웹을 크롤링해 정보를 가져오지만 유료 논문 데이터베이스처럼 보안이 철저한 곳은 뚫지 못한다고 해요. 그래서 전 세계 AI가 같은 공개 데이터를 학습하다 보니 결과물이 비슷비슷해졌다는 겁니다. 불과 1~2년 전에는 데이터를 많이 가져와 잘 학습시키는 게 최고였지만 이제는 추론 단계입니다. 그러려면 고급 데이터가 필요한데 그게 막혀 있어요. 진행자가 이 방어벽도 뚫리지 않겠느냐고 묻자 유 박사도 점점 그렇게 될 수 있다고 답합니다. 그때 벌어질 일은 인류 멸망보다 먼저 플랫폼끼리 서로 뚫고 들어가 복제하는 거예요. 한쪽이 개인정보나 윤리 문제에서 엉뚱한 결론을 굳히면 복제한 쪽도 같이 틀어져서 기껏 만든 플랫폼이 함께 망가진다는 얘기입니다.

토핑을 얹을수록 비싸지는 빵집

미국과 중국의 경쟁은 빵집에 빗댔어요. 미국은 토핑을 더 올려야 이긴다며 딸기 토핑 값이 100원에서 200원, 300원, 500원으로 뜁니다. 중국은 단순한 재료로 가성비 좋은 소금빵을 그대로 팔고 있다는 겁니다. 유럽에서는 에이전틱 AI를 쓰는 기업들이 미국 모델은 비싼 데다 기대만큼 완벽하지도 않아서 값싼 중국 모델로 보완하는 하이브리드로 가고 있다고 해요. 돈 문제도 커졌습니다. 데이터센터는 짓는 데 2~3년이 걸리는데 그동안 자본 조달 비용을 누가 확신하느냐는 거예요. 메타나 아마존이 회사채를 내면 금리가 7% 안팎, 연말에는 8%대까지 갈 수 있다는 얘기도 나왔습니다. 전쟁 전까지는 정부 지원과 대출 규제 완화로 두려울 게 없었어요. 이제는 전기와 물이 끊기고 금리가 오르고 정부도 전쟁이라는 당면 과제에 매달려 있으니 CEO들이 일제히 멈춰야 한다고 말하는 맥락이라는 설명이었어요. 빵집 비유로 들으니 저는 이 대목이 제일 와닿았습니다.

진심은 있어도 상황이 말을 바꾼다

진행자는 반론을 폈습니다. 아모데이는 오픈AI를 나올 때부터 성장 속도를 제어하기 어려우면 속도를 맞추자는 데 동의한 사람입니다. 지금 앤트로픽은 잘 나가고 있으니 그의 진정성을 믿을 만하지 않느냐는 거예요. 유 박사도 진심이 분명히 섞여 있다고 인정합니다. 다만 상황이 말을 바꾼다는 입장이에요. 작년에 앤트로픽과 마이크로소프트 같은 AI 기업 CEO들은 AI가 위험한 전쟁에 쓰인다면 함께 반대하겠다고 했지만 지금은 그 입장이 다 사라졌고 국방 수주도 그대로 받고 있다고 짚었어요. 아모데이의 말이 거짓말은 아니어도 이렇게 밀어붙이다가는 다 같이 넘어지겠다는 계산이 깔려 있을 거라는 겁니다.

그러면 규제로 속도를 늦출 수 있을까요? 유 박사는 지금은 못 한다, 이미 늦었다고 답합니다. AI 기업마다 거버넌스가 달라서 하나의 규정으로 묶기 어렵고 제도는 만들어 놨지만 정작 심판이 없는 상태라는 거예요. 중국이라는 또 다른 선수에게 우리끼리 기다려 달라고 할 수도 없고요. 이대로 몇 년 더 가면 트럼프 대통령도 결국 멈춰 세울 수밖에 없을 거라는 전망까지 나왔습니다. 기업이 하는 말은 그 말이 나온 상황과 원래 속뜻까지 같이 봐야 한다는 조언이 오래 남는 영상이었어요.

바로가기

원본 영상 보러가기→

김원장의 보이는 경제에서 전체 영상 보기

원본 영상

• 김원장의 보이는 경제 — 'AI를 만든 사람들이 멈추자고 한 진짜 이유?｜유신익 박사 X 김원장 기자' — https://www.youtube.com/watch?v=2tlncVHv9sA

※ 이 글은 위 영상을 바탕으로 요약·정리했으며, 요약 내용은 원 영상의 취지를 벗어나지 않는 선에서 작성했습니다.