AI 개발 속도를 늦추기 어려운 이유: 규제보다 경쟁을 택하는 경제 구조

AI가 너무 빠르게 발전하고 있다는 우려가 커질수록 자연스럽게 따라오는 질문이 있다.

“위험하다면 개발 속도를 조금 늦추면 되지 않을까?”

하지만 현실의 AI 산업은 반대 방향으로 움직이고 있다. 더 많은 자본이 데이터센터와 반도체에 투입되고, 기업들은 더 강력한 모델을 경쟁적으로 출시하며, 미국 정부 역시 AI 개발을 늦추기보다는 빠른 혁신과 활용을 강조하고 있다.

최근 미국의 AI 정책을 둘러싼 논쟁도 이 흐름을 선명하게 보여준다.

도널드 트럼프 미국 대통령의 기술 자문역인 데이비드 색스(David Sacks)는 9월 16일 AI에 대한 새로운 정부 규제가 필요하지 않다는 입장을 밝혔다. 개발사가 제품 안전에 책임을 져야 하지만 새로운 규제를 추가할 필요는 없다는 논리다. 미국 하원의장 마이크 존슨 역시 AI 개발을 일시 중단하면 중국에 경쟁 우위를 넘겨줄 수 있다고 주장했다.

그러나 이것을 단순히 ‘기업과 정부가 안전을 무시한다’는 문제로 보면 AI 산업에서 벌어지는 일을 제대로 설명하기 어렵다.

AI 개발을 늦추기 어려운 배경에는 막대한 선행 투자, 규모의 경제, 기업 간 경쟁, 국가 간 기술 경쟁이 서로 연결된 구조가 있기 때문이다.

AI는 이미 거대한 인프라 산업이 됐다

과거의 인터넷 서비스는 비교적 적은 자본으로 시작해 사용자가 늘어나면서 서버를 확장할 수 있었다.

최첨단 AI는 다르다.

새로운 프론티어 모델을 개발하려면 대규모 GPU 클러스터와 데이터센터, 전력 공급, 네트워크 장비, 냉각 설비 등이 필요하다. 그리고 이 인프라는 모델이 수익을 내기 전에 먼저 확보해야 한다.

파이낸셜타임스(FT)에 따르면 Google·Amazon·Microsoft·Meta 네 기업의 2023년 이후 누적 자본지출은 1조1,000억 달러를 넘어섰으며, 2026년에 계획된 지출만 약 7,450억 달러에 달한다. 상당 부분이 데이터센터와 AI 반도체, 전력 인프라에 집중되고 있다.

여기에 새로운 금융 구조까지 등장하고 있다.

FT는 최근 AI 데이터센터와 반도체 투자를 뒷받침하기 위해 최대 3,000억 달러 규모의 보증 구조가 활용되고 있다고 보도했다. AI 경쟁이 단순히 소프트웨어 회사들의 모델 개발 경쟁을 넘어 거대한 장기 인프라 투자 경쟁으로 변하고 있다는 의미다.

이 정도 규모의 투자가 시작되면 기업의 경제적 선택도 달라진다.

수백억 달러를 데이터센터에 투자한 기업에 ‘앞으로 몇 년 동안 모델 성능 경쟁을 멈추자’고 요구하는 것은 단순히 연구개발 일정을 조정하는 문제가 아니다.

이미 투입한 자본의 활용률과 클라우드 매출, AI 서비스 수익, 투자자 기대까지 함께 영향을 받는다.

따라서 AI 기업에는 자연스럽게 더 강력한 모델을 개발하고, 더 많은 고객에게 제공하고, 더 많은 사용 사례를 확보해야 하는 압력이 생긴다.

이것은 특정 기업이 안전보다 돈을 선택했다는 의미가 아니다.

이미 형성된 산업의 비용 구조 자체가 지속적인 확장을 유도한다는 뜻이다.

경쟁에서 혼자 멈추기 어려운 이유

두 번째 문제는 경쟁이다.

가령 A기업이 안전을 위해 차세대 모델 출시를 1년 늦추기로 결정했다고 가정해 보자.

경쟁사 B와 C가 같은 결정을 내린다는 보장은 없다.

B가 더 강력한 모델을 먼저 출시하면 개발자와 기업 고객이 이동할 수 있다. API 사용량과 클라우드 계약도 경쟁사로 넘어갈 수 있다.

AI에서는 이러한 효과가 더욱 커질 가능성이 있다.

더 많은 사용자가 서비스를 이용하면 더 많은 실제 사용 패턴과 오류 사례가 축적되고, 기업은 이를 제품 개선과 안전성 평가에 활용할 수 있다. 기업 고객이 특정 AI 생태계에 애플리케이션을 구축하면 다른 플랫폼으로 이동하는 비용도 발생한다.

따라서 개별 기업 입장에서는 이렇게 판단할 수 있다.

“우리가 멈추더라도 경쟁사가 멈추지 않는다면, 위험은 그대로인데 시장 지위만 잃는다.”

이 구조에서는 모두가 속도를 늦추는 것이 바람직하다고 생각하더라도 개별 기업이 먼저 멈추기는 어렵다.

경제학에서 흔히 나타나는 집단행동 문제와 닮아 있다.

기업 경쟁 위에 국가 경쟁이 올라왔다

AI 경쟁을 더욱 복잡하게 만드는 것은 미국과 중국을 중심으로 한 국가 간 기술 경쟁이다.

현재 미국 정부의 공식 정책에서도 이 논리가 명확하게 나타난다.

2026년 6월 백악관이 발표한 AI 행정명령은 미국이 과도한 규제로 AI 혁신을 억제해서는 안 된다는 입장을 제시하면서 동시에 프론티어 모델의 사이버보안 위험을 평가하는 체계를 마련하도록 했다.

하지만 중요한 부분이 있다.

프론티어 모델 개발사가 정부와 협력하는 체계는 자발적(voluntary) 프레임워크로 설계됐다. 행정명령은 새로운 AI 모델의 개발·공개·출시에 대해 정부가 의무적인 라이선스나 사전승인 제도를 만드는 근거로 해석되어서는 안 된다고 명시한다.

즉 미국의 현재 접근법은 대략 다음과 같다.

AI 개발 자체를 사전에 통제하기보다 개발 속도를 유지하면서 특정 위험을 별도로 관리한다.

국가안보 영역에서는 이러한 방향이 더욱 분명하다.

6월 발표된 미국의 국가안보 AI 지침은 최신 프론티어 모델을 국가안보 인력이 신속하게 사용할 수 있도록 하고, 가장 발전된 AI 모델을 여러 공급업체로부터 빠르게 도입하도록 요구한다.

마이크 존슨 하원의장이 AI 개발 모라토리엄이 중국에 경쟁 우위를 제공할 수 있다고 주장한 것도 같은 맥락이다.

AI는 이제 단순한 소비자용 소프트웨어가 아니다.

사이버보안, 정보 분석, 과학 연구, 제조업, 국방까지 영향을 미칠 수 있는 전략 기술로 취급되고 있다.

기업 간 경쟁 위에 국가 간 경쟁까지 겹치면서 ‘모두 함께 잠시 멈추자’는 합의는 더욱 어려워진다.

그렇다면 규제는 사라지는가

그렇지는 않다.

AI 규제를 둘러싼 논쟁의 핵심은 이제 단순한 ‘규제 대 무규제’보다 어떤 위험을 어느 단계에서 통제할 것인가에 가까워지고 있다.

미국 정부도 프론티어 모델의 사이버 능력을 평가하는 벤치마킹 체계를 구축하고 있으며, AI를 이용한 불법적인 시스템 침입 등에 대해서는 기존 형사법을 적극적으로 집행하도록 하고 있다.

반대로 더 강한 외부 감독을 요구하는 목소리도 존재한다.

스페인의 페드로 산체스 총리는 최근 AI 산업이 스스로를 규제하도록 맡겨서는 안 된다며 정부 감독의 필요성을 강조했다. 그가 제시한 우려에는 개인정보, 차별, 일자리, 허위정보 등이 포함된다.

즉 현재 논쟁은 크게 두 방향으로 갈린다.

한쪽은 혁신 속도를 유지하면서 기업 책임과 기존 법률, 위험별 안전장치를 강화해야 한다고 본다.

다른 쪽은 AI의 잠재적 영향력이 너무 크기 때문에 기업의 자율적인 안전 관리만으로는 충분하지 않다고 본다.

어느 접근이 장기적으로 효과적인지는 아직 확인되지 않았다.

안전을 강조하는 AI 기업도 속도 경쟁에서 벗어나기 어렵다

여기서 흥미로운 역설이 발생한다.

AI 위험을 가장 강하게 경고하는 기업이라고 해서 개발 경쟁에서 빠질 수 있는 것은 아니다.

안전을 강조하는 기업 역시 더 높은 성능의 모델을 출시하고 비용을 낮추며 고객을 확보해야 한다.

Anthropic이 최근 공개한 Claude Opus 5.5 역시 이런 구조를 보여준다. 회사는 외부 안전성 평가와 강화된 보호 장치를 적용하면서 동시에 이전 고성능 모델과 비슷한 수준의 성능을 더 낮은 운영 비용으로 제공한다고 밝혔다.

안전과 경쟁이 반드시 서로 반대되는 것은 아니다.

기업은 더 강력한 안전장치를 개발하면서 동시에 모델 성능과 비용 경쟁을 계속할 수 있다.

문제는 안전성 검증에 필요한 시간이 시장의 출시 속도와 충돌할 때다.

그 순간 기업은 어려운 선택을 하게 된다.

‘AI를 멈추자’보다 어려운 질문

그래서 AI 개발 속도를 둘러싼 논쟁에서 가장 중요한 질문은 단순히 이것이 아닐 수 있다.

“AI를 멈춰야 하는가?”

오히려 현실적인 질문은 다음에 가깝다.

“아무도 먼저 멈추기 어려운 경쟁 구조에서 안전을 어떻게 강제하거나 보장할 것인가?”

AI 기업은 이미 막대한 자본을 투자했다.

경쟁사는 계속 움직인다.

정부는 AI를 국가 경쟁력과 안보 자산으로 보고 있다.

그리고 사용자와 기업은 더 높은 성능과 낮은 비용을 요구한다.

이 네 가지 힘이 동시에 작동하는 상황에서 개발 속도를 늦추는 것은 기술적인 결정만으로 해결되지 않는다.

AI 규제의 진짜 난점은 어쩌면 여기에 있다.

위험을 인식하는 것과 위험 때문에 실제로 속도를 늦출 수 있는 경제적 조건을 만드는 것은 전혀 다른 문제다.

앞으로 AI 규제의 성패를 결정하는 것도 ‘얼마나 강한 규제를 만들었느냐’만은 아닐 것이다.

기업과 국가가 경쟁을 계속하면서도 안전에 투자하는 편이 경제적으로 유리해지는 구조를 만들 수 있느냐.

AI 시대의 규제는 결국 이 질문에 답해야 한다.