AI 데이터센터 용량 위기 대처하기
AI 수요 폭증으로 데이터센터 용량 위기가 현실화되고 있다. 하이퍼스케일러들의 대규모 확장 계획이 전력 부족으로 지연·취소되면서 기업들의 AI 로드맵이 차질을 빚고 있다. IDC 관점에서 기업은 벤더 의존을 벗어나 자체 분석과 하이브리드 전략 수립이 필요하다고 강조한다.
2023년부터 2024년까지 하이퍼스케일러들이 대규모 데이터센터 확장과 기가와트급 시설 계획을 발표했을 때, 나는 이사회에서 이러한 일정이 비현실적이라고 설명했다. 당시 반응은 대개 정중한 무시였다. 벤더들은 자신감에 차 있었고, 언론은 열광적이었다. 그리고 나는 전력망과 인프라 현실에 대해 불편한 질문을 던지는 사람이었다.
이제 2026년이 되어 기사들은 인프라를 이해하는 나와 다른 사람들이 줄곧 말해온 내용을 정확히 확인시켜주고 있다. 대규모 데이터센터 프로젝트들이 지연되거나 취소되고 있다. 전력 부족이 산업 전반에 병목 현상을 일으키고 있다. 불과 몇 년 전 그렇게 화려하게 발표된 야심찬 계획을 전력망이 감당할 수 없는 상황이다. 이는 풀기 어려운 미스터리한 공식이 아니라 단순한 계산이었다. 그리고 그 계산은 일정이 불가능하다고 말했다.
기업들이 책임을 지게 되다
만약 여러분의 AI 로드맵이 벤더들이 약속한 풍부한 클라우드 용량에 의존하고 있다면, 지금 어려운 대화를 마주하고 있을 가능성이 크고 AI 성장 계획이 어려움을 겪고 있을 것이다. 약속된 컴퓨트는 광고된 대로 존재하지 않으며, 다음 단계를 결정하기 위해 허둥대고 있다. 이제는 내부를 들여다보는 것만이 유일한 선택이다.
벤더들은 자신들의 비전을 자신감과 열정으로 판매할 모든 동기를 가지고 있었다. 하이퍼스케일러가 100억 달러 규모 데이터센터 캠퍼스를 발표할 때, 그들은 고객의 마음을 사로잡고 고객의 약속을 이끌어내는 사업을 하고 있는 것이다. 이러한 전략은 판매를 촉진하지만 고객에게 위험한 가정을 심어준다. 지금 어려움을 겪고 있는 기업들은 자체 분석을 하지 않고 벤더의 약속에 의존했다. 그들은 벤더가 옳거나 적어도 충분히 가까울 것이라고 믿었다. 그들은 계획을 그 약속에 맞춰 세웠다. 현실이 맞지 않게 되자 그들이 책임을 지게 된 것이다.
나는 고객들과 솔직하게 이야기하며 여기서도 분명히 말하겠다. 여러분은 스스로 분석해야 한다. 벤더들이 악의적인 것은 아니지만 그들의 동기는 여러분과 완벽하게 일치하지 않는다. 그들은 여러분의 비즈니스를 원하기 때문에 용량과 일정에 대해 장밋빛 그림을 그린다. 여러분의 이익을 대변할 사람이 필요하며, 그 사람은 내부인이거나 클라우드 서비스 판매에 이해관계가 없는 신뢰할 수 있는 조언자여야 한다.
2년 전 나는 약속된 AI 용량이 대부분의 조직에게 제시된 시간 내에는 환상이라고 고객들에게 경고했다. 내 조언은 제약을 계획하고, 인프라 전략에 유연성을 구축하며, 필요한 컴퓨트가 벤더가 제안한 것보다 구하기 어렵다고 가정하라는 것이었다. 많은 고객이 정중하게 고개를 끄덕이고 벤더가 제공할 것이라고 가정하며 돌아갔다. 일부는 내가 너무 비관적이라고 말했다. 내 조언을 진지하게 받아들인 기업들은 오늘 훨씬 나은 위치에 있다. 그들은 제약을 계획했다. 하이브리드 전략을 선택했다. 결코 현실적이지 않았던 하이퍼스케일러 약속에 모든 것을 걸지 않았다. 상황에 만족하지는 않지만