엔비디아 젠슨 황은 향후 데이터센터 투자가 2조달러로 2배 커질것이라고 주장하지만 이러한 투자는 전력등 인프로에 좌우될 것이라고 로이터가 보도했습니다.
인공 지능의 열풍은 지금까지 엔비디아가 만든 칩과 OpenAI의 ChatGPT와 같은 앱에 집중되어 왔습니다. 이러한 열풍을 뒷받침하는 것은 생성형 AI(GenAI) 모델을 훈련하고 실행하는 데 필요한 인프라를 서둘러 구축하는 것입니다.
엔비디아 젠슨 황은 데이터센터 투자는 2조달러로 2배로 늘것이라고 주장
엔비디아의 CEO인 젠슨 황은 이러한 데이터센터에 투자되는 금액이 향후 5년 내에 2조 달러로 두 배 증가할 것으로 예측하고 있습니다.
그러나 이러한 시설을 건설하고, 전력을 공급하고, 냉각할 수 있는 세계의 능력에 따라 붐의 물리적 한계가 결정될 것입니다.
영국 북부의 노섬벌랜드 카운티 사례는 인프라가 데이타센터 투자에 미치는영향을 웅변
영국 북부의 노섬벌랜드 카운티에서 인공지능 경쟁의 실체를 확인할 수 있습니다. 이곳은 세계 최대 상업용 부동산 소유주인 블랙스톤이 지난 5월 100억 파운드(130억 달러)를 들여 유럽 데이터 센터 캠퍼스 중 하나를 건설할 계획으로 95헥타르의 토지를 매입한 곳입니다.
이 문제에 정통한 관계자에 따르면 한때 발전소가 있던 이 버려진 부지는 전기 공급을 위해 가장 먼저 연결될 예정이라고 합니다. 하지만 이는 영국 내셔널 그리드와의 협상과 지역 당국의 계획 허가에 달려 있습니다. 블랙스톤은 아직 포기할 수도 있습니다.
인공지능에 대한 끝없는 욕구는 데이터센터 구축 및 운영의 일상적인 문제와 대조를 이룹니다. 서버와 칩을 보관하는 창고와 같은 이 건물은 전력 수요로 측정됩니다. 데이터 스토리지와 클라우드 컴퓨팅 서비스에 주로 사용되는 소위 ‘하이퍼스케일러’ 데이터센터는 일반적으로 20~50메가와트 용량을 갖추고 있습니다.
생셩형 AI는 더 많은 전력을 필요로 한다.
- ChatGPT 텍스트 검색은 Google 검색의 10배 전력 필요
- GenAI 모델로 이미지 생성 시 스마트폰 충전량의 절반의 에너지가 필요
GenAI의 등장은 더 많은 전력을 필요로 하는 더 큰 처리 능력을 의미합니다. 골드만삭스 애널리스트에 따르면 ChatGPT 텍스트 검색은 Google 검색의 10배에 달하는 전력을 소비하며, AI 스타트업 Hugging Face와 카네기멜론대학교 연구진의 연구에 따르면 GenAI 모델을 사용하여 이미지를 생성하는 데 스마트폰 충전량의 절반에 달하는 에너지가 소모될 수 있습니다.
데이터센터 운영자는 현재 200~500MW 용량의 시설을 계획하고 건설하고 있습니다. 모건 스탠리 분석가들은 캠퍼스 건설 비용을 메가와트당 1,000만 달러로 추정합니다.
데이타센터 건설은 에너지 인프라에 좌우
이러한 계획은 에너지 인프라를 시험하고 있습니다. 국제에너지기구에 따르면 암호화폐 채굴에 사용되는 데이터 센터는 2022년 전 세계 전력 수요의 2%인 약 460테라와트시(TWh)를 소비했습니다. 유럽의 경우, 모건 스탠리 분석가들은 2035년까지 데이터 센터가 전력 수요의 4%를 차지할 것으로 예상하며, 이는 현재 1%에서 증가할 것이라고 예측합니다.
그러나 일부 지역에서는 이 수치가 훨씬 더 높습니다. 많은 대형 기술 기업이 있는 아일랜드는 데이터 센터에서 소비하는 전력의 비율이 2015년 5%에서 2022년 18%로 증가했습니다.
이 수치는 2031년까지 28%에 달할 것으로 예상되며, 이에 따라 아일랜드 정부는 2028년까지 신규 데이터 센터 건설을 유예할 예정입니다.
골드만 애널리스트들은 2033년까지 AI 데이터센터가 전 세계적으로 370TWh의 전력 수요를 추가할 것으로 예상하며, 이는 2023년 영국과 네덜란드의 전력 소비량을 합친 것과 맞먹는 양입니다.
데이터센터에 부여하던 세금 인센티브가 없어지는 중
한 가지 잠재적인 해결책은 스칸디나비아처럼 인구가 적고 기후가 서늘하며 수력이 풍부한 지역에 데이터 센터를 구축하는 것입니다.
하지만 각국 정부는 신중한 입장입니다. 한때 유럽에서 비트코인 채굴자들의 주요 목적지로 여겨졌던 스웨덴은 작년부터 데이터 센터에 대한 세금 인센티브를 없애고 킬로와트시(kWh) 단위로 추가 세금을 부과하기 시작했습니다.
2017년 노르웨이에 세계 최대 규모인 1,000MW 데이터 센터를 건설하려던 계획은 정부가 암호화폐 채굴자에 대한 감면 규정을 변경한 후 무산되었습니다.
원격지에 있는 대규모 데이터 센터는 AI 모델을 학습시키는 데 필요한 대량의 계산을 수행할 수 있습니다.
하지만 ChatGPT와 같은 애플리케이션을 사용할 때는 물리적 근접성이 중요합니다. AI 애플리케이션 서버에서 100km 떨어진 곳에 있는 사용자는 10km 떨어진 곳에 있는 사용자보다 느린 응답을 받게 됩니다. 과학자는 더 정확한 쿼리를 기다릴 수 있지만, 구글보다 더 나은 대안을 찾는 사용자는 동일한 즉각적인 결과를 기대합니다.
가까운 데이터센터에 대한 수요가 원거리 훈련 데이터센터에 대한 수요를 초과할 것입니다. 슈나이더 일렉트릭은 이러한 ‘추론’ 서버가 수행하는 AI 워크로드의 비중이 2028년까지 85%에 달할 것으로 예상하고 있습니다. 이러한 데이터 센터는 물리적 공간 확보, 계획 허가 확보, 적절한 전력 공급 확보 측면에서 어려움을 겪을 가능성이 높습니다.
한 가지 옵션은 기존 시설의 용도를 변경하는 것입니다. 하지만 이 방법은 간단하지 않습니다. 기존 데이터센터는 서버 과열을 방지하기 위해 에어컨에 의존하지만, GenAI에 사용되는 더 강력한 칩은 최대 10배 더 비싸고 대대적인 설계 변경이 필요한 직접 액체 대 칩 냉각 시스템을 필요로 할 수 있습니다.
유럽의 한 데이터센터 운영자는 Nvidia의 최신 그래픽 처리 장치(GPU)는 개조를 비경제적으로 만들 수 있다고 Breakingviews에 말했습니다. 3조 달러 규모의 이 회사는 GenAI 칩 시장의 75%를 점유하고 있습니다.
공급 부족으로 인해 자금력이 풍부한 기술 기업, 190억 달러 규모의 암호화폐 채굴 업체 코어위브(CoreWeave)와 같은 전직 채굴 업체, 브룩필드 자산 관리, EQT, 푸르덴셜 파이낸셜의 자산 관리 부서인 PGIM과 같은 투자 회사들이 나서고 있습니다. 6월에만 Microsoft는 스웨덴과 스페인에 데이터 센터를 구축하기로 약속했습니다. 또한 , 와 같은 대체 소스를 찾기 위한 경쟁도 치열합니다. OpenAI의 CEO인 샘 알트먼은 AI의 에너지 수요를 핵융합으로 충족할 것을 제안했습니다.
만연한 수요와 제한된 공급의 조합은 기술 기업에 데이터 센터를 임대하는 임대주에게 큰 수익을 약속합니다. 신규 프로젝트의 투자자들은 개발 비용 대비 예상 수익률로 계산되는 최소 8%에서 10%의 수익률을 요구하지 않고는 착공하지 않을 것입니다. 한 고위 부동산 임원에 따르면 이는 기존 데이터 센터를 인수했을 때의 수익률보다 약 5% 포인트 더 높은 수치입니다.
이러한 비용의 낙수 효과로 인해 AI 운영자가 고객으로부터 회수해야 하는 수익이 증가합니다. 또한 오류에 대한 마진도 줄어듭니다. AI 붐의 정도는 데이터센터 운영자가 물리적 한계를 극복할 수 있는 능력만큼이나 자가 학습 모델의 정교함에 따라 달라질 수 있습니다.
