Executive Summary

주요 수치

출처: Nature 논평(d41586-026-02451-2), IEA, 갤럽, NVIDIA

전 세계 데이터센터는 지난해 약 485테라와트시의 전력을 썼습니다. 독일이 한 해에 만드는 전력과 비슷한 양이고, 세계 발전량의 1.5% 정도입니다. IEA는 이 수치가 2030년까지 두 배가 되어 945테라와트시에 이를 것으로 봅니다. 같은 기관의 최신 분석에서 데이터센터 전력 수요는 2025년 한 해에만 17% 늘었고, 전체 전력 수요 증가율 3%를 크게 앞질렀습니다.

돈의 규모도 같은 방향입니다. 아마존과 알파벳, 마이크로소프트, 메타, 오라클 다섯 회사의 올해 설비투자 합계는 6,000억 달러를 넘어섭니다. 지난해보다 36% 많고, 이 가운데 약 4분의 3이 GPU와 서버, 네트워크 장비, 데이터센터 건물로 들어간다는 것이 신용분석 기관들의 추정입니다.

연구자에게 이 숫자가 도달하는 경로는 전기요금이 아닙니다. 갤럽이 지난 5월 발표한 조사에서 미국인 71%가 자기 지역의 AI 데이터센터 건설에 반대했고, 48%는 강하게 반대했습니다. 반대 이유를 물었을 때 물과 전력 사용을 각각 18%가 꼽아 자원 문제가 절반가량을 차지했고, 소음과 대기와 수질 오염을 꼽은 응답이 16%였습니다. 갤럽은 이 여론을 AI 연산 확장의 주요 장애물로 정리하면서, 지역 단위 활동과 소송으로 번질 가능성을 함께 적었습니다.

이 여론이 절차로 나타난 사례도 이미 있습니다. 텍사스 샌마르코스 시의회는 지난 2월 17일 15억 달러 규모 데이터센터 단지의 용도지역 변경을 5대 2로 거부했습니다. 200에이커 부지에 380메가와트급 건물 다섯 채를 올리는 계획이었고, 여덟 시간 동안 이어진 회의에서 주민들이 물 사용과 환경을 이유로 반대한 뒤에 나온 결정이었습니다. 이 도시는 6월 16일 시 경계 안의 데이터센터를 금지하는 조례까지 통과시켜 텍사스에서 처음으로 데이터센터를 막은 도시가 됐고, 주 상원의원이 소송을 예고했습니다. 다만 텍사스에 계획된 데이터센터 248곳 가운데 절반가량은 시 조례가 닿지 않는 비법인 지역에 들어설 예정입니다.

논평을 쓴 세 사람은 AI 업계가 아니라 환경 연구 쪽에 있습니다. 콜로라도대 볼더 캠퍼스에서 환경 데이터 과학을 연구하는 박사후연구원 캐시디 뷸러, UC 버클리 통계학과 부교수 페르난도 페레스, 같은 학교 환경과학·정책·관리학과 부교수 칼 뵈티거입니다. 기후와 생물다양성 데이터를 다루면서 연구용 계산 환경을 직접 꾸려 온 사람들이고, 논평의 근거도 그 경험입니다.

논평이 짚는 지점은 여기입니다. 지금 연구자가 쓰는 학술용 무료 계정과 할인 요금제는 이 확장이 계속된다는 가정 위에 놓인 보조금입니다. 환경 비용도, 보조금 형태의 접근료도 무한정 이어질 수 없다면, 지금 도구를 어디에 둘지가 몇 년 뒤 연구 조건을 정합니다.

빅테크 데이터센터가 하루 수십억 건의 챗봇 질의를 처리하는 동안, 고급 AI는 거대 시설에서만 돌아간다는 인상이 굳었습니다. 논평의 저자들은 자기 경험에 비추어 그것이 사실이 아니라고 반박합니다. 태양광이 풍부한 곳에 지으면 전력도 해결되고 주민 반대도 피할 수 있다는 논리는 그럴듯하지만, 거대 시설이 AI 기반 과학의 전제 조건이라는 대목이 틀렸다는 것입니다.

근거로 드는 비유는 개인용 컴퓨터의 역사입니다. 초기 컴퓨터는 방 하나를 채웠고, 그다음 책상 위로 내려왔고, 지금은 무릎 위에 있습니다. AI 시대는 아직 몇 년밖에 되지 않았지만 같은 축소의 신호가 이미 보인다고 논평은 적습니다. 예로 든 것이 NVIDIA의 새 노트북 칩 RTX Spark로, 델과 HP 등의 노트북에서 구글 Gemma 4 같은 모델을 로컬로 돌리는 용도입니다. 애플의 노트북 칩은 이미 수년째 로컬 모델을 지원해 왔습니다.

RTX Spark의 사양은 이 비유를 구체적인 수치로 받쳐 줍니다. NVIDIA와 마이크로소프트가 지난 5월 31일 함께 발표한 이 칩은 20코어 Grace CPU와 CUDA 코어 6,144개를 실은 Blackwell RTX GPU를 NVLink-C2C로 묶고, CPU와 GPU가 최대 128GB의 통합 메모리를 함께 씁니다. FP4 기준 1페타플롭의 연산으로 1,200억 파라미터 모델을 로컬에서 돌린다는 것이 NVIDIA의 설명이고, 이 칩을 실은 노트북 30종 이상이 올가을에 나옵니다.

올가을 하드웨어를 기다릴 필요가 없는 부분도 이미 있습니다. Gemma 4의 120억 파라미터 판은 통합 메모리 16GB 기기에서 돌아가도록 설계됐고, 4비트로 양자화하면 가중치가 8GB 안쪽에 들어갑니다. 다만 속도가 넉넉하지는 않습니다. 16GB 맥미니 M4로 돌려 본 사용자 측정은 초당 12토큰 내외로, 대화에는 쓸 만하지만 긴 생성에는 답답한 수준입니다. 이 급의 기기에서 메모리를 먼저 채우는 것도 가중치가 아니라 문맥 길이여서, 문맥을 3만 토큰 정도로 줄여 쓰게 됩니다.

연구실 단위의 규모감은 논평이 든 다른 예가 더 잘 보여 줍니다. 소형 냉장고 크기의 서버 랙 하나면 대략 50명이 동시에 질문을 보내고 답을 받는 정도를 감당한다는 것입니다. 오픈 웨이트 모델의 성능은 많은 과제에서 닫힌 상용 모델에 견줄 만한 수준까지 올라왔습니다. 다만 남은 장벽이 성능보다 그것을 세우고 유지할 기술적 노하우 쪽이라는 단서를 논평은 함께 달아 둡니다.

많은 연구팀이 구독을 사는 대신 서버를 세울 역량을 이미 갖고 있는데도 기관은 아직 그 방향에 투자하지 않는다는 것이 논평의 진단입니다. 그렇다면 그 관성이 어디서 오는지 따져 볼 만합니다. 구독은 결제 한 번으로 끝나지만, 자체 서버는 가동률이라는 조건을 계속 채워야 합니다.

2026년의 여러 분석은 손익분기를 대체로 지속 가동률 60~70% 구간에 놓습니다. 그 아래에서는 클라우드가 유리하고, 위에서는 3년 상각을 기준으로 자체 장비가 앞선다는 정리입니다. 다만 이 수치들은 GPU 클라우드 사업자와 서버 제조사가 각자의 이해에 맞춰 내놓은 것이 많아, 자기 기관의 실제 사용 곡선에 견주어 봐야 하는 범위로 읽는 편이 안전합니다. H100 인스턴스 시간당 단가가 출시 초기 7달러대에서 전문 사업자 기준 2.5달러 아래로 내려온 것도 이 계산을 계속 흔듭니다.

대학 연구의 부하 패턴은 이 조건과 특히 어긋납니다. 학습은 며칠에서 몇 주간 몰아서 돌아가고, 그 뒤에는 결과를 검토하고 다음 실험을 준비하는 동안 클러스터가 비어 있습니다. 시간당 단가가 싸다는 이유로 장비를 사 두고 그 6할을 놀린 사례가 여러 건 나와 있습니다. 512장의 H100에 680만 달러를 쓴 한 회사는 일정 설계를 하지 않아 가동률이 34%에 머물렀습니다. 전력과 냉각, 추가 엔지니어 세 명까지 더하고 나니 이전에 쓰던 월 80만 달러 클라우드 청구서보다 오히려 더 많은 비용이 들었습니다.

그래서 논평의 제안은 모든 연산을 기관 안으로 들여오라는 뜻으로 읽기보다, 상시로 돌아가는 추론을 기관 서버로 내리고 폭발적인 학습 작업은 외부를 빌려 쓰는 배치로 읽는 편이 현실에 가깝습니다. 실제로 2026년의 흔한 구성이 그렇습니다. 여기에 클러스터당 운영 인력 0.5~1명은 GPU 청구서에 잡히지 않지만 반드시 드는 비용입니다. 그 인력을 확보하지 못하면 자체 서버는 서지 않습니다.

API로 서빙되는 모델이 공지 없이 바뀐다는 문제는 이 블로그에서 지난 8월 재현할 수 없는 도구로 하는 과학에서 다뤘습니다. 별칭 뒤의 가중치가 교체되면 몇 달 전 실험을 같은 조건으로 다시 돌릴 방법이 없고, 그래서 재현성은 결국 프로버넌스의 다른 이름이라는 것이 그 글의 결론이었습니다.

가중치를 내려받아 기관 서버에 얹으면 그 드리프트는 사라집니다. 대신 적어 두어야 할 항목이 새로 생깁니다. 어느 가중치 파일을 썼는지는 해시로 고정할 수 있지만, 같은 가중치라도 양자화 설정과 수치 정밀도, 추론 런타임의 버전, 그리고 어느 GPU에서 돌렸는지에 따라 출력이 달라질 수 있습니다. FP4로 추론한 결과와 BF16으로 추론한 결과는 같은 모델의 같은 프롬프트에도 늘 일치하지 않습니다. 로컬로 옮긴다는 것은 이 변수들을 공급자에게서 받아 오는 대신 직접 기록할 자리로 가져온다는 뜻입니다.

기록할 수 있는 항목은 도구를 어디에 두느냐에 따라 이렇게 갈립니다.

오른쪽 열에서 눈에 걸리는 것은 마지막 줄입니다. 기관 서버로 옮기면 실행 기록이 기관 안에 남는데, 그 로그를 언제까지 어떤 형식으로 보존할지는 대체로 정해져 있지 않습니다. 데이터 계보는 이미 여러 규정과 관행이 다루는 항목인 데 비해, 어느 가중치를 어느 하드웨어에서 어떤 정밀도로 돌렸는지는 아직 대부분 개인의 실험 노트에 있습니다.

논문 부록에 적힌 GPU 모델명은 5년 뒤 그 실험을 다시 돌리려는 사람에게 데이터 출처만큼 필요한 정보입니다. 개인이 남기면 사람이 떠날 때 사라지고, 기관이 남기면 보존 기간과 접근 권한을 정해야 합니다. 자체 인프라를 세우는 결정은 이 기록 책임을 함께 결정하는 일이기도 합니다.

논평은 마지막에 전례를 듭니다. 코드와 데이터, 모델 파라미터를 공개하는 관행을 오래 앞장서 온 쪽이 과학계였고, 그 경험이 이번에도 유효하다는 것입니다. 저자들은 과학 공동체가 더 에너지 효율적이고 지속 가능한 AI 사용의 본보기를 대중에게 보여야 한다고 적었습니다.

이 전례를 든 사람들이 곧 그 전례의 당사자입니다. 페레스는 대학원생 때 아이파이선(IPython)을 만들었고, 그것이 오늘의 주피터 프로젝트로 이어졌습니다. 네이처가 2021년에 뽑은 과학을 바꾼 컴퓨터 코드 열 가지에 이 도구가 올랐습니다. 뵈티거는 버클리에서 재현 가능하고 협업 가능한 데이터 과학을 대학원 과목으로 가르칩니다.

이 대목이 설득력을 갖는 이유는 오픈소스 과학 도구가 성능 때문에 퍼진 것이 아니라는 데 있습니다. 코드를 열어 두면 남이 같은 결과를 다시 낼 수 있고, 그 확인 가능성이 도구의 가치였습니다. 오픈 웨이트 모델과 로컬 인프라를 두고 지금 벌어지는 논의도 같은 자리에 있습니다. 전력을 얼마나 아끼는지와 별개로, 몇 년 뒤 같은 결과를 다시 낼 수 있는지가 남습니다.

연구실 단위에서 지금 답해 볼 만한 질문은 셋입니다. 지금 논문에 쓰는 결과가 어느 모델의 어느 버전에서 나왔는지 파일 단위로 지목할 수 있는가. 그 모델이 내년에 없어지면 무엇을 다시 돌릴 수 없게 되는가. 그리고 그 답을 적어 두는 자리가 개인 노트인가 기관 기록인가.

원 논평

• 1.Buhler, C. K., Pérez, F., & Boettiger, C. (2026). "Why scientists should lead the shift away from AI mega data centres." Nature.

데이터·업계 자료

• 2.International Energy Agency. (2026). "Energy and AI — Executive Summary."
• 3.Gallup. (2026). "Americans Oppose Data Centers in Their Area."
• 4.NVIDIA. (2026). "NVIDIA GeForce RTX Computex 2026 Announcements."
• 5.eMarketer. (2026). "Big tech's $600 billion AI capex plans could fuel faster automation rollouts, spark investor jitters."
• 6.Modelfit. (2026). "Best LLM for Mac Mini M4 16GB."

보도·배경 자료

• 7.The Texas Tribune. (2026). "San Marcos becomes first Texas city to ban data centers."
• 8.KUT News. (2026). "San Marcos City Council blocks proposed data center."
• 9.UC Berkeley Computational Data Science and Society. (2026). "Project Jupyter celebrates 20 years: Fernando Pérez reflects on how it started, open sciences."