7월부터 초거대 AI 모델 위한 초고성능 컴퓨팅 서비스
[광주타임즈]양선옥 기자=최근 그래픽처리장치(GPU) 품귀 현상이 빚어지며 인공지능 기업들이 광주 국가인공지능(AI) 데이터센터로 몰리고 있다.
12일 광주시에 따르면 생성형 AI의 등장으로 GPU 기반시설(인프라)인 국가AI데이터센터를 이용하려는 수요가 폭발적으로 늘고 있다.
인공지능 모델 개발을 위한 학습과 추론에 필수적인 컴퓨팅 자원을 지원받기 위한 경쟁률은 2 대 1 수준으로 올랐다.
지난해 11월 15일 북구 첨단3지구에 문을 연 국가AI데이터센터는 AI 제품 개발에 최적화된 엔비디아의 GPU ‘H100’이 탑재된 서버를 갖추고 있다.
AI데이터센터는 총 연산량 88.5페타플롭스(PF)와 저장용량 107페타바이트(PB) 규모로 구축해 국내 AI기업, 공공기관, 대학 등 총 742건의 과제를 무상 지원하고 있다.
고성능 AI 가속기를 통해 짧은 시간 내 방대한 데이터의 딥러닝 학습과 데이터 분석·활용을 지원하는 등 AI 연구개발에 최적화된 기반시설을 제공한다.
센터는 전체 가속기의 3분의 2를 엔비디아의 최신 GPU인 ‘H100’으로 구성했다. H100을 이용해 서비스를 제공하는 것은 아시아 최초다.
광주시는 국내 AI산업 수요와 성장 속도에 비춰 볼 때 앞으로 컴퓨팅 자원을 할당받기 위한 경쟁률이 지속적으로 상승할 것으로 전망하고 있다.
최근 전 세계적으로 AI 관련 기업들의 수요는 폭증한 데 반해 기업과 연구기관들은 GPU 자원 수급에 어려움을 겪고 있어서다.
센터는 7월부터 대형 AI 모델과 생성형 AI 개발을 본격 지원하기 위해 ‘H100’으로만 구성된 20페타플롭스(PF) 규모의 초고성능 컴퓨팅 지원(HPC) 서비스를 갖춰 초거대 AI 맞춤형 대형 과제를 지원할 예정이다.
광주시는 과학기술정보통신부와 함께 2021년부터 AI 기업에게 컴퓨팅 자원을 지원하고 있다. 지금까지 약 1500여건의 과제를 지원하며 지속적으로 성과를 창출하고 있다.
김용승 인공지능산업실장은 “최근 인공지능 기업들이 GPU 수급에 어려움을 겪고 있는 상황”이라며 “혁신적인 아이디어를 갖고 있는 인공지능 기업들이 광주에 찾아온다면 최신의 GPU를 적시에 제공할 수 있도록 최선을 다해 지원하겠다”고 말했다.
