“인공지능(AI)의 대항해 시대가 막을 내리고 있다. 모험심으로 떠났던 사람들이 가치를 찾아 본국으로 돌아가 진상해야 하는 시기다. 그리고 산업혁명이 동시에 일어나고 있다. AI 기술의 병목은 시대를 따라 이동하고, 래블업은 그 병목들을 따라가며 해결해왔다. 그동안 접근성의 병목을 해결해왔다면, 이제 확장성이 해결해야 하는 문제다.”

신정규 래블업 대표는 최근 본지와 인터뷰에서 현재 AI 시장의 변화와 회사의 전략 업데이트를 소개하며 이같이 밝혔다.

래블업은 수많은 GPU를 묶어 AI 개발 인프라를 구성하고 운영, 관리하는 플랫폼과 기술을 제공하는 회사다. 대형언어모델(LLM)을 훈련하고, 추론하려면 수백, 수천, 수만대의 GPU 혹은 전용 칩이 필요하다. 래블업의 백엔드닷AI 플랫폼은 이런 AI 인프라를 쉽고 효율적으로 할당, 관리할 수 있게 해준다. GPU의 가격이 갈수록 천정부지로 뛰는 상황에서 특정 AI 작업에 최대한 효율적으로 GPU를 할당하면 전반적인 인프라 비용을 줄일 수 있다

신정규 대표는 “챗GPT 후 2년, 그 사이 어마어마하게 바뀌었다”며 “과거 딥러닝은 기존 기술의 연장 관점이었다면, 챗GPT와 스테이블디퓨전은 못하던 걸 새로 하는 것이기에 그 가능성을 본 자본이 엄청나게 투입되고, AI가 IT의 새 이름으로 자리잡고 있다”고 말했다.

그는 최근까지 AI 시장을 고전게임 ‘대항해시대’로 비유했다. ‘대항해시대’가 여러 버전으로 나왔지만 그 본질은 ‘후추팔이’ 즉, 접근성에 있었다는 것이다.

신 대표는 “변화의 시기에 자본이 크게 들어가는 곳은 기술에서 만들어지는 접근성 차이를 줄이는 쪽이고, 그래서 10년전 래블업을 시작할 때 ‘Make AI Accessible’을 모토로 했다”며 “시기마다 컴퓨트, 에너지, 네트워크, 스토리지 등으로 병목이 이동, 반복돼 왔고, 지금은 확장의 문제라 ‘Make AI Scalable’을 이야기한다”고 말했다.

래블업은 전세계적으로 엔비디아의 인정을 받은 파트너다. 엔비디아 GPU를 대규모로 묶고, 효율적으로 프로비저닝할 수 있는 기술을 가장 먼저 시작했고, 가장 성숙한 기술력을 보유한 덕이다. 현재 한국에서만 1만3000개의 GPU가 래블업의 ‘백엔드닷AI’로 운영되고 있다. 국내 클라우드서비스프로바이더(CSP)와 대기업의 GPU 인프라는 사실상 모두 래블업 백엔드닷AI로 돌아가고 있다고 봐도 무방할 정도다.

래블업의 ‘백엔드닷AI’ 플랫폼은 단순히 GPU 가상화를 넘어 실질적인 AI 모델 개발과 배포까지 한번에 할 수 있는 플랫폼이다. 신 대표가 말한 AI의 확장 문제는 다양한 영역으로 AI 모델이 퍼져나가고 있는 상황을 지원한다는 의미다. 그런 차원에서 래블업의 협력 파트너가 AI 인프라 전영역의 플레이어로 확대되고 있다.

신 대표는 “칩 차원에서 엔비디아뿐 아니라 리벨리온, 인텔, 퓨리오사 등과 협력하고 있고, AMAX, 교세라, 보스턴, PTC 등의 하드웨어에 백엔드닷AI 플랫폼을 같이 공급하고 있으며, 웨카, 퓨어스토리지, 넷앱 같은 초고속 스토리지 회사와도 협력하고 있다”며 “가속기가 한대부터 수천대까지 늘어나는 상황에서 래블업은 확장에 방해되는 요소를 없애고 새 필수요소를 더하면서 발전하고 있다”고 강조했다.

래블업은 기본적으로 오픈소스 소프트웨어 회사다. 래블업의 모든 개발품은 오픈소스로 공유된다. 백엔드닷AI도 오픈소스 소프트웨어 버전이 있다. 오픈소스 버전은 ‘백엔드닷AI코어’로 불린다. 구체적인 플랫폼 외에도 파이썬 생태계에도 기여하고 있다.

파이썬에서 백엔드닷AI를 비롯해 callosum, aiodocker, aiomonitor, aiotools 등은 래블업에서 만들어 기부한 프로젝트다. 러스트재단의 raftify도 래블업에서 만든 오픈소스 프로젝트다. 메시징 영역의 aiohttp, zeromq, pyzmq, googletest와, 운영체제 및 인프라 영역의 DPDK, FreeBSD, 오픈스택, NBA, 머신러닝 및 AI 영역의 vLLM, bitsandbytes, tensorflow, numpy, python, openblas 등에도 적극적으로 기여하고 있다.

신 대표는 “올해 백엔드닷AI 설치를 단순화하는 터미널용 도구인 ‘백엔드닷AI CLI 인스톨러’도 오픈소스화해 규모 상관없이 설치를 자동화하는데 도움을 주고 있다”며 “백엔드닷AI 개발환경을 만드는 도구인 ‘bndev’도 공개했다”고 밝혔다.

백엔드닷AI 코어는 매 6개월마다 새 버전을 내놓고 있다. 내년부터 출시 주기가 더 짤아질 것이라고 한다.

신정규 대표는 “챗GPT 후 2년, 그 사이 어마어마하게 바뀌었다”며 “과거 딥러닝은 기존 기술의 연장 관점이었다면, 챗GPT와 스테이블디퓨전은 못하던 걸 새로 하는 것이기에 그 가능성을 본 자본이 엄청나게 투입되고, AI가 IT의 새 이름으로 자리잡고 있다”고 말했다.

그는 최근까지 AI 시장을 고전게임 ‘대항해시대’로 비유했다. ‘대항해시대’가 여러 버전으로 나왔지만 그 본질은 ‘후추팔이’ 즉, 접근성에 있었다는 것이다.

신 대표는 “변화의 시기에 자본이 크게 들어가는 곳은 기술에서 만들어지는 접근성 차이를 줄이는 쪽이고, 그래서 10년전 래블업을 시작할 때 ‘Make AI Accessible’을 모토로 했다”며 “시기마다 컴퓨트, 에너지, 네트워크, 스토리지 등으로 병목이 이동, 반복돼 왔고, 지금은 확장의 문제라 ‘Make AI Scalable’을 이야기한다”고 말했다.

래블업은 전세계적으로 엔비디아의 인정을 받은 파트너다. 엔비디아 GPU를 대규모로 묶고, 효율적으로 프로비저닝할 수 있는 기술을 가장 먼저 시작했고, 가장 성숙한 기술력을 보유한 덕이다. 현재 한국에서만 1만3000개의 GPU가 래블업의 ‘백엔드닷AI’로 운영되고 있다. 국내 클라우드서비스프로바이더(CSP)와 대기업의 GPU 인프라는 사실상 모두 래블업 백엔드닷AI로 돌아가고 있다고 봐도 무방할 정도다.

래블업의 ‘백엔드닷AI’ 플랫폼은 단순히 GPU 가상화를 넘어 실질적인 AI 모델 개발과 배포까지 한번에 할 수 있는 플랫폼이다. 신 대표가 말한 AI의 확장 문제는 다양한 영역으로 AI 모델이 퍼져나가고 있는 상황을 지원한다는 의미다. 그런 차원에서 래블업의 협력 파트너가 AI 인프라 전영역의 플레이어로 확대되고 있다.

신 대표는 “칩 차원에서 엔비디아뿐 아니라 리벨리온, 인텔, 퓨리오사 등과 협력하고 있고, AMAX, 교세라, 보스턴, PTC 등의 하드웨어에 백엔드닷AI 플랫폼을 같이 공급하고 있으며, 웨카, 퓨어스토리지, 넷앱 같은 초고속 스토리지 회사와도 협력하고 있다”며 “가속기가 한대부터 수천대까지 늘어나는 상황에서 래블업은 확장에 방해되는 요소를 없애고 새 필수요소를 더하면서 발전하고 있다”고 강조했다.

래블업은 기본적으로 오픈소스 소프트웨어 회사다. 래블업의 모든 개발품은 오픈소스로 공유된다. 백엔드닷AI도 오픈소스 소프트웨어 버전이 있다. 오픈소스 버전은 ‘백엔드닷AI코어’로 불린다. 구체적인 플랫폼 외에도 파이썬 생태계에도 기여하고 있다.

파이썬에서 백엔드닷AI를 비롯해 callosum, aiodocker, aiomonitor, aiotools 등은 래블업에서 만들어 기부한 프로젝트다. 러스트재단의 raftify도 래블업에서 만든 오픈소스 프로젝트다. 메시징 영역의 aiohttp, zeromq, pyzmq, googletest와, 운영체제 및 인프라 영역의 DPDK, FreeBSD, 오픈스택, NBA, 머신러닝 및 AI 영역의 vLLM, bitsandbytes, tensorflow, numpy, python, openblas 등에도 적극적으로 기여하고 있다.

신 대표는 “올해 백엔드닷AI 설치를 단순화하는 터미널용 도구인 ‘백엔드닷AI CLI 인스톨러’도 오픈소스화해 규모 상관없이 설치를 자동화하는데 도움을 주고 있다”며 “백엔드닷AI 개발환경을 만드는 도구인 ‘bndev’도 공개했다”고 밝혔다.

백엔드닷AI 코어는 매 6개월마다 새 버전을 내놓고 있다. 내년부터 출시 주기가 더 짤아질 것이라고 한다.