AI포스트(AIPOST)

인도 인공지능(AI) 기업이 엔비디아의 AI 칩과 같은 고성능 그래픽처리장치(GPU) 없이도 AI 모델을 학습시킬 수 있는 기술을 개발했다. 표준 CPU를 사용해 기본 모델을 구축하고 실행할 수 있는 AI 플랫폼이라는 설명이다.

인도 AI 기업인 지로랩스(Ziroh Labs)는 인도 공과대학교 마드라스 캠퍼스와 함께 개발한 AI 플랫폼 '컴팩트 AI(Kompact AI)'를 출시한다고 밝혔다.

지로랩스는 고가의 GPU를 구매할 여력이 없는 사람들을 포함해 모든 사람이 AI의 이점을 누릴 수 있도록 지원하기 위해 해당 플랫폼을 설계했다.

기존에는 AI 모델을 학습하기 위해 수천만 원에 달하는 고성능 GPU를 활용했다. 중소기업이나 AI 스타트업이 직접 구매하기에 비용 부담이 크다.

지로랩스가 개발한 컴팩트 AI는 일반 소비자용 CPU 환경에서도 AI를 구축 및 학습, 추론할 수 있도록 지원한다.

이 플랫폼은 AI의 추론 단계에 초점을 맞추고 있다. 지로랩스는 인텔 제온(Intel Xeon) 프로세서가 장착된 노트북에서 메타의 라마 2와 알리바바의 큐원(Qwen) 2.5와 같은 모델을 성공적으로 실행했다고 밝혔다.

컴팩트 AI는 딥시크, 큐원, 라마 등 CPU 호환성에 최적화된 여러 기본 모델로 구성된 라이브러리를 제공한다. 텍스트, 음성, 비전 및 멀티모달 모델까지 다양한 모델이 마련돼 있다.

지로랩스 흐리시케시 드완 공동 창업자는 "GPU에서 계산할 수 있는 것은 CPU에서도 계산할 수 있다. 중요한 점은 모델 품질이나 정확도를 떨어뜨리지 않고 기존 시스템보다 3배 더 높은 정량적 성능을 제공할 수 있다는 것"이라고 밝혔다.

고성능 컴퓨팅 인프라가 제한적인 인도에서 적극 활용될 전망이다. 세계적으로 해당 플랫폼이 확산되기 위해서는 성능 구현을 검증할 시간이 필요하다는 평가가 나온다.

딥시크는 고성능 GPU를 사용하지 않고 상당한 AI 모델 성능을 구현했다고 주장한 바 있다. 생성형 AI 업계에 파장을 일으켰지만, 여전히 고성능 GPU의 존재가 필수적이라는 의견이 지배적이다. 최근 오픈AI의 이미지 생성 기술이 확산되며 고성능 GPU와 같은 AI 인프라의 중요성이 다시 대두되고 있다.

한편 인도 정부는 AI 육성을 위해 상당한 규모의 예산을 편성해 AI 인프라 구축에 나서고 있다. 2만 장에 달하는 GPU를 확보해 고급 컴퓨팅 시설을 구축한다는 계획을 밝힌 바 있다.

AI포스트(AIPOST) 유진 기자

■ 보도자료 및 광고, 비즈니스 협업 문의 aipostkorea@naver.com