쿠팡Inc.는 17일(현지시각) '엔비디아 AI 컨퍼런스&엑스포'에서 엔비디아와의 협력을 통해 AI 팩토리를 구축했다고 밝혔다. 지난해 7월 선보인 자체 AI 전용 클라우드 시스템 쿠팡 인텔리전트 클라우드(CIC)와 엔비디아의 고성능 AI 인프라 DGX 슈퍼팟이 기반이다.
CIC는 대규모 데이터 처리와 AI 모델 개발·운영이 가능한 플랫폼이다. 쿠팡은 이를 통해 시애틀과 미국 캘리포니아주 마운틴뷰를 포함한 글로벌 엔지니어링 조직 전반에서 개발자가 인프라를 직접 구축하지 않고도 AI 모델을 개발·테스트할 수 있는 셀프서비스형 환경을 조성했다. 명령어 기반 인터페이스(CLI), 애플리케이션 프로그래밍 인터페이스(API), 사용자 인터페이스(UI) 등 다양한 방식으로 접근할 수 있어 데이터 과학자와 엔지니어가 아이디어를 실험하고 실제 서비스에 적용할 수 있다.
쿠팡은 엔비디아의 오픈소스 추론 소프트웨어 다이나모(Dynamo) 파트너로도 참여했다. 다이나모는 업계에서 'AI의 운영체제'로 평가받는 소프트웨어로 높은 처리량과 지연 시간 최소화로 최대 30배 수준의 성능 개선이 가능한 것으로 알려졌다. 쿠팡은 다이나모 파트너 참여를 통해 AI 시스템의 확장성과 처리 속도를 높였다.
현재 쿠팡은 AI 모델을 물류센터 재고 관리부터 고객 주문 배송 경로 최적화까지 전 과정에 적용하고 있다. CIC 도입 이후 물류센터 작업 일정 조정과 상품 적재 효율이 개선됐으며 GPU(그래픽처리장치) 활용률은 기존 65%에서 95%로 올랐다. AI 모델 개발 및 적용 속도도 빨라졌다고 쿠팡 측은 설명했다.
아시쉬 수리야반시 쿠팡 엔지니어링 부사장은 "쿠팡의 핵심은 고객과의 '로켓배송' 약속을 지키는 것"이라며 "엔비디아와 협력을 통해 기존 AI·머신러닝 기술을 고도화해 고객과 회사 모두를 위한 혁신을 만들어낼 것"이라고 말했다.
<저작권자 © ‘존중받는 개인, 부강한 대한민국’ 시대, 무단전재 및 재배포 금지>