삼성전자, 지능형 반도체 제품군 확대… “모바일까지 성능 2배로”

삼성전자는 24일 온라인 개최된 반도체 기술학회 핫칩(Hot Chips) 연례회의에서 PIM 기술을 적용한 다양한 제품군과 응용사례를 소개했다고 밝혔다. PIM은 연산 작업에 필요한 프로세서 기능이 메모리 내부에 융합된 지능형 반도체다.
삼성전자는 2세대 고대역폭 메모리반도체(HBM2)에 AI엔진을 탑재한 HBM-PIM을 지난 2월 업계 최초로 선보인 바 있다. 이날 학회에서는 D램 모듈에 AI엔진을 탑재한 'AXDIMM(Acceleration DIMM)', 모바일 D램과 PIM을 결합한 'LPDDR5-PIM' 기술, HBM-PIM의 실제 시스템 적용 사례를 각각 소개했다.

AXDIMM은 PIM 기술을 칩 단위에서 모듈 단위로 확장한 것으로 D램 모듈에 AI엔진을 장착한 제품이다. D램 모듈의 동작 단위인 각 랭크(Rank)에 AI엔진을 탑재하고 병렬 처리를 극대화해 성능을 높인다. AI엔진을 통해 D램 모듈 내부에서 연산이 가능해져 CPU와 D램 모듈 간 데이터 이동이 줄어들어 AI가속기 시스템의 에너지 효율을 높일 수 있다.

삼성전자에 따르면 현재 AXDIMM은 글로벌 고객사들의 서버 환경에서 성능 평가가 진행되고 있으며 성능은 약 2배 향상, 시스템 에너지는 40% 이상 감소가 확인됐다. 기존 D램 모듈에 탑재된 버퍼칩에 AI엔진을 탑재하는 방식이라 시스템 변경 없이 적용 가능하다.

이와 함께 삼성전자는 모바일 D램에 PIM을 확대 적용한 'LPDDR5-PIM' 기술도 공개했다. 클라우드 연결 없이 휴대폰 자체에서 데이터 수집·연산이 이뤄지는 온디바이스(On-Device)AI 성능과 에너지 효율을 크게 높일 수 있을 전망이다. 시뮬레이션 결과 음성인식·번역·챗봇 등에서 2배 이상 성능 향상과 60% 이상 에너지 감소가 확인됐다.


지난 2월 공개한 HBM-PIM을 실제 시스템에 탑재한 검증 결과도 발표됐다. FPGA(프로그래머블 반도체) 개발업체인 미국 자일링스에서 이미 상용화 중인 AI가속기 시스템에 HBM-PIM을 탑재했을 경우 기존 HBM2를 이용한 시스템 대비 성능은 약 2.5배 높아지고 시스템 에너지는 60% 이상 줄었다는 결과가 공개됐다.

삼성전자는 이런 PIM 혁신 기술을 D램 공정에 접목해 다양한 응용처에서 실제 성능과 에너지 효율이 대폭 향상됐다고 강조했다. PIM 기술이 빅데이터 시대의 새로운 메모리 패러다임이 될 것이라고 바라봤다. 내년 상반기 내 다양한 고객사들의 AI가속기를 위한 PIM 기술 플랫폼 표준화와 에코시스템 구축을 완료하고 AI메모리 시장을 확대해간다는 전략이다

김남승 삼성전자 메모리사업부 D램개발실 전무는 “HBM-PIM은 업계 최초의 인공지능 분야 맞춤형 메모리 솔루션”이라며 “이미 고객사들의 AI가속기에 탑재돼 평가되고 있어 상업적 성공의 가능성을 보였다. 향후 표준화 과정을 거쳐 차세대 슈퍼컴퓨터 및 인공지능용 HBM3, 온디바이스AI용 모바일 메모리 및 데이터센터용 D램 모듈로 확장할 예정”이라고 말했다.

아룬 바라다라잔 라자고팔 자일링스 상품기획 시니어디렉터는 “자일링스는 버텍스 울트라스케일+ HBM 제품군을 시작으로 데이터센터, 네트워킹, 실시간 신호처리 애플리케이션을 위한 고성능 솔루션을 지원하기 위해 삼성전자와 협력하고 있으며 최근 새롭고 흥미로운 버설 HBM 시리즈 제품을 선보였다”며 “인공지능 응용 분야에서 HBM-PIM의 성능과 에너지 효율 향상을 위한 시스템 평가를 위해 삼성전자와 지속 협력할 것”이라고 밝혔다.

올리버 렙홀츠 SAP HANA 코어 리서치·이노베이션 총괄은 “AXDIMM을 활용한 시스템의 성능 예측 평가에서 성능 향상과 높은 에너지 효율이 기대된다”며 “SAP는 인메모리 데이터베이스 플랫폼 SAP HANA의 성능 향상을 위해 삼성전자와 협력을 지속해나갈 것”이라고 밝혔다.