삼성전자는 세계 최초로 메모리 반도체와 인공지능(AI) 프로세서를 하나로 결합한 'HBM-PIM'을 개발했다고 17일 밝혔다.
PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 차세대 융합 기술이다.
삼성전자는 슈퍼컴퓨터(HPC)와 초고속 데이터 분석에 활용되는 'HBM2 아쿠아볼트'에 AI 엔진을 탑재한 HBM-PIM을 개발했다. AI 시스템에 HBM-PIM을 탑재할 경우, 기존 HBM2를 이용한 시스템 대비 성능은 약 2배 이상 높아지고 사용 에너지는 70% 이상 감소한다.
기존 HBM 인터페이스는 그대로 지원해 하드웨어나 소프트웨어의 변경 없이 AI 가속기 시스템을 구축할 수 있다.
오늘날 대부분의 컴퓨터는 폰 노이만 구조로 움직인다. CPU가 메모리로부터 명령어를 불러와 실행하며, 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행한다. 이 과정에서 CPU와 메모리 간 주고받는 데이터가 많아지면 작업이 지연된다.
삼성전자는 이를 극복하기 위해 메모리 내부의 각 뱅크에 AI 엔진을 장착하고, 병렬처리를 극대화해 성능을 높였다. HBM-PIM은 메모리 내부에서 연산이 가능해 CPU와 메모리 간 데이터 이동이 줄어들어 AI 가속기 시스템의 에너지 효율을 높일 수 있다.
삼성전자 메모리 사업부 상품기획팀장 박광일 전무는 "HBM-PIM은 AI 가속기의 성능을 극대화할 수 있는 업계 최초의 인공지능 맞춤형 PIM 솔루션"이라고 말했다.