HBM은 High Bandwidth Memory의 줄임말로, 우리말로는 고대역폭 메모리다. 데이터를 임시로 담는 D램 칩을 여러 층으로 쌓고, 연산 장치와 넓은 통로로 연결해 짧은 시간에 많은 데이터를 주고받도록 만든다. 인공지능용 GPU 사양에서 자주 볼 수 있는 이름이다. hbm 뜻을 이해하려면 대역폭부터 보면 된다. 대역폭은 메모리와 연산 장치 사이에서 일정 시간 동안 옮길 수 있는 데이터의 양을 나타낸다. 메모리를 어떻게 쌓는지, GPU는 왜 이런 구조를 쓰는지 차례로 알아보자.hbm 뜻에서 대역폭은 무엇일까?메모리 대역폭은 메모리와 연산 장치가 1초에 얼마나 많은 데이터를 주고받을 수 있는지를 나타내는 값이다. 보통 초당 기가바이트(GB/s)나 초당 테라바이트(TB/s)로 표시한다. 가령 100..