AI 메모리
인공지능 연산의 빠른 처리와 대용량 데이터 이동을 위해 설계된 고성능 메모리예요.
한 입에 정리하면
- 01대역폭·지연시간을 AI 작업에 맞춤
- 02서버·가속기와 함께 쓰이는 경우가 많음
- 03학습과 추론 성능에 직접 영향
왜 나온 말일까요?
AI 메모리는 일반적인 컴퓨터 메모리보다 더 많은 데이터를 더 빠르게 주고받도록 설계돼요. 대규모 모델을 학습하거나 실시간으로 답을 생성할 때, 연산 장치가 데이터를 기다리지 않도록 돕는 역할을 하죠. 그래서 AI 서버나 GPU 같은 가속기 주변에서 중요성이 특히 커져요.
예를 들어
예를 들어 대형 AI 서버에서 모델 학습이나 추론을 할 때, 빠른 메모리를 붙여 데이터 병목을 줄이고 처리 속도를 높이는 방식으로 활용돼요.
체리픽이 기사 원문이 아닌 사실관계를 바탕으로 쉽게 풀어 쓴 정의예요. 원문은 각 카드의 "더 읽기"에서 확인할 수 있어요.
용어사전으로 돌아가기