AI 인프라
AI 모델의 학습·추론·배포·운영을 뒷받침하는 컴퓨팅·저장·통신·전력 설비와 소프트웨어 자원 기반
한 입에 정리하면
- 01데이터센터와 GPU 같은 하드웨어가 핵심이에요
- 02학습뿐 아니라 서비스 운영까지 포함해요
- 03막대한 초기투자와 전력 수요가 뒤따라요
왜 나온 말일까요?
AI 인프라는 인공지능을 실제로 돌리기 위해 필요한 바탕 설비와 시스템을 통칭해요. 대규모 모델은 학습할 때도, 이용자 요청에 답할 때도 많은 연산 자원을 쓰기 때문에 서버, 반도체, 네트워크, 저장장치, 냉각 설비 같은 요소가 함께 필요해요. 그래서 AI 산업에서는 좋은 모델을 만드는 것 못지않게, 그 모델을 안정적이고 빠르게 운영할 수 있는 인프라를 얼마나 확보하느냐가 경쟁력으로 여겨져요. 최근에는 이런 인프라 투자 비용이 커지면서 기업의 인력 배치와 예산 전략에도 큰 영향을 주고 있어요.
예를 들어
예를 들어 생성형 AI 서비스를 운영하는 기업은 사용자의 질문을 즉시 처리하기 위해 데이터센터와 고성능 서버, 네트워크 장비를 함께 갖춰야 해요.
이 용어가 나온 이슈
체리픽이 기사 원문이 아닌 사실관계를 바탕으로 쉽게 풀어 쓴 정의예요. 원문은 각 카드의 "더 읽기"에서 확인할 수 있어요.
용어사전으로 돌아가기