추론
추론은 인공지능 모델이 입력된 정보와 학습한 패턴을 바탕으로 새로운 답변·분석·예측 결과를 계산해 생성하는 처리 과정이다.
한 입에 정리하면
- 01학습 단계와 달리 이미 학습된 모델을 실행해요
- 02질문마다 연산 자원·처리 시간·비용이 발생해요
- 03복잡한 작업일수록 고성능 반도체와 서버가 중요해요
왜 나온 말일까요?
인공지능은 학습으로 언어·이미지·데이터의 패턴을 익힌 뒤, 실제 이용자의 요청을 받으면 추론을 통해 결과를 내놓아요. 이 과정에서는 입력을 여러 계산 단계로 처리하고 다음에 올 내용이나 적절한 답을 예측해요. 특히 긴 문서 분석, 코드 작성, 복잡한 문제 해결처럼 계산량이 큰 요청은 더 많은 GPU와 서버 자원을 필요로 할 수 있어요. 그래서 추론을 어느 지역의 데이터센터에서 처리하는지는 응답 속도, 비용, 데이터 관리 방식과도 관련돼요.
예를 들어
예를 들어 사용자가 회의록을 입력하고 핵심 결정 사항을 정리해 달라고 요청하면, 모델은 입력 내용을 처리해 요약문을 생성하는 추론을 수행해요.
이 용어가 나온 이슈
체리픽이 기사 원문이 아닌 사실관계를 바탕으로 쉽게 풀어 쓴 정의예요. 원문은 각 카드의 "더 읽기"에서 확인할 수 있어요.
용어사전으로 돌아가기