컨텍스트 윈도우
컨텍스트 윈도우
뜻
LLM이 한 번에 처리할 수 있는 토큰(단어)의 최대 개수. 윈도우가 클수록 더 긴 문서를 이해하고 정확한 답변을 제공할 수 있다.
예시
- • GPT-4의 컨텍스트 윈도우는 128K 토큰으로, 책 한 권을 한 번에 분석할 수 있다.
- • 컨텍스트 윈도우가 작으면 중요한 정보를 놓칠 수 있다.
유래
트랜스포머 아키텍처의 기본 제약에서 비롯됨.
LLM의 능력을 좌우하는 중요한 지표입니다. 최근 모델들은 매우 긴 컨텍스트를 지원하고 있습니다.
TECH중립2017AILLM기술성능