컨텍스트 엔지니어링
한 줄 정의
프롬프트 한 줄을 다듬는 것을 넘어, 모델에게 '어떤 컨텍스트를 어떻게 조립해서 줄지' 전체를 설계하는 작업으로 2024~2025년 새롭게 자리 잡은 개념입니다.
자세히 알아보기
Context Engineering은 'Prompt Engineering'의 확장판이자 진화입니다. 시스템 프롬프트, few-shot 예시, RAG로 끌어온 문서, 도구 호출 결과, 이전 대화 요약까지 모두 컨텍스트 윈도우에 어떻게 배치하느냐를 다루는 영역이라고 보면 됩니다. LLM이 점점 강력해지면서, 단일 프롬프트 한 줄보다 '컨텍스트 전체의 조립'이 결과 품질을 더 크게 좌우한다는 인식이 커지고 있습니다.
마케팅 관점에서 의미 있는 포인트는 두 가지입니다. 하나는 사내 AI 도구·에이전트의 품질이 결국 컨텍스트 엔지니어링 수준에서 결정된다는 점, 다른 하나는 우리 콘텐츠가 'AI 컨텍스트로 끌려갔을 때 잘 작동하는 형태'로 쓰여 있어야 한다는 점입니다. 즉, 깔끔한 청크·명확한 정의·구조화된 메타데이터가 GEO에서도 그대로 효과를 냅니다.
현장에선 시스템 프롬프트, 검색 결과, 도구 응답, 사용자 메시지의 순서·형식·압축까지 모두 변수로 둡니다. 단순 한 줄 프롬프트로 해결되던 시대는 빠르게 지나가고 있고, 'AI 결과가 이상하다'의 진단 1순위가 컨텍스트 설계 문제인 경우가 흔합니다.
관련 용어
프롬프트 엔지니어링
LLM이 원하는 결과를 더 잘 내도록 입력 문구를 설계하는 기술이자 기술 분야로, 모델을 직접 학습시키지 않고도 출력 품질을 크게 바꿀 수 있습니다.
LLM시스템 프롬프트
사용자 메시지보다 먼저 LLM에 전달돼 모델의 역할·말투·행동 규칙을 설정하는 지시문으로, AI 제품의 '캐릭터'를 정의합니다.
LLMRAG
LLM이 답하기 전에 외부 문서나 검색 결과를 가져와 근거로 활용하는 구조로, ChatGPT Search·Perplexity 같은 AI 검색 답변의 핵심 기법입니다.
LLM컨텍스트 윈도우
LLM이 한 번에 입력으로 받아들일 수 있는 토큰의 최대 길이로, 모델이 한 번에 참고할 수 있는 문맥의 크기를 결정합니다.
LLM컨텍스트 품질 저하
컨텍스트가 길어질수록 LLM이 정보를 점점 덜 정확하게 활용하는 현상으로, '큰 컨텍스트 윈도우 = 품질 보장'이 아니라는 사실의 핵심 근거입니다.