실무AI 기초 및 활용 4회 — 많이 기억하면 더 잘 답할까? — 컨텍스트와 요약
실무AI 기초 및 활용 · 4회 / 전체 12회
실무자도 놓치기 쉬운 AI 원리를 질문과 실험으로 확인합니다.
AI를 업무에 사용해본 분을 위한 강의입니다. 아래 실습은 독자 재현을 위한 절차이며 이 글에서 실행한 측정 결과를 뜻하지 않습니다.
대화는 남았는데 결정은 사라졌습니다
지난 대화 전체를 붙여도 AI가 이미 버린 아이디어를 다시 제안할 수 있습니다. 입력량이 충분하다는 것과 현재 결정이 명확하다는 것은 다릅니다. 실무에서는 무엇을 많이 넣었는지보다 무엇을 유지했는지를 확인해야 합니다.
이번 강의의 목표
전체 대화, 요약, 질문 관련 기록의 차이를 비교합니다. 작업을 이어가기 위한 메모에 목표·결정·제약·남은 일을 남기고, 원문과 대조하는 기준을 만듭니다. 특정 앱의 기억 기능을 소개하는 강의는 아닙니다.
컨텍스트는 지금 주어진 정보입니다
모델이 이번 응답에서 처리하는 지침, 대화, 자료, 도구 설명 등을 컨텍스트로 생각할 수 있습니다. 앱에 저장돼 있어도 이번 요청에 포함되지 않으면 직접 참고하지 못할 수 있습니다. 저장과 전달을 분리해서 봅니다.
긴 입력의 한계
긴 입력을 지원하더라도 모든 위치와 관계를 동일하게 활용하는 것은 아닙니다. Lost in the Middle 연구는 평가한 모델과 과제에서 정보 위치에 따른 성능 차이를 관찰했습니다. 이 결과를 모든 최신 모델의 고정 법칙으로 일반화하지 않습니다.
컨텍스트 엔지니어링의 작업
무엇을 넣고, 어떤 순서로 놓고, 언제 갱신하며, 무엇을 원문으로 다시 찾을지 설계합니다. 짧게 쓰기 자체가 목적은 아닙니다. 작업에 충분한 정보를 유지하면서 불필요한 내용과 충돌을 줄이는 것이 목표입니다.
대화 기록과 결정 기록
대화에는 질문, 가설, 임시 대안, 최종 결정이 섞입니다. 결정 기록은 그중 현재 유효한 것을 구분합니다. ‘검토했다’와 ‘채택했다’를 다르게 적고, 거절한 접근의 이유도 다음 판단에 필요한 경우 남깁니다.
목표는 결과 상태로 적습니다
‘문서 정리’보다 ‘회차별 제목과 핵심 요약을 한 문서에서 찾을 수 있다’가 판단하기 쉽습니다. 목적과 산출물, 사용자가 승인한 범위를 함께 적습니다. 이전 목표가 바뀌면 변경 사실을 표시합니다.
확정 결정과 근거
결정한 내용만 나열하면 나중에 이유를 잃습니다. 선택을 뒤집으면 안 되는 핵심 이유를 짧게 남깁니다. 예를 들어 ‘영상은 예약 작업에 맡기므로 현재 작업은 글 발행까지’처럼 범위의 이유가 행동을 제한하도록 합니다.
제약은 생략하기 쉬운 핵심입니다
공개 범위, 금지 경로, 장비 조건, 데이터 처리 원칙은 요약 과정에서 빠지기 쉽습니다. 감상이나 진행 설명보다 이런 제약을 먼저 점검합니다. 단, 비밀 자체를 메모에 복사하는 대신 비밀의 위치와 접근 규칙만 남깁니다.
남은 일과 다음 행동
끝난 일과 다음 할 일을 분리합니다. ‘발행 준비 완료’ 같은 모호한 표현보다 원고·이미지·발행·검증 중 어디까지 끝났는지 적습니다. 실패 상태와 재개 조건도 남기면 처음부터 중복 작업하는 일을 줄일 수 있습니다.
원문을 찾아갈 연결
요약에 상세 내용 전체를 넣지 않고 원문 문서와 관련 위치를 연결합니다. 문서 제목만으로 구분이 어렵다면 안정적인 식별자와 개정일을 함께 둡니다. 링크가 존재하는 것과 읽을 권한이 있는지도 별도로 확인합니다.
요약은 사실을 보증하지 않습니다
요약 모델은 숫자와 조건을 바꾸거나 미확정 사항을 확정처럼 표현할 수 있습니다. 다른 모델로 요약해도 검증은 필요합니다. 문장이 매끄러운지보다 중요한 결정을 원문과 대조하는 것이 먼저입니다.
덮어쓰기와 변경 이력
항상 최신 요약만 덮어쓰면 잘못 줄인 내용을 되돌리기 어렵습니다. 버전이나 변경 기록을 남기고 원문을 보존합니다. 다만 모든 일상 기록을 영구 보관해야 한다는 뜻은 아니며 보존 정책과 개인정보 범위를 정해야 합니다.
문서끼리 충돌할 때
과거 지침과 현재 지침이 다르면 날짜만으로 처리하기 어려운 경우가 있습니다. 적용 범위와 권한을 확인하고, 어떤 결정이 무엇을 대체했는지 명시합니다. 해결되지 않은 충돌은 AI가 임의로 확정하지 않도록 표시합니다.
질문 관련 기록만 가져오기
현재 질문에 필요한 근거를 검색해 가져오면 입력을 줄일 수 있습니다. 그러나 중요한 제약이 검색에서 빠질 수 있습니다. 항상 유지할 핵심 규칙과 질문마다 가져올 근거를 나누어 설계하는 이유입니다.
실무 예시: 미완 발행 이어가기
본문은 저장했고 이미지는 일부 생성했지만 공개 검증은 안 된 상황을 생각해봅니다. 메모가 ‘작성 완료’로만 끝나면 재개 시 완료로 오인할 수 있습니다. 완료한 산출물과 미검증 단계를 나눠 써야 합니다.
실습 준비: 가상 작업 대화
이후는 실측이 아닌 따라 할 실습입니다. 목표 변경, 거절한 대안, 중요한 제약이 각각 하나 이상 있는 짧은 가상 대화를 만듭니다. 정답이 될 결정 목록은 사람이 원문을 읽고 먼저 작성합니다.
조건 A: 전체 대화 제공
대화 전체를 주고 현재 목표와 다음 행동을 답하게 합니다. 실제 토큰 수와 출력 내용을 저장합니다. 과거 제안이 섞였는지, 현재 범위를 넘는 행동을 제안했는지 확인합니다.
실험 기록 양식
| 조건 | 입력·설정 | 판정·측정값 |
|---|---|---|
| 변경 전 기준선 | 실행 전 기록 | 실행 후 기록 |
| 한 조건 변경 | 바꾼 항목만 기록 | 실행 후 기록 |
| 반복·확인 문제 | 버전과 반복 횟수 기록 | 실패 사례까지 기록 |
이 표는 빈 양식이며 측정값이나 성능 개선을 보고하는 자료가 아닙니다.
조건 B: 요약만 제공
같은 대화를 요약해 입력합니다. 요약이 원문을 얼마나 보존했는지 먼저 검사한 뒤 답변을 비교합니다. 요약 자체의 오류와 답변 모델의 오류를 한 점수로 섞으면 개선할 위치를 찾기 어렵습니다.
조건 C: 핵심 규칙과 관련 기록
공통 제약은 유지하고 현재 질문과 관련된 기록만 제공합니다. 선택 기준과 제외한 자료를 기록합니다. 필요한 근거가 빠져 실패했다면 입력이 짧아졌다는 이유로 성공 처리하지 않습니다.
채점 항목
목표 일치, 결정 보존, 제약 위반, 미완 단계 인식, 원문 연결을 구분해 채점합니다. 토큰과 지연도 함께 측정하되 정확도와 교환한 것인지 살펴봅니다. 예상 결과는 미리 정해진 사실이 아닙니다.
저장용 메모 점검법
저장 직전에 중요한 결정마다 원문 근거가 있는지 확인합니다. 바뀐 숫자·부정 표현·적용 범위를 우선 봅니다. 다음 세션에서는 메모의 작성 시점과 실제 산출물 상태가 달라지지 않았는지도 재조회합니다.
실무에 적용할 최소 구조
목표, 확정 결정, 제약, 완료 증거, 남은 일, 원문 연결의 여섯 항목으로 시작할 수 있습니다. 항목이 많아지면 사용하지 않는 정보를 줄입니다. 이름을 잘 붙인 템플릿보다 실제 누락을 검출하는 절차가 중요합니다.
핵심 정리
컨텍스트 관리는 기억을 많이 쌓는 일이 아니라 필요한 정보를 유효하게 전달하는 일입니다. 요약도 검증 대상이며 원문과 현재 상태를 연결해야 합니다. 다음 회차에서는 질문에 맞는 문서를 찾는 임베딩을 살펴봅니다.
출처
공식 문서·원 논문을 참고한 원리 설명입니다. 제품별 지원 범위는 실행 시점의 문서로 재확인하며, 실습 설계와 가상 사례는 이 강의의 예시입니다.
AI 도구의 도움으로 작성하고 공식 자료와 발행 규격을 확인했습니다. 삽화는 SVIL 로컬 AI 워크스테이션에서 생성한 신규·기존 개념 자산을 사용했습니다.
협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/