실무AI 기초 및 활용 12회 — 에이전트는 언제 멈춰야 할까? — 반복 제한과 권한
정해진 자동화와 모델이 행동을 고르는 에이전트를 구분하고, 예산·권한·복구를 설계합니다. 읽기 전용 모의 환경에서 반복과 중복을 시험합니다. 실제 삭제나 외부 발행 없이 동작을 검증하는 것이 목표입니다.
정해진 자동화와 모델이 행동을 고르는 에이전트를 구분하고, 예산·권한·복구를 설계합니다. 읽기 전용 모의 환경에서 반복과 중복을 시험합니다. 실제 삭제나 외부 발행 없이 동작을 검증하는 것이 목표입니다.
읽기 전용 문서 검색 도구 하나를 모델에 연결합니다. 도구 정의, 호출 요청, 인자 검증, 실행, 결과 반환의 역할을 구분합니다. 외부 쓰기나 공개 발행을 자동으로 수행하는 예제는 포함하지 않습니다.
같은 문제와 채점 기준으로 두 모델을 비교하고 정확도·지연·비용을 기록합니다. 특정 모델의 현재 가격이나 순위를 제시하지 않습니다. 모델과 서비스의 조건은 실행 시점 공식 자료로 확인합니다.
작은 평가 묶음을 만들고 검색·답변·유보를 분리해 채점합니다. 거대한 벤치마크부터 만들 필요는 없습니다. 반복 가능한 기준과 실패 기록이 있으면 프롬프트, 모델, 검색 설정을 바꿀 때 비교할 수 있습니다.
출처 존재, 주장과 근거의 일치, 질문에 대한 충분성을 나눠 평가합니다. 사람이 읽을 검토표와 코드로 확인할 항목을 구분합니다. 다른 모델을 검토자로 쓸 때 필요한 입력과 한계도 살펴봅니다.
질문, 검색 결과, 근거 구성, 모델 답변을 연결하는 RAG 흐름을 설계합니다. 모델 제공자와 무관한 의사코드로 역할을 나눕니다. 특정 API의 실제 실행 결과를 제시하는 글은 아니며 독자의 기존 검색기에 적용할 절차입니다.
고정 길이와 의미 단위 분할을 같은 자료에서 비교합니다. 청크 크기를 외우는 대신 질문에 필요한 근거를 보존하는 기준을 만듭니다. 작은 자료에서 결과를 확인하고 자신의 문서 구조에 맞게 조정합니다.
임베딩과 벡터 유사도가 하는 일을 이해하고, 키워드 검색과 비교합니다. 검색 결과의 순위가 답의 확실성과 같지 않다는 점을 확인합니다. 이미 벡터 데이터베이스를 사용했다면 정답 근거를 얼마나 찾는지 점검할 차례입니다.
전체 대화, 요약, 질문 관련 기록의 차이를 비교합니다. 작업을 이어가기 위한 메모에 목표·결정·제약·남은 일을 남기고, 원문과 대조하는 기준을 만듭니다. 특정 앱의 기억 기능을 소개하는 강의는 아닙니다.
일반적인 자기회귀 Transformer의 토큰 처리와 KV 캐시를 다룹니다. 모든 모델이 같은 캐시 구조를 사용하는 것은 아닙니다. 모델별 설명을 확인하면서 가중치, 실행 중 상태, 외부 대화 저장소를 구분하는 것이 목표입니다.
양자화의 원리를 대략 설명하고, 로컬 실행에서 메모리와 품질을 함께 비교하는 기준을 만듭니다. 특정 파일 형식을 무조건 추천하지 않습니다. 모델 구조, 실행 프로그램, 하드웨어가 맞는지를 먼저 확인합니다.
ChatGPT에 알려준 정보는 모델 학습일까요, 추론일까요? 가중치·컨텍스트·기억·RAG를 구분하고 같은 대화와 독립 대화를 비교하는 작은 실험으로 확인해요.