실무AI 기초 및 활용 12회 — 에이전트는 언제 멈춰야 할까? — 반복 제한과 권한
실무AI 기초 및 활용 · 12회 / 전체 12회
실무자도 놓치기 쉬운 AI 원리를 질문과 실험으로 확인합니다.
AI를 업무에 사용해본 분을 위한 강의입니다. 아래 실습은 독자 재현을 위한 절차이며 이 글에서 실행한 측정 결과를 뜻하지 않습니다.
계속 실행하는 것이 성실함일까요?
같은 요청을 반복하며 비용만 늘리는 에이전트는 일을 진전시키지 못합니다. 언제 멈출지와 어떤 상태에서 재개할지를 정해야 합니다. 종료는 포기가 아니라 안전하고 예측 가능한 실행 설계의 일부입니다.
이번 강의의 목표
정해진 자동화와 모델이 행동을 고르는 에이전트를 구분하고, 예산·권한·복구를 설계합니다. 읽기 전용 모의 환경에서 반복과 중복을 시험합니다. 실제 삭제나 외부 발행 없이 동작을 검증하는 것이 목표입니다.
워크플로와 에이전트
워크플로는 코드가 정한 경로로 진행하고, 에이전트는 모델이 상황에 따라 행동을 선택하는 부분을 가집니다. 실제 시스템은 둘을 섞을 수 있습니다. 분기가 있다는 사실만으로 에이전트라고 부를 필요는 없습니다.
자율성이 필요한 구간
순서가 명확한 작업은 정해진 코드가 더 단순할 수 있습니다. 자료를 탐색하며 다음 행동을 바꿔야 한다면 에이전트가 도움이 될 수 있습니다. 자율성을 늘릴 때 지연·비용·실패 가능성도 함께 평가합니다.
행동 반복의 기본 구조
현재 상태를 읽고, 행동을 선택하고, 실행하고, 결과를 다시 읽는 순환입니다. 행동 전 기대 결과와 행동 후 실제 상태를 연결합니다. 모델이 완료라고 말하는 것과 실제 산출물이 생긴 것은 다를 수 있습니다.
성공 조건을 먼저 정합니다
‘알아서 처리’보다 저장된 문서, 확인된 공개 상태, 통과한 검사처럼 판정 가능한 기준을 둡니다. 사람이 확인해야 하는 부분은 자동 완료 조건과 분리합니다. 시작 전에 기준을 정해야 결과에 맞춰 기준이 느슨해지는 일을 줄입니다.
재시도 횟수
일시적 연결 오류에는 제한된 재시도가 도움이 될 수 있습니다. 그러나 권한 거절이나 잘못된 인자는 같은 호출을 반복해 해결되지 않을 수 있습니다. 오류 종류별로 재시도 여부와 상한을 정합니다.
시간과 비용 한도
호출 수만 제한하면 한 번의 긴 요청으로 예산이 소진될 수 있습니다. 전체 실행 시간과 비용, 도구별 제한을 함께 둡니다. 한도에 닿으면 현재 상태와 완료한 산출물, 필요한 다음 판단을 반환합니다.
진전 없는 반복
같은 입력과 같은 오류가 반복되는지, 목표 상태가 변했는지 봅니다. 단순히 모델의 설명이 달라졌다고 진전으로 인정하지 않습니다. 결과물·외부 상태·검증 지표의 변화로 판단합니다.
체크포인트
완료한 단계와 검증 증거를 저장하면 중단 후 미완 단계만 재개할 수 있습니다. 상태 문자열 하나만 믿지 말고 실제 파일이나 외부 API를 재조회합니다. 기록과 외부 반영 사이에 실패할 수 있기 때문입니다.
업로드 성공 뒤 기록 실패
업로드는 됐지만 완료 기록을 저장하지 못한 상황에서는 재시도 전에 실제 외부 상태를 확인합니다. 기록이 없다는 이유로 같은 콘텐츠를 다시 올리면 중복이 생깁니다. 성공의 근거는 로컬 로그와 외부 상태를 함께 사용합니다.
멱등성과 중복 방지
같은 요청을 여러 번 처리해도 의도한 결과가 중복되지 않도록 설계하는 것이 중요합니다. 안정적인 작업 식별자, 외부 서비스의 멱등 키, 중복 조회 등을 검토합니다. 한 가지 기법만으로 모든 분산 실패를 해결한다고 보지는 않습니다.
소유권과 동시 실행
다른 작업이 같은 자원을 쓰고 있으면 소유권을 확인하고 충돌을 피합니다. 파일이 오래됐다는 이유만으로 다른 작업을 종료하지 않습니다. 자원 점유와 콘텐츠 중복 선점은 서로 다른 범위일 수 있습니다.
최소 권한
검색만 필요한 에이전트에 삭제·발행 권한을 줄 필요는 없습니다. 읽기·쓰기·외부 공개를 나누고 업무에 필요한 범위만 허용합니다. 권한은 모델의 선의가 아니라 실행 계층에서 강제해야 합니다.
승인이 필요한 행동
되돌리기 어려운 변경에는 대상과 변경 내용을 구체적으로 보여주고 승인 범위를 관리합니다. 이미 승인한 범위를 매번 다시 묻는 것도 비효율입니다. 승인과 실제 실행이 다른 대상에 적용되지 않도록 연결합니다.
간접 프롬프트 인젝션
웹페이지나 문서에 섞인 내용이 모델의 행동을 바꾸려는 문제입니다. 신뢰할 만한 출처의 문서라도 시스템 권한을 바꾸는 지시권이 생기는 것은 아닙니다. 외부 자료와 실행 지침의 경계를 유지해야 합니다.
방어는 여러 층으로
외부 자료를 데이터로 구분하고, 실행 도구를 제한하고, 인자를 검증하며, 영향이 큰 행동은 승인 경계로 관리합니다. 한 문장의 경고나 RAG 도입으로 완벽히 막았다고 선언하지 않습니다. 실제 실패 사례를 모의 환경에서 시험합니다.
여러 에이전트의 공통 오류
검토 에이전트를 늘려도 같은 근거와 같은 가정을 사용하면 함께 틀릴 수 있습니다. 역할, 원문 접근, 평가 기준을 분리하고 결과를 확인합니다. 역할 이름을 붙인 것만으로 검증이 독립적으로 수행되지는 않습니다.
모의 환경의 기대 결과
| 모의 상황 | 통과 조건 |
|---|---|
| 같은 일시 오류 반복 | 예시로 정한 재시도 3회 한도에서 중단 |
| 권한 거절 | 권한을 확대하지 않고 중단·보고 |
| 이미 완료된 작업 재요청 | 외부 완료 상태를 확인하고 중복 생성하지 않음 |
| 실행 상태 조회 불가 | 확인 불가를 기록하고 무작정 재실행하지 않음 |
3회는 이 실습의 예시 한도이며 모든 업무의 권장값은 아닙니다.
실습 준비: 모의 도구
아래는 독자 실습입니다. 정상 결과, 일시 오류, 권한 거절, 중복 완료 상태를 반환하는 가상 도구를 만듭니다. 외부 발행이나 삭제는 실행하지 않습니다. 예상 종료 상태를 먼저 정하고 기록합니다.
반복 한도 시험
일시 오류가 계속되는 입력에서 호출 횟수·시간 한도에 맞춰 멈추는지 확인합니다. 중단 보고에 완료 단계와 미완 단계가 있는지 봅니다. 반복을 종료했는데도 백그라운드 작업이 남는지도 확인합니다.
중복 요청 시험
완료된 작업 식별자를 다시 보내도 새 결과를 중복 생성하지 않는지 봅니다. 로컬 기록이 없는 상황과 외부 완료 상태가 있는 상황도 모의합니다. 확인 불가능하면 추측으로 재실행하지 않고 그 상태를 반환하도록 합니다.
권한 경계 시험
허용 범위를 벗어난 요청을 모의 도구에 전달하고 실행 코드가 차단하는지 확인합니다. 모델이 거절 문장을 말한 것만으로 통과시키지 않습니다. 실제 실행 기록에 금지 행동이 없는지 확인합니다.
실행 종료와 인계
완료한 결과, 검증 증거, 미완 항목, 재개 조건을 남깁니다. 사용한 자원은 자기 작업 종료와 소유권을 확인한 뒤 정상 해제합니다. 다른 작업을 종료하거나 실패 기록을 지워 완료처럼 만들지 않습니다.
핵심 정리
에이전트의 품질은 자율성뿐 아니라 종료·검증·복구·권한 경계로 결정됩니다. 이 시리즈의 다음 실천은 작은 업무 하나에 공통 평가를 붙이는 것입니다. 모델과 도구를 바꿀 때도 같은 기준으로 실제 개선을 확인할 수 있어야 합니다.
출처
공식 문서·원 논문을 참고한 원리 설명입니다. 제품별 지원 범위는 실행 시점의 문서로 재확인하며, 실습 설계와 가상 사례는 이 강의의 예시입니다.
AI 도구의 도움으로 작성하고 공식 자료와 발행 규격을 확인했습니다. 삽화는 SVIL 로컬 AI 워크스테이션에서 생성한 신규·기존 개념 자산을 사용했습니다.
협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/