실무AI 기초 및 활용 8회 — 출처가 붙으면 믿어도 될까? — 근거 검증
실무AI 기초 및 활용 · 8회 / 전체 12회
실무자도 놓치기 쉬운 AI 원리를 질문과 실험으로 확인합니다.
AI를 업무에 사용해본 분을 위한 강의입니다. 아래 실습은 독자 재현을 위한 절차이며 이 글에서 실행한 측정 결과를 뜻하지 않습니다.
링크가 있는데도 틀린 답
실패 원인이 기록되지 않은 문서에 링크를 붙이고 ‘API 제한 때문’이라고 답할 수 있습니다. 출처의 존재는 검증의 시작입니다. 그 문서가 답변의 구체적인 주장을 뒷받침하는지를 확인해야 합니다.
이번 강의의 목표
출처 존재, 주장과 근거의 일치, 질문에 대한 충분성을 나눠 평가합니다. 사람이 읽을 검토표와 코드로 확인할 항목을 구분합니다. 다른 모델을 검토자로 쓸 때 필요한 입력과 한계도 살펴봅니다.
답변을 주장 단위로 보기
한 문장에 원인, 날짜, 담당자, 결과가 함께 들어갈 수 있습니다. 문장 전체에 링크 하나가 있다고 모든 사실이 확인되는 것은 아닙니다. 중요한 주장을 나누고 각 주장에 어떤 원문이 필요한지 연결합니다.
출처 존재 검사
인용한 문서나 식별자가 실제 검색 결과 또는 허용한 자료에 있는지 확인합니다. 존재하지 않는 식별자는 기계적으로 잡기 좋습니다. URL이 열리더라도 내용이 바뀌거나 다른 페이지로 연결됐을 수 있으므로 원문도 확인합니다.
근거의 직접 지지
원문이 ‘실패 원인은 미확인’이라고 하면 특정 원인을 확정하는 근거로 쓸 수 없습니다. 주제만 비슷한 문서는 직접 근거가 아닙니다. 핵심 문구를 찾아 원문이 실제로 말하는 범위를 유지합니다.
일부만 뒷받침하는 경우
문서가 발생 시각은 확인하지만 원인은 설명하지 않을 수 있습니다. 확인된 부분과 미확인 부분을 나눠 답해야 합니다. 근거가 일부 있다는 이유로 나머지 주장까지 승인하지 않습니다.
날짜와 적용 대상
같은 규칙이라도 개정일과 적용 부서가 다를 수 있습니다. 과거 정책을 현재 정책으로 쓰는 오류는 내용만 비슷하게 읽으면 놓치기 쉽습니다. 시점, 대상, 조건을 검토표에 별도 항목으로 둡니다.
숫자와 단위
천 원과 원, 비율과 건수, 월간과 연간 수치를 섞으면 의미가 달라집니다. 원문 숫자뿐 아니라 단위와 분모를 함께 확인합니다. 계산을 추가했다면 원문 값과 계산식, 반올림 기준을 구분합니다.
부정과 예외
‘승인 없이 불가’를 ‘승인 가능’처럼 줄이면 사실이 바뀝니다. 예외 조항을 뺀 요약도 실무에서는 오답일 수 있습니다. 부정 표현과 조건은 문장이 자연스럽다는 이유로 지나치지 않습니다.
상관과 원인
두 사건이 함께 기록돼도 원인 관계를 증명하지는 않습니다. 장애 시각에 설정 변경이 있었다고 해서 변경이 원인이라고 단정할 수 없습니다. 원문이 관찰인지 원인 분석인지 구분하고 추정은 추정으로 표시합니다.
근거 없는 추론
업무 지식으로 합리적인 추측을 할 수는 있습니다. 그러나 원문에 확인된 사실과 혼합하면 사용자가 구분하기 어렵습니다. 검증된 답이 필요한 서비스라면 추정을 분리하거나 추가 확인 전에는 답을 유보하도록 합니다.
인용 정확도와 답변 충분성
모든 인용이 맞아도 질문의 중요한 부분에 답하지 못할 수 있습니다. 반대로 핵심 답은 맞지만 인용 위치가 틀릴 수 있습니다. 근거의 정확성과 질문을 충분히 해결했는지는 별도 기준입니다.
여러 모델의 동의
서로 다른 모델이 같은 오류를 낼 수 있습니다. 모델 수를 늘리는 것보다 원문과 질문, 기준을 제공하고 검토를 독립적으로 수행하는 설계가 중요합니다. 다수결은 사실의 대체물이 아닙니다.
검토자에게 줄 정보
원래 질문, 답변, 사용한 원문, 문서 버전, 합격 기준을 함께 줍니다. 답변만 보여주면 문체나 상식적 그럴듯함에 치우칠 수 있습니다. 검토 결과에도 어떤 주장이 왜 틀렸는지 근거를 요구합니다.
모델 채점의 한계
모델 검토자는 표현 길이나 자신이 선호하는 문체에 영향을 받을 수 있습니다. 사람의 정답 판정과 일치하는지 확인하고 주요 실패 사례를 읽습니다. 모델의 점수만 바꾸어 높은 수치를 만드는 방식은 품질 개선이 아닙니다.
코드가 잘하는 검증
식별자 존재, 필수 항목, 숫자 계산, 링크 형식처럼 명확한 규칙은 코드로 검사하기 좋습니다. 자연어의 모든 함의를 단순 문자열 일치로 판정하지는 않습니다. 판정 방식의 적용 범위를 분명히 해야 합니다.
실습 자료 준비
이후는 실행 안내입니다. 정상 인용, 존재하지 않는 인용, 주제만 같은 인용, 일부만 맞는 인용을 포함한 가상 답변을 만듭니다. 원문과 정답 판정은 먼저 고정하고 검토자에게 답을 노출하지 않습니다.
주장과 근거 연결표
각 답변의 핵심 주장을 한 행씩 적고 원문 위치와 판정을 연결합니다. 판정은 지지, 모순, 불충분처럼 구분할 수 있습니다. 불충분을 자동으로 거짓이라고 바꾸지 않는 것이 중요합니다.
실험 기록 양식
| 조건 | 입력·설정 | 판정·측정값 |
|---|---|---|
| 변경 전 기준선 | 실행 전 기록 | 실행 후 기록 |
| 한 조건 변경 | 바꾼 항목만 기록 | 실행 후 기록 |
| 반복·확인 문제 | 버전과 반복 횟수 기록 | 실패 사례까지 기록 |
이 표는 빈 양식이며 측정값이나 성능 개선을 보고하는 자료가 아닙니다.
오류 주입 실험
정상 답변의 날짜나 숫자 하나만 바꿔 검토가 잡는지 확인합니다. 여러 요소를 동시에 바꾸면 무엇을 감지했는지 알기 어렵습니다. 주입한 변경과 기대 판정을 별도 기록합니다.
유보 응답 실험
원인이 없는 문서에는 원인을 확정하지 않는 답변이 합격입니다. 무조건 아무 답도 하지 않는 시스템 역시 유용하지 않을 수 있습니다. 확인 가능한 내용과 추가로 필요한 자료를 구분해서 설명하는지 봅니다.
사람 검토와 표본
전체를 사람이 읽기 어렵다면 위험도가 높은 주장과 무작위 표본을 함께 봅니다. 표본 몇 개 통과로 전체의 오류가 없다고 선언하지 않습니다. 오류가 늘어난 유형을 다음 평가 묶음에 추가합니다.
수정 후 재검사
틀린 주장만 고친 뒤 인용과 주변 문장도 다시 확인합니다. 한 오류를 고치며 예외를 삭제하거나 다른 숫자를 바꿀 수 있습니다. 수정 전후를 남기고 원문을 기준으로 판정합니다.
실무 적용 기준
외부 공개, 금전, 개인정보처럼 오류 영향이 큰 작업은 더 강한 검토 기준이 필요합니다. 일반 초안과 최종 확정 답변을 구분합니다. 자동 승인 가능한 항목과 사람 판단이 필요한 항목을 업무별로 정합니다.
핵심 정리
출처는 존재해야 하고, 해당 주장을 실제로 지지해야 하며, 질문의 범위를 충족해야 합니다. 코드·모델·사람 검토를 목적에 맞게 조합합니다. 다음 회차에서는 이런 기준을 반복 실행할 평가 문제로 만듭니다.
출처
공식 문서·원 논문을 참고한 원리 설명입니다. 제품별 지원 범위는 실행 시점의 문서로 재확인하며, 실습 설계와 가상 사례는 이 강의의 예시입니다.
AI 도구의 도움으로 작성하고 공식 자료와 발행 규격을 확인했습니다. 삽화는 SVIL 로컬 AI 워크스테이션에서 생성한 신규·기존 개념 자산을 사용했습니다.
협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/