실무AI 기초 및 활용 5회 — 표현이 달라도 어떻게 찾을까? — 임베딩과 벡터 검색
실무AI 기초 및 활용 · 5회 / 전체 12회
실무자도 놓치기 쉬운 AI 원리를 질문과 실험으로 확인합니다.
AI를 업무에 사용해본 분을 위한 강의입니다. 아래 실습은 독자 재현을 위한 절차이며 이 글에서 실행한 측정 결과를 뜻하지 않습니다.
업로드 실패를 찾는데 전송 오류가 보이지 않습니다
사람은 두 표현이 비슷한 사건일 수 있다고 알아봅니다. 단순 문자열 일치만 사용하면 관련 기록을 놓칠 수 있습니다. 의미 검색은 이런 표현 차이를 다루는 도구지만, 비슷하다는 이유로 같은 사건이라고 확정하지는 않습니다.
이번 강의의 목표
임베딩과 벡터 유사도가 하는 일을 이해하고, 키워드 검색과 비교합니다. 검색 결과의 순위가 답의 확실성과 같지 않다는 점을 확인합니다. 이미 벡터 데이터베이스를 사용했다면 정답 근거를 얼마나 찾는지 점검할 차례입니다.
임베딩은 숫자 표현입니다
임베딩 모델은 글을 일정한 차원의 숫자 배열로 바꿉니다. 학습 목표에 따라 관련 입력이 비교하기 좋은 위치에 놓이도록 학습됩니다. 숫자 배열이 사람처럼 의미를 완벽히 이해하거나 사실 여부를 표시하는 것은 아닙니다.
질문과 문서가 같은 공간에 있어야 합니다
서로 비교하도록 설계된 모델과 입력 방식으로 질문·문서를 변환해야 합니다. 어떤 모델은 질문과 문서에 서로 다른 접두어를 요구합니다. 모델 설명을 확인하지 않고 모든 임베딩을 같은 방법으로 생성하지 않습니다.
차원이 같아도 호환되지 않습니다
숫자의 개수가 같다는 이유만으로 다른 모델의 벡터를 섞을 수는 없습니다. 표현 공간 자체가 다를 수 있기 때문입니다. 임베딩 모델을 바꾸면 기존 문서 재임베딩과 인덱스 교체가 필요한지 검토합니다.
유사도는 어떻게 비교할까요?
코사인 유사도나 내적 등 비교 방식이 쓰입니다. 어떤 점수가 적절한지는 모델의 학습 방식과 정규화 여부에 달려 있습니다. 엔진 기본값만 믿지 말고 모델이 권장하는 비교 방식과 설정을 기록합니다.
점수는 정답 확률이 아닙니다
유사도 0.8을 정답 확률 80%로 읽지 않습니다. 점수 분포는 모델과 자료에 따라 달라집니다. 임계값은 실제 질문과 정답 문단을 이용해 검토해야 하며, 모든 도메인에 통하는 숫자는 없습니다.
벡터 데이터베이스의 역할
벡터와 문서 식별자, 메타데이터를 저장하고 가까운 항목을 찾는 역할을 합니다. 문서 원문과 출처를 어디에 보관할지도 설계해야 합니다. 데이터베이스를 설치했다고 RAG 답변과 검증까지 완성되는 것은 아닙니다.
정확 검색과 근사 검색
자료가 커지면 모든 벡터를 일일이 비교하는 비용이 커집니다. 근사 검색은 속도와 검색 품질 사이의 선택을 포함합니다. 후보 수나 인덱스 설정을 바꿀 때 정답 근거가 빠지는지 다시 평가합니다.
키워드 검색의 강점
정확한 제품명, 오류 코드, 문서 식별자에는 문자열 기반 검색이 유리할 수 있습니다. 의미가 비슷하지만 번호가 다른 기록을 구분하는 데 필요합니다. 의미 검색이 기존 검색을 무조건 대체한다고 생각하지 않습니다.
동의어와 약어
의미 검색은 표현이 다른 관련 문장을 찾는 데 도움이 될 수 있습니다. 다만 회사 내부 약어나 새로 만든 이름은 모델이 충분히 구분하지 못할 수 있습니다. 업무 용어 사전과 검색 실패 사례를 함께 관리합니다.
한국어와 도메인 차이
영어 공개 벤치마크의 성능이 한국어 작업 로그에서도 그대로 나온다고 볼 수 없습니다. 조사, 띄어쓰기, 약어, 코드가 섞인 실제 질문으로 확인합니다. 다국어 지원 표기와 실무 적합성도 별개의 평가입니다.
날짜와 권한은 유사도가 해결하지 않습니다
비슷한 내용 중 최신 문서를 골라야 하거나 특정 사용자만 읽을 수 있는 자료가 있을 수 있습니다. 날짜·버전·권한 필터를 검색 파이프라인에 적용합니다. 권한 없는 원문을 모델에 넘긴 뒤 숨기려 해서는 안 됩니다.
하이브리드 검색
키워드와 벡터 검색의 후보를 합쳐 사용할 수 있습니다. 점수 척도가 다를 수 있으므로 단순 덧셈이 언제나 타당하지는 않습니다. 순위 결합 등 선택한 방식을 기록하고, 어느 유형의 질문이 개선됐는지 나눠 봅니다.
리랭킹의 위치
먼저 후보를 넓게 찾고, 질문과 후보를 더 정밀하게 비교해 다시 순서를 매기는 방식입니다. 후보 단계에서 놓친 문서는 재정렬로 되살릴 수 없습니다. 검색 누락과 순위 문제를 구분해 개선해야 합니다.
실무 예시: 같은 오류 코드의 다른 날짜
가상의 업로드 장애 기록 두 개가 비슷한 문장을 담고 있다고 해봅니다. 원인을 찾는 질문에 과거 기록이 높게 나올 수 있습니다. 사건 날짜와 작업 식별자를 함께 확인해야 다른 사건의 해결책을 잘못 적용하지 않습니다.
실습 준비: 작은 문서 묶음
아래는 실습 절차이며 실제 검색 성능 수치가 아닙니다. 동의어 문장, 비슷하지만 다른 사건, 정확한 코드가 있는 문서를 준비합니다. 각 질문의 정답 문단을 미리 지정하고 원문 식별자를 남깁니다.
질문 유형 나누기
동의어 질문, 고유명사 질문, 날짜 조건 질문, 정답 없는 질문을 넣습니다. 쉬운 질문만 선택하면 문제를 놓칩니다. 문서에 있는 표현을 그대로 복사한 질문과 실제 사용자가 할 법한 질문을 함께 사용합니다.
실험 기록 양식
| 조건 | 입력·설정 | 판정·측정값 |
|---|---|---|
| 변경 전 기준선 | 실행 전 기록 | 실행 후 기록 |
| 한 조건 변경 | 바꾼 항목만 기록 | 실행 후 기록 |
| 반복·확인 문제 | 버전과 반복 횟수 기록 | 실패 사례까지 기록 |
이 표는 빈 양식이며 측정값이나 성능 개선을 보고하는 자료가 아닙니다.
검색 조건 고정
임베딩 모델·버전, 문서 분할 방식, 유사도, 후보 수를 기록합니다. 키워드 검색과 비교할 때 같은 원문 범위를 사용합니다. 한쪽에만 최신 문서가 들어 있으면 검색 방식의 공정한 비교가 아닙니다.
상위 결과 채점
정답 근거가 상위 k개 안에 있는지 먼저 확인합니다. 여러 근거가 필요한 질문은 필요한 근거를 얼마나 회수했는지도 봅니다. 하나라도 맞는 문서가 있다고 모든 질문의 검색이 충분하다고 판단하지 않습니다.
검색 실패의 원인 나누기
원문 누락, 잘못된 청킹, 임베딩 표현 문제, 필터 오류, 후보 수 부족을 구분합니다. 검색 엔진을 교체하기 전에 자료가 실제로 들어 있는지부터 확인합니다. 입력 자료 문제를 모델 성능 문제로 오인하지 않습니다.
인덱스 갱신
문서가 수정되면 어떤 청크와 벡터가 바뀌어야 하는지 추적합니다. 삭제된 원문이 검색에 남지 않는지도 확인합니다. 내용 해시, 버전, 갱신 시점 등을 관리하면 오래된 벡터가 섞이는 문제를 찾기 쉬워집니다.
실무 적용 판단
동의어 질문이 늘었는지, 정확 식별자 질문이 나빠졌는지 함께 봅니다. 필요하면 하이브리드나 재정렬을 추가하되, 비용과 지연을 기록합니다. 선택 근거는 기술 유행보다 자신의 평가 문제에서 나온 결과에 둡니다.
핵심 정리
임베딩은 의미 비교를 위한 숫자 표현이며, 유사도는 사실 검증이나 정답 확률이 아닙니다. 키워드·필터·재정렬을 목적에 맞게 조합합니다. 다음 회차에서는 검색 단위 자체를 만드는 청킹을 비교합니다.
출처
공식 문서·원 논문을 참고한 원리 설명입니다. 제품별 지원 범위는 실행 시점의 문서로 재확인하며, 실습 설계와 가상 사례는 이 강의의 예시입니다.
AI 도구의 도움으로 작성하고 공식 자료와 발행 규격을 확인했습니다. 삽화는 SVIL 로컬 AI 워크스테이션에서 생성한 신규·기존 개념 자산을 사용했습니다.
협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/