AI 기초 및 활용 21회: 환각과 한계 — 고장이 아니라 구조에서 나오는 성질
존재하지 않는 논문을 왜 그렇게 자신 있게 만들어 낼까요. 맞는 답과 틀린 답을 낼 때 모델이 하는 일이 완전히 같다는 사실에서 출발해, 모른다고 말하지 못하는 이유와 검색을 붙여도 남는 문제, 그리고 언제 믿고 언제 확인할지의 기준까지.
존재하지 않는 논문을 왜 그렇게 자신 있게 만들어 낼까요. 맞는 답과 틀린 답을 낼 때 모델이 하는 일이 완전히 같다는 사실에서 출발해, 모른다고 말하지 못하는 이유와 검색을 붙여도 남는 문제, 그리고 언제 믿고 언제 확인할지의 기준까지.
작업이 길어지면 클로드가 앞의 내용을 잊은 것처럼 굽니다. 컨텍스트란 무엇이고 왜 한계가 있는지, 정리하고 이어가는 법, 그리고 애초에 길어지지 않게 일하는 법까지. 제4부의 마지막 회차입니다.