AI 기초 및 활용 10회: 모델 평가 — 정확도 95%에 속지 않는 법

오늘의 질문 — 95점짜리 모델은 좋은 모델일까요

7회차에서 걸어두고 9회차에서 또 건드린 그 질문을, 오늘 드디어 정면으로 마주합니다.

암 검진 보조 모델을 만들었다고 합시다. 테스트해보니 정확도 99퍼센트. 팀은 축배를 들려고 합니다. 그런데 한 명이 손을 듭니다. "검진 대상자 중 실제 암 환자 비율이 몇이죠?" "1퍼센트요." "그럼... 전원에게 '암 아님'이라고 말하는 깡통 모델도 정확도 99퍼센트인데요."

침묵. 이 깡통 모델은 암 환자를 단 한 명도 찾지 못합니다. 그런데 성적표는 99점이에요.

오늘의 질문은 이것입니다. 모델을 제대로 평가한다는 것은 무엇을 재는 일인가? 정확도라는 한 숫자가 왜 우리를 속이는지, 무엇으로 대체해야 하는지, 그리고 좋은 숫자를 만드는 것 자체가 목표가 되어버릴 때 어떤 일이 벌어지는지까지. 제2부에서 가장 실무적인 회차입니다.

지난 회차 연결 — 도구는 준비되어 있다

사실 우리는 오늘 필요한 부품을 이미 다 모았습니다.

6회차에서 일반화가 진짜 목표이고 훈련·검증·테스트의 삼분할이 그걸 지킨다고 배웠어요. 과적합과 과소적합이라는 두 함정도 봤죠. 7회차에서는 하이퍼파라미터를 검증 데이터로 고른다는 실무 감각을, 9회차에서는 거짓 양성과 거짓 음성이라는 두 종류의 실수, 그리고 기저율이 판을 어떻게 뒤흔드는지를 배웠습니다.

오늘은 이 부품들을 조립해 평가라는 완성품을 만듭니다. 순서는 이렇습니다. 먼저 정확도가 무너지는 지점을 확인하고, 실수를 종류별로 세는 표를 만들고, 그 표에서 두 개의 렌즈(정밀도·재현율)를 뽑아내고, 둘의 밀고 당기기를 다룬 뒤, 과적합과의 전쟁으로 넘어가서, 마지막으로 "측정 자체의 함정"이라는 깊은 물까지 갑니다.

정확도가 무너지는 곳 — 불균형이라는 지형

정확도는 "전체 중 맞힌 비율"입니다. 직관적이고 계산도 쉬워요. 문제는 답의 분포가 한쪽으로 쏠려 있을 때 이 숫자가 아무것도 말해주지 않는다는 겁니다.

세상의 중요한 문제들은 대부분 쏠려 있어요. 암 환자는 검진자의 극소수, 부정 거래는 전체 결제의 극소수, 불량품은 생산품의 극소수, 스팸은 (요즘 필터 덕에 받은함 기준) 소수. 찾고 싶은 것일수록 드뭅니다. 드무니까 찾고 싶은 거죠.

이런 지형에서 "다수 쪽으로 다 찍기"는 언제나 높은 정확도를 보장합니다. 9회차의 기저율이 여기서 성적표를 오염시키는 거예요. 1퍼센트짜리 사건에서는 깡통도 99점, 5퍼센트짜리 사건에서는 깡통도 95점.

그러니 정확도를 듣는 순간의 반사신경을 만들어두세요. "기저율이 몇인데요?" 정확도가 기저율 언저리라면 그 모델은 아무 일도 안 하고 있을 가능성이 큽니다. 이 반사신경 하나만으로도 AI 성능 발표의 절반을 꿰뚫어볼 수 있어요.

혼동 행렬 — 실수를 종류별로 세는 표

해법의 출발은 단순합니다. 뭉뚱그려 세지 말고, 네 칸으로 나눠 세자.

판정은 양성/음성 두 가지, 실제도 양성/음성 두 가지. 조합하면 네 칸이 나옵니다.

참 양성 — 병이 있다고 했는데 정말 있음. 올바른 적중.

참 음성 — 없다고 했는데 정말 없음. 올바른 기각.

거짓 양성 — 있다고 했는데 사실 없음. 헛다리. 건강한 사람에게 암 통보.

거짓 음성 — 없다고 했는데 사실 있음. 놓침. 암 환자를 돌려보냄.

이 네 칸짜리 표를 혼동 행렬이라고 부릅니다. 모델이 무엇과 무엇을 혼동하는지 보여주는 표라는 뜻이에요. 아까의 깡통 모델을 이 표에 넣으면 정체가 즉시 폭로됩니다. 참 음성 칸만 가득하고 참 양성이 0이거든요. 정확도는 이 네 칸을 뭉개서 하나로 합친 숫자였던 거고, 정보는 뭉갤 때 사라졌던 겁니다.

그리고 두 실수의 대가가 다르다는 것. 암 검진에서 거짓 양성의 대가는 재검사의 불안과 비용이지만, 거짓 음성의 대가는 치료 시기를 놓친 생명입니다. 스팸 필터는 반대예요. 거짓 음성(스팸이 새어 들어옴)은 귀찮음이지만, 거짓 양성(중요 메일이 스팸함행)은 재앙입니다. 같은 표, 정반대의 무게. 이 비대칭이 오늘 이야기 전체를 끌고 갑니다.

정밀도 — "잡았다고 한 것 중 진짜는 몇인가"

혼동 행렬에서 두 개의 핵심 렌즈를 뽑아냅니다. 첫 번째는 정밀도.

모델이 "양성"이라고 외친 것들만 모아놓고 묻습니다. 이 중 진짜가 몇 퍼센트인가? 참 양성 나누기 (참 양성 + 거짓 양성)이에요.

정밀도는 외침의 신뢰도입니다. 정밀도 90퍼센트짜리 부정 거래 탐지기가 경보를 울리면, 열에 아홉은 진짜 부정입니다. 정밀도 10퍼센트짜리가 울리면 열에 아홉이 헛경보예요.

정밀도가 낮으면 무슨 일이 벌어질까요? 늑대 소년 효과입니다. 헛경보가 반복되면 사람들이 경보를 무시하기 시작해요. 보안 관제실이 하루 수천 건의 헛경보에 파묻히면, 진짜 침입 경보도 그 속에서 함께 무시됩니다. 9회차의 검사 퍼즐이 정확히 이 문제였죠 — 양성 판정자 98명 중 진짜는 9명, 정밀도 9퍼센트짜리 검사였던 겁니다.

재현율 — "진짜 중에 몇을 잡아냈는가"

두 번째 렌즈는 재현율. 이번엔 반대편에서 봅니다. 세상에 실제로 존재하는 양성들을 모아놓고 묻습니다. 모델이 이 중 몇 퍼센트를 찾아냈는가? 참 양성 나누기 (참 양성 + 거짓 음성)이에요.

재현율은 그물의 촘촘함입니다. 재현율 95퍼센트짜리 암 검진은 환자 100명 중 95명을 잡아냅니다. 5명은 그물 사이로 빠져나가요.

깡통 모델의 정체를 이 렌즈로 보면: 아무도 양성이라 하지 않으니 재현율 0퍼센트. 정확도 99점의 화려한 옷 아래 재현율 0이라는 알몸이 있었던 겁니다.

두 렌즈를 붙여 읽는 연습을 해봅시다. "정밀도 95, 재현율 40"인 모델 — 경보는 거의 다 진짜지만, 실제 사건의 절반 이상을 놓치는 소심한 저격수입니다. "정밀도 30, 재현율 98" — 거의 다 잡아내지만 헛경보 범벅인 겁 많은 저인망이에요. 어느 쪽이 좋은 모델일까요? 문제에 따라 다릅니다. 그리고 그게 다음 섹션의 주제예요.

밀고 당기기 — 문턱값이라는 손잡이

9회차에서 배웠듯 모델의 속마음은 확률입니다. "스팸일 확률 83퍼센트." 이걸 판정으로 바꾸는 기준선이 문턱값이었죠. 문턱값 50퍼센트면 83은 스팸행. 문턱값 90퍼센트면 83은 통과.

여기서 중요한 사실. 문턱값은 학습이 끝난 뒤에도 우리가 자유롭게 돌릴 수 있는 손잡이입니다. 그리고 이 손잡이가 정밀도와 재현율을 반대 방향으로 움직여요.

문턱값을 올리면 — 아주 확실할 때만 외치니 헛다리가 줄어 정밀도가 오릅니다. 대신 애매한 진짜들을 놓쳐 재현율이 떨어져요.

문턱값을 내리면 — 조금만 의심돼도 외치니 놓침이 줄어 재현율이 오릅니다. 대신 헛경보가 늘어 정밀도가 떨어져요.

공짜로 둘 다 가질 수는 없습니다(모델 자체가 좋아지면 둘 다 오르지만, 주어진 모델 안에서는 저울질이에요). 그래서 실무의 질문은 "정밀도와 재현율 중 무엇이 중요한가"가 아니라 "우리 문제에서 어느 실수가 더 비싼가"입니다. 암 검진 1차 선별은 놓침이 비싸니 재현율 쪽으로 — 어차피 2차 정밀검사가 거짓 양성을 걸러줍니다(9회차의 단계적 갱신 구조!). 스팸 필터는 오폭이 비싸니 정밀도 쪽으로. 판사의 유무죄 판단에 "열 명의 범인을 놓치더라도 한 명의 무고한 사람을 벌하지 말라"는 법언이 있죠 — 이것도 정밀도를 극단적으로 우선하라는 문턱값 선언인 셈입니다.

둘을 하나로 합친 조화 점수도 있습니다. 정밀도와 재현율의 균형 평균인데, 한쪽이 0에 가까우면 평균도 무너지게 설계되어 있어 깡통 모델을 걸러냅니다. 다만 이것도 "비대칭한 대가"까지 반영하진 못하니, 결국 두 숫자를 따로 보고하는 것이 정직한 방식이에요.

회귀의 성적표 — 얼마나 빗나갔는가

분류 이야기만 했으니 회귀(숫자 맞히기)도 짚고 갑니다. 회귀에는 맞다/틀리다가 없어요. 집값을 5억이라 예측했는데 실제가 5억 1천이면, 틀렸지만 거의 맞았죠. 그래서 회귀의 성적은 빗나간 거리로 잽니다.

기본은 평균 오차 — 예측과 실제의 차이를 모든 사례에 대해 평균한 것. "이 모델은 평균 3천만 원쯤 빗나간다"처럼 읽습니다. 단위가 원래 문제의 단위라 직관적이에요.

변형으로, 차이를 제곱해서 평균하는 방식도 널리 씁니다. 제곱하면 큰 빗나감이 훨씬 무겁게 벌점을 받아요. 평소엔 정확한데 가끔 10배로 크게 빗나가는 모델과, 늘 조금씩 빗나가는 모델을 구분하고 싶을 때 유용합니다. 어느 쪽이 나은지는 역시 문제의 성격이 정해요 — 전력 수요 예측에서 "가끔의 대폭 빗나감"은 정전을 뜻하니 제곱 벌점이 어울리고, 배달 시간 안내라면 평균 오차로 충분합니다.

분류의 교훈이 여기서도 반복되는 게 보이시죠. 하나의 숫자는 하나의 관점일 뿐이고, 어떤 관점을 고를지는 실수의 대가가 정한다.

과적합과의 전쟁 1 — 조기 종료라는 파수꾼

이제 평가의 두 번째 전선, 6회차부터 끌어온 과적합과의 전쟁입니다. 검증 데이터가 여기서 파수꾼으로 일해요.

학습이 진행되는 동안 두 개의 성적을 나란히 기록합니다. 훈련 데이터 성적과 검증 데이터 성적. 초반에는 둘 다 좋아져요. 모델이 진짜 패턴을 배우는 중이니 처음 보는 검증 데이터에서도 성적이 오릅니다.

그러다 어느 순간, 두 곡선이 갈라집니다. 훈련 성적은 계속 오르는데 검증 성적이 멈추거나 나빠지기 시작해요. 이 갈림길이 바로 패턴 학습이 끝나고 암기가 시작된 순간입니다. 훈련 데이터의 우연한 세부를 외우기 시작한 거죠. 그건 훈련 성적만 올리고 새 데이터엔 독이 됩니다.

처방은 간단합니다. 갈라지는 지점에서 멈추기. 조기 종료라고 부릅니다. 검증 성적이 더 이상 좋아지지 않으면 학습을 중단하고, 검증 성적이 가장 좋았던 시점의 모델을 채택해요. 공부로 치면 "성적이 정점 찍은 순간의 나를 시험장에 보내는" 기술입니다.

과적합과의 전쟁 2 — 규제라는 다이어트

멈추는 것 말고, 애초에 덜 외우게 만드는 방법들도 있습니다. 통칭 규제라고 불러요. 철학은 하나입니다. 모델에게 불편함을 줘서, 우연한 세부까지 외울 여유를 없앤다.

단순함 벌점 — 다이얼(파라미터)들이 큰 값을 갖는 것에 벌점을 매깁니다. 모델은 성적을 내면서도 다이얼을 작게 유지해야 하니, 데이터의 굵직한 경향에 집중하고 자잘한 요철은 포기하게 돼요. 6회차의 구불거리는 선을 부드럽게 펴는 힘이라고 생각하시면 됩니다.

일부러 방해하기 — 신경망에서 널리 쓰는 드롭아웃이라는 기법은 학습 중에 뉴런 일부를 무작위로 꺼버립니다. 특정 뉴런 하나에 기대는 암기 회로가 만들어질 수 없으니, 여러 경로에 분산된 튼튼한 패턴만 살아남아요. 매번 다른 조합의 팀원이 결근하는 회사에서는 특정인 의존 업무가 사라지는 것과 같습니다.

데이터 불리기 — 사진을 살짝 회전하고 뒤집고 밝기를 바꿔 훈련 데이터를 뻥튀기합니다. "고양이는 기울어져도 고양이"라는 본질을 강제로 가르치는 셈이라, 배경이나 각도 같은 우연(6회차의 늑대와 눈!)에 들러붙는 암기를 막아요.

셋 다 결이 같습니다. 외우기 어렵게 만들면, 이해가 남는다.

믿을 만한 성적 — 교차 검증

평가의 세 번째 전선은 성적 자체의 신뢰도입니다. 데이터를 한 번 나눠서 낸 성적에는 운이 섞여 있어요. 하필 쉬운 문제들이 테스트에 몰렸다면? 하필 어려운 것들이 몰렸다면? 데이터가 적을수록 이 운빨이 커집니다.

해법은 시험을 여러 번 보는 것. 교차 검증은 데이터를 다섯 조각(관례상 5 또는 10)으로 나누고, 한 조각씩 돌아가며 시험지 역할을 시킵니다. 1번 조각으로 시험 보고 나머지로 훈련, 다음엔 2번 조각으로 시험 보고 나머지로 훈련... 다섯 번의 성적을 평균하면 운이 상쇄된 안정적인 성적이 나와요.

덤으로 다섯 성적의 들쭉날쭉함 자체도 정보입니다. 평균 90인데 다섯 성적이 88~92 사이면 믿을 만하고, 70~99를 오간다면 이 모델은 데이터 운에 따라 성능이 널뛰는 불안정한 물건이라는 경고예요.

대가는 계산 비용입니다. 학습을 다섯 번 해야 하니까요. 그래서 데이터가 작을 때(운의 영향이 클 때)는 교차 검증이 표준이고, 데이터가 거대할 때는 한 번의 삼분할로도 충분한 경우가 많습니다.

깊은 물 — 숫자가 목표가 될 때

마지막으로 오늘 이야기의 가장 깊은 곳입니다. 경제학에 굿하트의 법칙이라는 격언이 있어요. "측정이 목표가 되는 순간, 그것은 좋은 측정이기를 멈춘다."

콜센터의 목표를 "통화 시간 단축"으로 잡으면 상담원들은 문제를 해결하는 대신 전화를 빨리 끊는 법을 배웁니다. 병원 성적을 "수술 성공률"로 매기면 어려운 환자를 거부하는 병원이 1등이 돼요. 숫자는 좋아지는데 본질은 나빠지는 것.

머신러닝은 이 법칙의 완벽한 실험실입니다. 모델은 우리가 준 점수를 올리는 기계거든요. 점수가 본질과 어긋나 있으면, 모델은 그 어긋난 틈을 반드시 찾아냅니다. 벤치마크 시험에서만 강한 모델, 클릭률을 위해 자극적인 것만 추천하는 시스템, 6회차의 눈(雪)으로 늑대를 맞히던 그 모델 — 전부 "주어진 숫자는 완벽히 올렸으나 우리가 원한 건 그게 아니었던" 사례들이에요.

그래서 평가의 최종 기술은 숫자 고르기가 아니라 겸손입니다. 어떤 단일 숫자도 우리가 진짜 원하는 것을 완전히 담지 못한다는 것. 좋은 실무자는 여러 숫자를 함께 보고, 숫자 밖의 실제 사례들을 눈으로 뜯어보고(모델이 틀린 사례 100개를 직접 읽는 것만큼 배울 게 많은 일이 없습니다), 숫자가 좋아질 때 오히려 "무엇을 희생하고 얻은 점수인가"를 묻습니다. 그리고 이 문제 — 측정과 진짜 목표의 어긋남 — 는 30회차에서 만날 AI 정렬 문제의 축소판입니다. "AI에게 무엇을 최적화하라고 시킬 것인가"는 인류가 아직 다 풀지 못한 숙제예요.

실전 — 평가 체크리스트

오늘 내용을 현장에서 바로 쓰는 점검표로 압축합니다. AI 도입 회의에서, 논문을 읽을 때, 업체의 성능 자랑을 들을 때 순서대로 물어보세요.

1. 기저율은? — 정확도가 기저율 언저리면 깡통일 수 있습니다. "다 아니오라고 하는 모델의 점수"를 기준선으로 깔고 비교하세요.

2. 혼동 행렬을 보여달라. — 네 칸을 보면 모델의 성격이 보입니다. 특히 참 양성이 몇인지.

3. 어느 실수가 비싼 문제인가? — 그에 맞는 렌즈(정밀도/재현율)와 문턱값이 설정되어 있는지. "정확도 하나만 보고합니다"는 위험 신호입니다.

4. 무엇으로 시험 봤나? — 테스트 데이터가 훈련과 확실히 분리됐는지(데이터 누수), 실전과 같은 분포인지(6회차의 분포 이동), 성적이 데이터 운에 흔들리지 않는지(교차 검증).

5. 훈련-검증 곡선은? — 갈라짐이 심하면 과적합. 규제나 조기 종료가 들어갔는지.

6. 이 점수가 오르면 무엇이 희생되나? — 굿하트의 질문. 숫자 밖의 실패 사례를 직접 본 사람이 팀에 있는지.

이 여섯 줄이면 "AI 도입했더니 정확도 95퍼센트래요"라는 문장 앞에서 물어야 할 것을 다 물은 겁니다.

핵심 정리 — 세 줄

첫째, 정확도는 기저율 앞에서 무너집니다. 드문 것을 찾는 문제에서는 "다수로 다 찍기"도 고득점이므로, 실수를 네 칸으로 나눠 세는 혼동 행렬에서 출발해야 합니다.

둘째, 정밀도(외침의 신뢰도)와 재현율(그물의 촘촘함)은 문턱값 손잡이로 밀고 당기는 관계입니다. 어느 쪽을 우선할지는 "어느 실수가 더 비싼가"가 정하며, 이는 기술이 아니라 문제의 본질에 대한 판단입니다.

셋째, 과적합은 훈련-검증 곡선의 갈라짐으로 감지하고, 조기 종료·규제·데이터 불리기로 억제하며, 성적의 신뢰도는 교차 검증으로 확보합니다. 그리고 어떤 숫자든 목표가 되는 순간 오염된다는 굿하트의 법칙을 마지막 경계로 삼으세요.

용어 정리

정확도 — 전체 판정 중 맞힌 비율. 불균형 데이터에서는 깡통 모델도 고득점하므로 단독으로 믿으면 안 됩니다.

불균형 데이터 — 찾으려는 답(양성)이 극소수인 데이터. 암, 부정 거래, 불량품 등 중요한 문제 대부분이 이렇습니다.

혼동 행렬 — 판정(양성/음성)과 실제(양성/음성)의 조합 네 칸으로 결과를 세는 표.

참 양성 / 참 음성 — 올바른 적중과 올바른 기각.

거짓 양성 / 거짓 음성 — 헛다리(없는데 있다고 함)와 놓침(있는데 없다고 함). 두 실수의 대가는 문제마다 비대칭입니다.

정밀도 — 양성이라 외친 것 중 진짜의 비율. 외침의 신뢰도. 낮으면 늑대 소년이 됩니다.

재현율 — 실제 양성 중 잡아낸 비율. 그물의 촘촘함. 낮으면 놓침이 많은 것입니다.

문턱값 — 확률을 판정으로 바꾸는 기준선. 올리면 정밀도, 내리면 재현율이 오르는 손잡이입니다.

조화 점수(F 점수) — 정밀도와 재현율의 균형 평균. 한쪽이 0이면 함께 무너지도록 설계되어 깡통을 걸러냅니다.

평균 오차 — 회귀에서 예측이 평균적으로 빗나간 거리. 제곱 벌점 방식은 큰 빗나감을 더 무겁게 칩니다.

조기 종료 — 검증 성적이 나빠지기 시작하는 갈림길에서 학습을 멈추고 최고점 모델을 채택하는 기법.

규제 — 모델이 우연한 세부까지 외우지 못하게 불편함을 주는 기법의 총칭. 단순함 벌점, 드롭아웃 등.

드롭아웃 — 학습 중 뉴런 일부를 무작위로 꺼서 특정 회로 의존(암기)을 막는 신경망 규제 기법.

데이터 증강 — 회전·반전·밝기 변화 등으로 훈련 데이터를 불려 본질 아닌 우연에 들러붙는 학습을 막는 기법.

교차 검증 — 데이터를 여러 조각으로 나눠 돌아가며 시험지로 쓰고 성적을 평균해, 한 번 나누기의 운을 상쇄하는 평가법.

굿하트의 법칙 — 측정이 목표가 되는 순간 좋은 측정이기를 멈춘다는 격언. 모델은 주어진 점수의 빈틈을 반드시 찾아냅니다.

다음 회차 예고 — 그리고 생각해볼 질문

제2부의 마지막 관문이 남았습니다. 지금까지의 학습에는 공통점이 있어요. 데이터가 먼저 주어져 있었다는 것. 지도학습은 정답지를, 비지도학습은 데이터 더미를 받아서 시작했습니다.

그런데 자전거 타기는 그렇게 못 배웁니다. "올바른 핸들 각도" 데이터셋 같은 건 없어요. 직접 타보고, 넘어지고, 그 결과에서 배우는 수밖에 없습니다. 행동이 데이터를 만들고, 그 데이터가 다음 행동을 바꾸는 순환.

11회차 「강화학습」은 이 세 번째 길의 이야기입니다. 보상이라는 신호 하나로 전략을 통째로 배우는 원리, "시도해본 것 중 최선"과 "아직 안 해본 것" 사이의 딜레마(탐험 대 활용), 그리고 이 방식으로 인간 최고수를 꺾어 세계를 놀라게 한 알파고의 이야기까지. 오늘 배운 굿하트의 법칙이 강화학습에서는 보상 해킹이라는 이름으로 더 극적으로 재등장합니다. 점수를 준 대로만 배우는 기계가 어떤 기상천외한 꼼수를 찾아내는지, 웃기고 무서운 사례들이 기다리고 있어요.

생각해볼 질문

오늘 굿하트의 법칙을 배웠습니다. 이제 여러분의 일상을 둘러보세요. 측정이 목표가 되어버린 숫자가 주변에 있지 않나요? 팔로워 수, 조회수, 업무 평가 지표, 학점, 만보기의 걸음 수까지. 그 숫자는 원래 무엇을 재기 위한 것이었고, 목표가 된 뒤 무엇이 뒤틀렸나요? 그리고 뒤틀림을 알면서도 그 숫자를 버리지 못하는 이유는 뭘까요?

댓글로 들려주세요. 사람도 조직도 모델도, 주어진 점수를 올리는 존재라는 점에서 닮아 있습니다.

이 포스트는 SVIL 연구소 「AI 기초 및 활용」 30회 시리즈의 10회차입니다. 하버드 CS50 AI, MIT 6.S191 등 공개 교육과정의 구조를 참고해 2026년 7월 기준으로 작성했으며, 모든 내용은 이미지 없이 본문만으로 이해할 수 있도록 구성되어 있습니다. 모든 이미지에는 내용을 설명하는 대체텍스트가 포함되어 있습니다.