제미나이가 짐을 줄이라고 했습니다 — 섀스타산에서 하룻밤 만에 구조된 세 사람
AI 뉴스 SVIL 구글 제미나이 Gemini 섀스타산 AI 신뢰성 AI 환각

제미나이가 짐을 줄이라고 했습니다 — 섀스타산에서 하룻밤 만에 구조된 세 사람

SVIL - Singularity Visual Intelligence Lab 18 min read

세 사람이 캘리포니아 섀스타산에 올랐다가 협곡에 갇혔습니다. 하룻밤을 노숙한 끝에 이튿날 아침 구조됐고, 한 명은 무릎을 다쳤습니다.

보안관실이 밝힌 원인 가운데 하나가 눈에 띕니다. 이들이 등반 경로와 준비물을 구글 제미나이에게 물어 계획을 세웠고, 제미나이가 실제로 필요한 양보다 훨씬 적은 식량과 물을 권했다는 것입니다.

AI에게 길을 묻는 일이 이제 흔해졌습니다. 이번 일은 그 습관이 어디에서 위험해지는지를 아주 구체적으로 보여 줍니다.

곧게 뻗던 청록색 선이 도중에 급히 방향을 꺾어 어둠 속으로 사라진다 — 계획에서 벗어난 경로를 표현한 개념 이미지

8,400피트에서 시작된 계획

캘리포니아 로즈빌에서 온 세 사람은 토요일에 해발 8,400피트(약 2,560미터) 지점에 야영지를 꾸렸습니다. 보안관실은 이들을 초보 등반자로 표현했습니다.

정상 도전은 다음 날 새벽으로 잡았습니다. 야영지에 짐을 두고 당일치기용 작은 배낭만 메고 오르는 방식이었습니다.

여기까지는 흔한 계획입니다. 문제는 그 계획을 뒷받침한 정보가 어디에서 왔느냐였습니다.

섀스타산은 어떤 산인가

섀스타산은 캘리포니아 북부의 성층화산으로 해발 4,322미터입니다. 한라산의 두 배가 훌쩍 넘고, 국내에는 비교할 만한 산이 없습니다.

높이도 높이지만 성격이 까다롭습니다. 연중 대부분 눈과 얼음이 남아 있고, 낮과 밤의 기온 차가 크며, 오후에 날씨가 급변하는 일이 잦습니다.

그래서 이 산은 등산이라기보다 등반에 가깝습니다. 아이젠과 피켈, 그리고 무엇보다 되돌아설 시각에 대한 규율이 필요한 곳입니다.

날카롭게 각진 거대한 검은 덩어리, 가장 가파른 위쪽 모서리만 가느다란 청록빛으로 빛난다 — 험준한 고산을 표현한 개념 이미지

클리어 크리크 루트라는 선택

이들이 고른 것은 클리어 크리크 루트입니다. 섀스타산에서 기술적으로 가장 쉬운 축에 드는 경로로 알려져 있습니다.

쉽다는 평판이 오히려 함정이 되기도 합니다. 기술적 난도가 낮다는 말이지 짧다거나 안전하다는 뜻은 아니기 때문입니다.

이 경로는 표식이 적고 지형이 단조로워, 어두워지면 방향을 잃기 쉬운 것으로도 알려져 있습니다. 실제로 이번 사고의 결정적 장면이 여기서 나옵니다.

새벽 3시에 출발한 세 사람

일요일 새벽 3시, 세 사람은 야영지를 떠나 정상을 향했습니다. 이른 출발 자체는 알파인 등반의 정석입니다.

새벽에 오르는 이유는 두 가지입니다. 눈이 단단해 발이 잘 딛히고, 오후 기상 악화 전에 내려올 시간을 벌기 때문입니다.

다만 이 방식은 전제가 있습니다. 정해진 시각에 정상을 밟지 못하면 그 자리에서 돌아선다는 규칙을 지킬 때만 안전합니다.

완전한 어둠 속에 나란히 놓인 아주 작은 청록색 점 세 개 — 새벽에 출발한 세 사람을 표현한 개념 이미지

제미나이에게 물어본 것들

보도에 따르면 이들은 경로 정보와 준비물을 구글의 AI 챗봇 제미나이에 크게 의존했습니다. 무엇을 챙겨야 하는지, 얼마나 걸리는지를 물었습니다.

AI에게 여행 계획을 묻는 일은 이제 특별하지 않습니다. 검색 결과를 여러 개 읽는 대신 한 번에 정리된 답을 받을 수 있기 때문입니다.

문제는 그 답을 검증할 대조군이 없었다는 점입니다. 공원 관리소 안내나 경험자의 기록과 맞춰 보는 단계가 빠져 있었습니다.

짐을 훨씬 적게 가져가라는 조언

보안관실은 성명에서, 이들이 제미나이의 조언에 따라 필요한 양보다 훨씬 적은 식량과 물을 가져갔다고 밝혔습니다. 8시간짜리 등반을 전제로 한 양이었습니다.

짐을 줄이라는 조언 자체가 틀린 것은 아닙니다. 무게는 등반에서 실제로 중요한 변수이고, 많은 안내서가 경량화를 권합니다.

다만 경량화에는 반드시 따라붙는 단서가 있습니다. 계획이 어긋났을 때 버틸 여유분은 남겨 둬야 한다는 것입니다. 이 단서가 전달되지 않았습니다.

크고 밝은 청록 육각형 옆에 훨씬 작고 어두운 육각형 하나 — 필요량과 실제로 챙긴 양의 차이를 표현한 개념 이미지

8시간 예정이 며칠이 된 순간

계획은 8시간 만에 오르내리는 것이었습니다. 실제로는 하루를 넘겨 이튿날 아침까지 이어졌습니다.

8시간 기준으로 꾸린 식량과 물은 그 시점에 이미 바닥났습니다. 체온 유지에 쓸 열량도 함께 사라졌습니다.

산에서 사고가 커지는 방식이 대개 이렇습니다. 하나가 어긋나면 그 뒤의 모든 계산이 함께 무너집니다.

오후 7시 정상 — 돌아설 시각을 한참 넘겨

세 사람이 정상에 선 것은 오후 7시였습니다. 이 경로에서 권장되는 반환 시각은 정오입니다.

일곱 시간을 초과한 것입니다. 반환 시각은 체력이나 의지의 문제가 아니라, 남은 일광으로 안전하게 내려올 수 있는가를 계산한 숫자입니다.

정상이 눈앞에 보일 때 돌아서기는 어렵습니다. 그래서 등반에서는 이 판단을 현장의 기분이 아니라 미리 정한 시각에 맡깁니다.

광활한 어둠의 높은 곳에 홀로 떠 있는 가느다란 청록색 고리 — 예정보다 한참 늦게 닿은 정상을 표현한 개념 이미지

어둠 속의 하산

정상에서 내려오기 시작했을 때 이미 해가 저물고 있었습니다. 표식이 적은 경로에서 어둠은 곧 방향 상실을 뜻합니다.

헤드램프 불빛이 닿는 범위는 몇 미터에 불과합니다. 낮에는 한눈에 들어오던 지형지물이 밤에는 존재하지 않는 것과 같습니다.

게다가 이들은 식량과 물이 떨어진 상태였습니다. 판단력이 가장 필요한 순간에 판단력이 가장 떨어지는 조건이 겹쳤습니다.

한 시간 뒤 걸려온 전화

하산을 시작한 지 한 시간쯤 지나 이들은 보안관실 상황실에 전화를 걸어 길을 물었습니다. 이 시점에 이미 스스로 방향을 잡지 못하고 있었다는 뜻입니다.

구조 요청을 일찍 한 것은 잘한 판단입니다. 산악 사고에서 가장 위험한 태도는 어떻게든 스스로 해결하려다 시간을 놓치는 것입니다.

다만 전화 안내만으로 야간의 무표식 지형에서 경로를 되찾기는 어렵습니다. 이후 이들은 결국 경로를 벗어났습니다.

떨어져 있는 두 개의 밝은 청록 점 사이로 끊어진 희미한 점선이 이어진다 — 연결이 끊긴 안내를 표현한 개념 이미지

머드 크리크 캐니언으로 잘못 든 길

세 사람이 흘러 들어간 곳은 머드 크리크 캐니언입니다. 클리어 크리크 루트 옆으로 깊게 팬 급경사 배수 지형입니다.

이런 지형은 밤에 특히 위험합니다. 아래로 내려가는 방향이라 발걸음은 편한데, 들어갈수록 벽이 가팔라져 되돌아 나오기가 어려워집니다.

산에서 길을 잃으면 계곡을 따라 내려가라는 말이 있지만, 화산 지형에서는 정반대의 결과를 냅니다. 이번 사고가 그 사례입니다.

무릎을 다친 동료

협곡 안에서 일행 중 한 명이 넘어져 무릎을 다쳤습니다. 그날 밤늦은 시각이었습니다.

부상이 발생한 순간부터 선택지가 급격히 줄어듭니다. 걸어서 빠져나가는 방안이 사라지고, 남는 것은 그 자리에서 구조를 기다리는 것뿐입니다.

체력이 떨어진 상태의 야간 급경사에서 넘어지는 것은 예외적인 일이 아니라 예상 가능한 결과에 가깝습니다.

나란히 떠 있는 세 개의 청록 사면체 가운데 하나가 기울어진 채 빛을 잃었다 — 부상당한 일행을 표현한 개념 이미지

협곡에서의 비박

결국 세 사람은 머드 크리크 캐니언의 가파른 배수로에서 밤을 보냈습니다. 텐트도 침낭도 없는 노숙이었습니다.

고도 2,000미터가 넘는 화산의 밤 기온은 여름에도 영상 몇 도까지 떨어집니다. 열량을 보충할 식량마저 없는 상태였습니다.

세 사람이 큰 저체온증 없이 아침을 맞은 것은 다행에 가깝습니다. 몇 시간만 더 길어졌어도 결과가 달라질 수 있는 상황이었습니다.

아침에 도착한 산림청 클라이밍 레인저

아침이 되어 미국 산림청 소속 클라이밍 레인저들이 협곡 안에서 이들을 찾아냈습니다. 현장에서 응급 처치가 이뤄졌습니다.

이후 세 사람과 구조대는 별다른 사고 없이 등산로 입구까지 함께 내려왔습니다. 인명 피해는 없었습니다.

구조가 순조로웠던 것은 위치가 비교적 특정돼 있었기 때문입니다. 전날 밤 전화 통화가 결과적으로 도움이 됐습니다.

거대한 두 검은 덩어리 사이로 넓은 청록 광선이 아래로 내려온다 — 협곡으로 도착한 구조대를 표현한 개념 이미지

보안관실이 말한 결정적 실책

시스키유 카운티 보안관실은 이번 사고를 정리하며, AI 정보에 의존한 것을 결정적 실책으로 지목했습니다.

특히 준비물에 대한 조언이 문제였다고 봤습니다. 8시간 등반을 전제로 산정된 식량과 물이, 며칠짜리 상황이 되자 아무 대비가 되지 못했다는 것입니다.

공공 기관이 AI 조언을 사고 원인으로 명시한 사례는 흔치 않습니다. 그만큼 이 방식의 계획 수립이 이미 일반화됐다는 뜻이기도 합니다.

AI 조언은 왜 위험할 수 있나

AI 챗봇의 답은 잘 정리돼 있고 문장이 매끄럽습니다. 그래서 읽는 사람이 확신의 정도를 과대평가하기 쉽습니다.

검색 결과를 볼 때는 출처가 어디인지, 언제 쓴 글인지가 함께 보입니다. 챗봇의 답에는 그 맥락이 대부분 지워져 있습니다.

정보의 정확도보다 더 큰 차이가 여기에 있습니다. 틀릴 수 있다는 신호가 화면에서 사라진다는 점입니다.

매끈한 검은 구체의 표면 전체에 청록빛이 고르게 번진다 — 근거 없이 매끄러운 확신을 표현한 개념 이미지

언어 모델은 지형을 모른다

언어 모델은 지도나 등고선을 이해하지 못합니다. 문서에 적힌 표현들의 관계를 학습했을 뿐입니다.

그래서 특정 경로의 실제 거리, 그날의 적설 상태, 개인의 체력 같은 변수를 계산에 넣지 못합니다. 넣는 것처럼 보이는 문장을 만들 뿐입니다.

이 차이는 평지에서는 잘 드러나지 않습니다. 여유가 없는 환경에서만 결과로 나타납니다.

평균값을 말하는 도구, 예외를 만나는 사람

AI가 내놓는 답은 본질적으로 가장 흔한 경우의 요약입니다. 많은 사람이 쓴 문장들의 중심을 향해 수렴합니다.

그런데 사고는 언제나 예외에서 일어납니다. 평균적인 날씨, 평균적인 체력, 평균적인 소요 시간에서는 아무도 조난하지 않습니다.

안전 계획이란 결국 예외에 대비하는 일입니다. 평균을 말하는 도구에게 예외 대비를 맡기면 어긋날 수밖에 없습니다.

똑같이 생긴 밝은 청록 정육면체들 사이에 홀로 섞인 검은 사면체 하나 — 평균에서 벗어난 예외를 표현한 개념 이미지

챗봇이 자신 있게 틀리는 이유

언어 모델은 다음에 올 말을 확률로 고릅니다. 그 확률이 곧 사실의 확신도는 아닙니다.

그래서 근거가 희박한 내용도 근거가 탄탄한 내용과 똑같은 어조로 나옵니다. 문장의 자신감과 내용의 신뢰도가 분리돼 있는 것입니다.

사용자가 이 둘을 구분하기는 어렵습니다. 사람은 원래 확신에 찬 말투를 더 믿도록 되어 있기 때문입니다.

구글이 붙여 둔 경고 문구의 한계

제미나이를 비롯한 대부분의 AI 서비스에는 답이 부정확할 수 있다는 안내가 붙어 있습니다. 화면 아래 작은 글씨입니다.

그러나 이런 문구는 실제 행동을 거의 바꾸지 못합니다. 모든 화면에 늘 떠 있는 경고는 곧 배경이 되어 눈에 들어오지 않습니다.

생명과 직결되는 영역이라면 다른 방식이 필요합니다. 등반, 의료, 법률 같은 주제에서는 답 자체에 확인처를 함께 붙이는 설계가 훨씬 효과적입니다.

속이 텅 빈 거대한 사각 윤곽, 테두리만 아주 희미한 청록빛으로 그려져 있다 — 눈에 띄지 않는 경고 문구를 표현한 개념 이미지

실제 사례 — 비슷한 사고들

AI 조언이 야외 활동에서 문제를 일으킨 사례는 이번이 처음이 아닙니다. 존재하지 않는 등산로를 안내받아 헤맨 일, 계절에 맞지 않는 장비 목록을 받은 일 등이 여러 지역에서 보고됐습니다.

각국 구조 당국은 지난 몇 년간 스마트폰 지도만 믿고 오르는 등반객에 대해 반복적으로 경고해 왔습니다. AI 챗봇은 그 흐름의 연장선에 있습니다.

공통점은 도구가 나쁘다는 것이 아니라, 도구의 한계를 알려 주는 장치가 없다는 것입니다.

야외 활동에서 AI를 쓰는 안전한 방법

AI를 아예 쓰지 말자는 이야기가 아닙니다. 어떻게 쓰느냐를 바꾸면 충분히 유용합니다.

권할 만한 방식은 이렇습니다. AI에게는 무엇을 확인해야 하는지 목록을 받고, 그 항목의 실제 값은 공원 관리소나 최신 등반 기록에서 확인하는 것입니다.

특히 물과 식량, 반환 시각, 탈출 경로 세 가지는 반드시 사람이 낸 자료로 대조하시길 권합니다. 이번 사고에서 어긋난 것이 정확히 그 세 가지입니다.

밝은 청록 정육면체 하나가 검은 표면의 사각 홈에 정확히 끼워져 있다 — 확인 절차가 제자리를 찾은 모습을 표현한 개념 이미지

저시력 사용자에게 더 큰 문제인 이유

저시력 사용자에게 AI 챗봇은 훌륭한 도구입니다. 여러 페이지를 확대해 가며 읽는 대신 정리된 답을 음성으로 들을 수 있기 때문입니다.

그런데 바로 그 편의가 대조를 어렵게 만듭니다. 출처를 여러 개 열어 비교하는 일은 화면을 크게 키워 보는 사용자에게 몇 배로 힘든 작업입니다.

그래서 접근성 도구는 답만 주는 것으로 부족합니다. 이 정보를 어디서 확인할 수 있는지까지 같은 방식으로 읽어 줘야 실제로 안전해집니다.

우리가 바꿔야 할 질문 방식

AI에게 묻는 방식만 바꿔도 위험이 꽤 줄어듭니다. 결론을 묻는 대신 근거와 조건을 묻는 것입니다.

예를 들어 물을 얼마나 가져갈까 대신, 이 경로에서 물 소요량을 좌우하는 변수가 무엇이고 계획이 두 배로 길어지면 어떻게 달라지는지를 묻는 식입니다.

질문에 예외 상황을 넣으면 답도 예외를 포함하게 됩니다. 도구를 바꾸기 전에 질문을 바꾸는 편이 훨씬 빠릅니다.

넓은 청록 광선 하나가 검은 각진 입체로 들어가 세 갈래 평행 광선으로 갈라져 나온다 — 조건을 나눠 묻는 질문 방식을 표현한 개념 이미지

핵심 정리

첫째, 캘리포니아 섀스타산 클리어 크리크 루트에서 초보 등반자 세 명이 조난했다가 이튿날 아침 산림청 레인저에게 구조됐습니다.

둘째, 이들은 경로와 준비물을 구글 제미나이에 의존해 계획했고, 보안관실은 필요한 양보다 훨씬 적은 식량과 물을 권한 것이 결정적 실책이었다고 밝혔습니다.

셋째, 8시간으로 잡은 등반이 정상 도달 오후 7시, 야간 하산, 머드 크리크 캐니언 이탈, 무릎 부상, 협곡 노숙으로 이어졌습니다.

넷째, 문제의 뿌리는 AI가 평균적인 답을 자신 있는 어조로 준다는 데 있습니다. 물과 식량, 반환 시각, 탈출 경로는 사람이 낸 자료로 반드시 대조하셔야 합니다.

참고하실 만한 것

산행 계획을 세우실 때는 관리 기관의 공식 안내와 최근 등반 기록을 함께 보시길 권합니다. AI의 답은 그 자료를 찾기 위한 목차로 쓰실 때 가장 안전합니다.

SVIL은 저시력 사용자를 위한 AI 도구와 접근성 설계를 연구하고 있습니다. AI가 무엇을 잘하고 무엇을 못하는지를 큰 글씨와 쉬운 설명으로 정리해 전해 드리고 있습니다.

블로그와 유튜브 채널에서 같은 주제를 글과 영상으로 함께 다루고 있으니 편하신 쪽으로 보시면 됩니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/