290만 원으로 27년 난제를 풀었어요 — 오픈AI '아스트라'가 내놓은 수학 증명 10개 총정리

2,000달러. 우리 돈으로 290만 원이에요

커피 몇 잔 값이라고 하기엔 크고, 노트북 한 대 값이라고 하기엔 애매한 금액이죠. 그런데 이 돈으로 27년 동안 아무도 풀지 못한 수학 난제가 풀렸다면 어떠세요?

2026년 8월 1일, 오픈AI가 아직 세상에 내놓지도 않은 모델로 수학과 이론 컴퓨터과학의 미해결 문제 열 개를 풀었다고 발표했어요. 그것도 "우리가 풀었어요"라는 주장만 던진 게 아니라, 기계가 한 줄씩 확인할 수 있는 증명서까지 통째로 공개하면서요.

이번 글에서는 무슨 일이 벌어진 건지, 왜 수학자들이 술렁이는지, 그리고 우리가 냉정하게 봐야 할 부분은 어디인지 하나씩 짚어볼게요.

무슨 일이 있었나 — 249쪽짜리 원고

발표의 형태부터가 조금 낯설었어요. 보통 AI 회사가 새 모델을 공개할 때는 벤치마크 점수표와 데모 영상을 먼저 보여주잖아요. 이번엔 달랐습니다.

오픈AI는 249쪽 분량의 수학 원고를 통째로 올렸어요. 열 개의 새로운 결과, 모델이 어떻게 생각을 전개했는지 보여주는 추론 과정, 그리고 각 결과를 기계가 검증할 수 있게 만든 형식 증명 파일까지 깃허브에 함께 공개했습니다.

모델 이름은 아스트라(Astra). 오픈AI가 "다음 주력 모델"이라고 부르는, 아직 출시되지 않은 내부 버전이에요.

왜 '아직 안 나온 모델'로 발표했을까요

이 부분이 흥미로워요. 아스트라는 아직 쓸 수 없는 모델입니다. 가격도, 출시일도, 성능표도 공개되지 않았어요.

그런데 오픈AI는 이 모델의 존재를 수학 결과 열 개로 먼저 알렸습니다. 마치 신인 가수가 데뷔 인터뷰 대신 노래 한 곡을 툭 던져놓은 것과 비슷해요. "설명은 됐고, 들어보세요"에 가까운 방식이죠.

이런 발표 방식 자체가 메시지예요. 점수로 자랑하는 단계는 지났고, 이제는 결과물로 증명하겠다는 신호에 가깝습니다.

열 개의 결과가 걸쳐 있는 여섯 개 분야

공개된 열 개의 결과는 한 분야에 몰려 있지 않아요. 군론, 폰 노이만 대수, 고차원 기하학, 부호 이론, 양자 복잡도, 격자 암호, 극단 조합론까지 넓게 퍼져 있습니다.

이게 중요한 이유가 있어요. 한 분야에서만 잘한다면 "그 분야 데이터를 유난히 많이 학습했나 보다"라고 설명할 수 있거든요. 그런데 서로 도구도, 언어도, 직관도 다른 여러 분야에 걸쳐 있으면 그런 설명이 잘 안 통합니다.

그리고 공통점이 하나 있어요. 열 문제 모두 최소 10년 이상 미해결 상태였다는 것입니다.

잠깐, '군(group)'이 뭔가요

가장 화제가 된 결과를 이해하려면 '군'이라는 개념을 잠깐 짚고 가야 해요. 어렵게 들리지만 사실 아주 일상적인 개념입니다.

루빅스 큐브를 떠올려 보세요. 큐브를 돌리는 방법은 여러 가지가 있고, 두 번 연달아 돌리면 그것도 결국 하나의 '돌리기'예요. 아무것도 안 돌리는 것도 하나의 동작이고, 모든 동작은 되돌릴 수 있죠.

이렇게 "이어 붙일 수 있고, 아무것도 안 하는 상태가 있고, 되돌릴 수 있는" 동작들의 모음이 바로 군이에요. 시계 바늘 돌리기, 정삼각형 뒤집기, 정수 더하기 전부 군입니다.

'소픽(sofic)'을 저울로 설명하면

군 중에는 원소가 무한히 많은 것들이 있어요. 무한한 대상은 컴퓨터로도, 종이로도 통째로 다루기 어렵죠. 그래서 수학자들은 "유한한 것으로 얼마나 가깝게 흉내 낼 수 있나"를 봅니다.

주방 저울로 비유해 볼게요. 저울 눈금이 1g 단위라면 0.3g은 못 재요. 그런데 눈금을 0.1g로, 0.01g로 계속 촘촘하게 만들면 원하는 만큼 정확하게 잴 수 있습니다. 실제 값에 얼마든지 가까이 갈 수 있는 거죠.

군에서도 비슷해요. 어떤 무한한 군을 유한한 '자리 바꾸기 체계'로 원하는 만큼 정확하게 흉내 낼 수 있으면, 그 군을 소픽(sofic)이라고 부릅니다. 1999년 미하일 그로모프가 이 개념을 소개했어요.

대표 성과 ① 소픽이 아닌 군을 처음으로 만들었어요

여기서 자연스럽게 질문이 생깁니다. "모든 군은 소픽일까?"

수학자들이 실무에서 쓰는 군은 사실상 전부 소픽이에요. 그래서 27년 동안 아무도 반례를 찾지 못했습니다. 있는데 못 찾은 건지, 정말 없는 건지조차 몰랐죠.

아스트라가 내놓은 결과는 소픽이 아닌 군을 실제로 구성해 보인 것입니다. "어딘가 있을 거예요"가 아니라 "여기 있습니다"라고 물건을 꺼내 놓은 셈이에요. 현대 군론에서 가장 유명한 미해결 질문 중 하나가 이렇게 닫혔습니다.

왜 27년 동안 아무도 못 풀었을까요

반례를 찾는 일은 원래 어려워요. 특히 이런 종류의 문제는 더 그렇습니다. 소픽이 아니라는 걸 보이려면 "어떤 유한 체계로도 흉내 낼 수 없다"는 걸 증명해야 하거든요.

모래사장에서 특정한 모래알 하나를 찾는 게 아니라, "이 모래사장에는 그런 모래알이 아예 없다"를 증명하는 일에 가까워요. 존재하지 않음을 보이는 건 언제나 존재함을 보이는 것보다 까다롭습니다.

게다가 후보를 만들어내는 것 자체가 어려웠어요. 우리가 아는 군들은 거의 다 소픽이라, 반례가 될 만한 후보군이 애초에 잘 떠오르지 않았죠.

대표 성과 ② 콘의 강직성 추측이 무너졌어요

두 번째로 주목받은 결과는 반대 방향이에요. 이번엔 오랫동안 참일 거라 믿어온 추측을 반증했습니다.

알랭 콘이 1980년에 내놓은 강직성 추측인데요. 아주 거칠게 요약하면 이런 내용이에요. "어떤 특별한 성질을 가진 군은, 거기서 만들어지는 대수적 구조만 봐도 원래 군이 무엇이었는지 정확히 알 수 있다."

아스트라는 이 추측이 틀렸음을 보였어요. 서로 완전히 다른 군인데도 똑같은 대수 구조를 만들어내는 사례를, 그것도 무한히 많이 구성해냈습니다.

'지문'이라는 비유로 보면

콘의 추측은 지문에 비유할 수 있어요. 지문 하나를 보면 그 사람이 누구인지 특정할 수 있다는 게 우리 상식이잖아요.

콘의 추측은 "이 부류의 군에 대해서는 폰 노이만 대수가 지문 역할을 한다"는 주장이었어요. 대수만 보면 군이 특정된다는 거죠.

그런데 아스트라가 완전히 다른 사람인데 지문이 똑같은 경우를 무더기로 찾아낸 겁니다. 지문이 신원 확인 수단으로 못 쓰인다는 뜻이니, 46년 묵은 상식 하나가 뒤집힌 셈이에요.

대표 성과 ③ 에르하르트 부피 추측 증명

세 번째는 기하학 쪽이에요. 격자점이 찍힌 모눈종이 위에 다각형을 그린다고 생각해 보세요. 그 안에 들어 있는 격자점의 개수와 도형의 넓이 사이에는 깔끔한 관계가 있습니다.

이걸 고차원으로 끌어올린 게 에르하르트 이론이에요. 아스트라는 여기서 오래 열려 있던 부피 추측을 증명했습니다.

화려하진 않지만, 격자와 부피를 다루는 분야는 암호학·최적화·데이터 압축과 직접 맞닿아 있어요. 조용히 중요한 결과입니다.

대표 성과 ④ 구 채우기, 1978년 이후 첫 개선

이건 이름만 들어도 감이 오는 문제예요. 공을 최대한 빽빽하게 쌓으려면 어떻게 해야 할까?

과일가게에서 오렌지 쌓는 걸 떠올리면 3차원에서는 직관적이죠. 그런데 차원이 10차원, 100차원, 1000차원으로 올라가면 직관이 완전히 무너집니다. 고차원에서 "얼마나 빽빽하게 채울 수 있는가"의 일반적인 상한은 1978년 이후로 개선되지 않았어요.

아스트라가 48년 만에 그 지수를 처음으로 끌어내렸습니다. 이 분야는 오류 정정 부호와 격자 암호의 기반이기도 해요.

대표 성과 ⑤ 양자 병렬 반복 정리

다섯 번째는 양자 복잡도 쪽입니다. 두 사람이 서로 상의하지 못한 채 각자 답을 내는 게임이 있어요. 이 게임을 여러 판 동시에 진행하면 이길 확률이 얼마나 빨리 떨어질까요?

고전적인 상황에서는 답이 알려져 있었어요. 그런데 두 사람이 양자 얽힘을 공유하고 있으면 이야기가 복잡해집니다. 얽힘이 판과 판 사이를 이상한 방식으로 연결해버리거든요.

아스트라는 일반적인 2인 얽힘 게임에 대해 병렬 반복 정리를 증명했습니다. 양자 암호의 안전성 증명에서 자주 필요한 도구예요.

진짜 핵심은 여기예요 — '린(Lean) 4' 증명서

솔직히 말하면, 여기까지는 "대단하네요"로 끝날 수도 있는 이야기예요. AI가 수학 문제를 풀었다는 주장은 전에도 있었으니까요.

이번 발표에서 결정적으로 다른 지점은 모든 결과에 기계가 검증할 수 있는 증명서가 붙어 있다는 것입니다. 린(Lean) 4라는 형식 증명 언어로 작성돼 깃허브에 올라와 있어요.

린은 증명을 사람이 읽는 문장이 아니라 컴퓨터가 한 줄씩 검사할 수 있는 코드로 적게 해줍니다. 논리적으로 빈틈이 있으면 프로그램이 그냥 통과시키지 않아요. 말을 잘한다고 넘어갈 수 없는 심판인 셈이죠.

'sorry 0'이라는 숫자가 뜻하는 것

린에는 sorry라는 명령이 있어요. "이 부분은 나중에 채울게요"라고 표시하고 넘어가는 임시 표식입니다. 논문으로 치면 "자명하므로 생략한다" 같은 문장이죠.

이번에 공개된 저장소는 sorry 개수가 0이라고 보고됐어요. 열 개 결과의 형식화된 증명 어디에도 미룬 부분이 없다는 뜻입니다.

이게 왜 중요하냐면요. AI가 만들어낸 수학에서 가장 큰 걱정이 그럴듯하게 틀린 중간 단계였거든요. 사람이 읽으면 자연스러운데 실제로는 논리 구멍이 있는 문장 말이에요. 형식 증명은 그 걱정을 구조적으로 제거합니다.

기계 검증이 동료 심사를 바꾸는 방식

수학계의 검증 절차는 원래 느려요. 논문이 나오면 전문가들이 몇 달, 길게는 몇 년에 걸쳐 읽고 확인합니다. 유명한 난제 증명이 발표된 뒤 검증에만 수년이 걸린 사례도 있어요.

형식 증명은 이 순서를 바꿉니다. 저장소를 내려받아 검증기를 돌리면 몇 분 안에 "논리적으로 맞다"는 답이 나와요. 저자가 누구인지, 어느 기관 소속인지 알 필요도 없습니다.

다만 오해하면 안 되는 게 있어요. 기계가 확인해 주는 건 "논리적으로 맞다"까지예요. "이 결과가 중요한가", "정리 서술이 원래 문제를 제대로 담고 있나"는 여전히 사람이 판단해야 합니다.

비용 2,000달러 — 이게 왜 충격인가요

오픈AI는 열 개 결과를 얻는 데 든 총 연산 비용이 API 요금 기준 약 2,000달러였다고 밝혔어요. 우리 돈으로 290만 원 안팎입니다.

비교해 볼까요. 수학 박사후연구원 한 명의 1개월 인건비도 안 되는 금액이에요. 그런데 그 돈으로 27년, 46년, 48년 묵은 문제들이 함께 정리됐습니다.

물론 이 숫자는 착시를 조심해야 해요. 모델을 훈련시키는 데 들어간 비용은 여기에 포함되지 않았고, 문제를 고르고 결과를 정리한 연구자들의 시간도 빠져 있습니다. 그래도 "한 번 만들어진 모델을 쓰는 비용"이 이 수준이라는 건 의미가 큽니다.

여기까지 온 길 ① 알파프루프와 올림피아드

이번 일이 갑자기 튀어나온 건 아니에요. 흐름을 짚어보면 이해가 훨씬 쉬워집니다.

2024년, 구글 딥마인드의 알파프루프와 알파지오메트리 2가 국제수학올림피아드 문제를 풀어 은메달 수준의 성적을 냈어요. 42점 만점에 28점이었습니다. 이때도 핵심은 린으로 형식 증명을 만들었다는 것이었어요.

알파프루프는 8천만 개의 수학 명제를 자동으로 형식 언어로 옮겨 학습했고, 강화학습으로 증명 탐색을 훈련했습니다. 이 결과는 이후 학술지에도 실렸어요.

여기까지 온 길 ② 올림피아드에서 연구 최전선으로

올림피아드 문제와 미해결 난제 사이에는 큰 간격이 있어요. 올림피아드 문제는 답이 있다는 게 보장된 문제거든요. 채점자가 정답을 들고 있고, 풀이 시간도 정해져 있죠.

반면 연구 최전선의 문제는 답이 있는지조차 몰라요. 참인지 거짓인지도 모르고, 어느 방향으로 파야 할지도 불확실합니다.

이번 아스트라 발표가 주목받는 건 바로 이 지점이에요. 2년 만에 '답이 보장된 문제'에서 '답이 있는지도 모르는 문제'로 무대가 옮겨갔습니다.

실제 사례: 경쟁사 연구자가 절반을 재현했어요

가장 흥미로운 반응은 경쟁사에서 나왔습니다. 앤트로픽의 연구자 레벤트 알포게가 같은 결과 중 다섯 개를 자사 모델로 재현했다고 밝혔어요.

조건도 눈에 띕니다. 특별히 다듬은 프롬프트가 아니라 일반적인 프롬프트를 썼고, 인터넷 접속도 없이 진행했다고 해요.

이게 시사하는 바가 두 가지예요. 하나는 이 정도 능력이 특정 회사만의 비밀이 아니라는 것. 다른 하나는 형식 증명 덕분에 재현 시도와 확인이 바로 가능해졌다는 것입니다. 예전 같으면 "정말 재현했나요?"를 두고 또 몇 달이 갔을 거예요.

실제 사례: 필즈상 수상자가 오픈AI로 갔어요

같은 주에 또 하나의 소식이 겹쳤어요. 필즈상 수상자인 자코브 치메르만이 토론토대학에서 휴직하고 오픈AI에 합류해 AI 안전 관련 연구를 하기로 했다는 내용이에요.

수학계 최고 영예를 받은 연구자가 AI 회사로 자리를 옮기는 건 몇 년 전만 해도 상상하기 어려웠어요. 지금은 수학 최전선과 AI 연구실 사이의 경계가 흐려지고 있다는 신호로 읽힙니다.

실제 사례: 수학계의 반응은 갈렸어요

반응은 한쪽으로 쏠리지 않았습니다. 크게 세 갈래로 나뉘었어요.

첫째, 순수한 흥분. 필즈상급 난제들이 한 번에 정리됐다는 사실 자체에 감탄하는 반응이에요.

둘째, 불안. 변화 속도가 너무 빨라서 연구자들이 자기 자리를 다시 생각하게 됐다는 목소리입니다.

셋째, 신중한 검토 요청. 오픈AI 스스로도 수학계에 결과를 뜯어보고 그 위에 새로 쌓아 올려 달라고 요청했어요. 이건 건강한 태도예요.

냉정하게 볼 것 ① '풀었다'의 범위

여기서부터는 균형을 잡아야 할 부분이에요.

먼저 문제를 고른 사람은 사람이었습니다. 아스트라가 수학계 전체를 훑어보고 "이게 중요하겠네"라고 판단한 게 아니에요. 연구자들이 후보를 추리고, 형식 언어로 서술하고, 결과를 정리했습니다.

또 하나. 열 개를 풀기까지 몇 번 실패했는지는 공개되지 않았어요. 백 번 시도해서 열 번 성공한 건지, 열두 번 시도해서 열 번 성공한 건지는 그림이 아주 다릅니다.

냉정하게 볼 것 ② 문제 선정과 발표 방식

"10년 이상 미해결"이라는 기준도 한 번 더 들여다볼 필요가 있어요. 수학에는 오래 열려 있지만 아무도 진지하게 달려들지 않은 문제도 많거든요. 어려워서 안 풀린 것과, 관심이 적어서 안 풀린 것은 다릅니다.

물론 소픽 문제나 콘의 추측처럼 확실히 유명한 난제도 포함돼 있어요. 다만 열 개 전부가 같은 무게는 아닐 수 있다는 점은 기억해 두면 좋겠습니다.

발표 형식이 학술지 게재가 아닌 기업 블로그와 깃허브라는 점도 짚어둘 만해요. 검증은 오히려 빨라졌지만, 결과의 맥락과 중요도를 평가하는 절차는 아직 따라붙는 중입니다.

냉정하게 볼 것 ③ 검증은 이제 막 시작됐어요

린 검증기가 통과시켰다는 건 강력한 신호지만, 마지막 관문이 하나 남아 있어요. 형식화된 정리 서술이 원래 문제를 제대로 옮긴 게 맞는지입니다.

예를 들어 "모든 새는 난다"를 형식화하면서 실수로 "일부 새는 난다"로 적었다면, 증명은 완벽하게 통과하지만 증명한 내용은 원래 질문이 아니게 되죠.

이 부분은 사람 수학자들이 원고와 형식 증명을 대조하며 확인해야 해요. 발표된 지 며칠밖에 안 됐으니, 앞으로 몇 주 동안의 검토 결과를 지켜보는 게 맞습니다.

이게 왜 우리 일상과 연결되나요

순수 수학 이야기가 멀게 느껴질 수 있는데요. 생각보다 가깝습니다.

격자 암호는 양자컴퓨터 시대에 대비한 차세대 암호의 핵심이에요. 우리가 쓰는 인터넷 뱅킹과 메신저 보안이 앞으로 여기에 기댑니다. 구 채우기와 부호 이론은 통신 오류 정정, 데이터 압축과 직접 연결돼 있고요.

더 넓게 보면 이런 의미예요. AI가 "이미 아는 것을 잘 정리하는 단계"에서 "아무도 모르던 것을 만들어내는 단계"로 넘어가는 중이라는 신호입니다. 그 변화는 결국 신약 설계, 소재 개발, 알고리즘 최적화 같은 곳으로 흘러가요.

앞으로 몇 달, 무엇을 지켜볼까요

체크 포인트를 세 가지로 정리해 볼게요.

하나, 수학계의 검토 결과. 형식화 서술에 문제가 없다는 확인이 나오는지, 아니면 일부 결과에 이견이 붙는지가 첫 관문이에요.

둘, 재현 가능성. 앤트로픽 연구자의 사례처럼 다른 모델로도 비슷한 결과가 나온다면, 이건 한 회사의 성취가 아니라 기술 수준 자체의 이동입니다.

셋, 문제 선정의 자동화. 사람이 문제를 골라주는 단계를 벗어나 모델이 스스로 "이게 중요한 문제다"를 판단하기 시작한다면, 그때가 진짜 분기점일 거예요.

핵심 정리

길었으니 짧게 묶어볼게요.

· 무엇이 있었나 — 8월 1일, 오픈AI가 미출시 모델 아스트라로 10년 이상 미해결이던 수학·이론 컴퓨터과학 난제 10개를 풀었다고 발표하고 249쪽 원고를 공개했어요.

· 대표 결과 — 27년 만의 비소픽 군 첫 구성, 1980년 콘의 강직성 추측 반증, 에르하르트 부피 추측 증명, 1978년 이후 첫 구 채우기 지수 개선, 일반 2인 얽힘 게임의 병렬 반복 정리 등이에요.

· 진짜 핵심 — 모든 결과에 린 4 형식 증명이 붙어 있고 미완성 표식이 0개라, 누구나 몇 분 만에 논리적 정합성을 검증할 수 있습니다.

· 비용 — 총 연산 비용은 약 2,000달러(약 290만 원). 단, 훈련 비용과 연구자 시간은 빠진 숫자예요.

· 주의할 점 — 문제를 고른 건 사람이고, 실패 횟수는 비공개이며, 형식화 서술이 원래 문제를 제대로 담았는지는 아직 검토 중입니다.

· 왜 중요한가 — 올림피아드처럼 답이 보장된 문제에서, 답이 있는지조차 모르는 연구 최전선으로 무대가 옮겨간 첫 사례급 사건이에요.

여러분은 어떻게 보셨나요?

AI가 수학 난제를 푸는 시대, 반가우신가요 아니면 조금 서늘하신가요? 특히 "기계가 검증해 주면 동료 심사는 어떻게 되는 걸까" 하는 부분은 답이 정해지지 않은 질문이라고 생각해요.

이 글에서 더 깊이 다뤄줬으면 하는 주제가 있다면 댓글로 남겨주세요. 격자 암호나 형식 증명 같은 주제는 따로 한 편을 써도 좋을 것 같아요. 읽어주셔서 고맙습니다.

출처

· 오픈AI 공식 발표: https://openai.com/index/ten-advances-in-mathematics/
· The Next Web: https://thenextweb.com/news/openai-astra-model-ten-math-proofs-non-sofic-groups
· SiliconANGLE: https://siliconangle.com/2026/08/02/openais-astra-solves-10-long-open-math-problems-publishes-proofs/
· Tech Times: https://www.techtimes.com/articles/322710/20260802/openais-astra-solves-ten-decade-old-math-problems-machine-checkable-lean-proofs.htm
· Forbes: https://www.forbes.com/sites/jonmarkman/2026/08/03/openais-astra-solved-10-decades-old-math-problems-for-just-2000/
· Quartz: https://qz.com/openai-astra-model-math-problems-lean-proofs-080326
· The Decoder: https://the-decoder.com/openai-announces-its-next-major-model-astra-by-dropping-ten-previously-unsolved-math-solutions/
· Google DeepMind (알파프루프 배경): https://deepmind.google/blog/ai-solves-imo-problems-at-silver-medal-level/
· Nature (형식 수학 추론 논문): https://www.nature.com/articles/s41586-025-09833-y