AI 뉴스 SVIL 캘리포니아 개빈 뉴섬 SB 813 AB 1405 AI 규제 AI 감사

AI를 만든 회사가 스스로 채점하던 시대가 끝납니다 — 캘리포니아가 감사인 등록제를 만들었습니다

SVIL - Singularity Visual Intelligence Lab 2026. 09. 10 15 min read

지금까지 AI 모델이 안전한지 판단하는 일은 대체로 그 모델을 만든 회사가 해 왔습니다. 자기 시험지를 자기가 채점하는 구조라는 지적이 오래 따라다녔습니다.

캘리포니아가 그 구조에 손을 댔습니다. 뉴섬 주지사가 AI 시스템의 독립 감사를 요구하는 법 두 건에 서명했습니다. 미국에서 처음 만들어지는 틀입니다.

오늘은 이 두 법이 정확히 무엇을 요구하는지, 그리고 누가 대상이 되는지 살펴보겠습니다.

가는 막대로 짠 커다란 사각 통로 안쪽 한가운데에 청록 정육면체가 밝게 떠 있는 개념 이미지 — 감사 제도의 틀을 표현했습니다

주지사가 두 건에 서명했습니다

개빈 뉴섬 캘리포니아 주지사가 AI 시스템에 대한 독립 제3자 감사와 평가를 요구하는 법안 두 건에 서명했습니다.

주 정부는 이를 전국에서 처음 만들어지는 AI 안전장치라고 소개했습니다. 개별 항목을 규제하는 법이 아니라 검증하는 사람을 규율하는 법이라는 점이 특징입니다.

SB 813 — 독립 검증 기관의 틀

첫 번째는 제리 매커니 상원의원이 발의한 상원법안 813입니다. AI 시스템과 모델이 주법을 지키고 있는지 평가할 독립 검증 기관의 틀을 만듭니다.

매커니 의원은 이 법이 주지사 자문단이 내놓은 핵심 권고 가운데 하나를 법으로 옮긴 것이라고 밝혔습니다.

어두운 정육면체 위로 화면 밖에서 들어온 가느다란 청록 빛줄기가 내리꽂히는 개념 이미지 — 외부 독립 검증을 표현했습니다

AB 1405 — 감사인 등록부

두 번째는 리베카 바우어칸 하원의원이 발의한 하원법안 1405입니다. AI 감사인을 위한 주 차원의 등록부를 만들고, 감사인이 갖춰야 할 기준을 정합니다.

기준은 셋으로 정리됩니다. 독립성, 투명성, 그리고 성실성입니다.

두 법이 맞물리는 지점

두 법은 서로 다른 쪽을 맡습니다. 813이 감사라는 행위의 틀을 세운다면, 1405는 그 행위를 할 자격이 있는 사람이 누구인지를 정합니다.

틀만 있고 자격 기준이 없으면 이름만 감사인 곳이 생깁니다. 반대로 자격만 있고 무엇을 검증할지 정하지 않으면 감사가 형식에 그칩니다. 두 법이 함께 움직여야 의미가 생기는 구조입니다.

긴 어두운 테두리 안에 작은 청록 팔각형 다섯 개가 한 줄로 놓인 개념 이미지 — 감사인 등록부를 표현했습니다

왜 전국 최초인가

미국의 여러 주가 이미 AI 관련 법을 만들었습니다. 올해에만 절반이 넘는 주가 100건 넘는 법을 통과시켰습니다.

그런데 대부분은 특정 용도를 금지하거나 고지 의무를 붙이는 방식이었습니다. 검증하는 주체 자체를 제도로 세운 것은 이번이 처음입니다.

자기 모델을 자기가 평가하던 구조

지금까지 프런티어 모델의 안전성 평가는 대체로 개발사 내부에서 이뤄졌습니다. 외부 평가가 있어도 개발사가 범위와 조건을 정하는 경우가 많았습니다.

평가받는 쪽이 평가 조건을 정하면 결과의 신뢰도는 구조적으로 제한됩니다. 이번 법은 그 지점을 겨냥합니다.

어두운 사각 테두리 두 개가 직각으로 겹치고 교차점이 청록으로 빛나는 개념 이미지 — 두 법이 맞물리는 지점을 표현했습니다

적용 대상은 모델을 만든 회사만이 아닙니다

이 법에서 가장 중요한 대목입니다. 두 법은 모델을 학습시킨 회사만이 아니라, 그 산출물이 사람에게 실질적인 영향을 미치는 모든 주체를 대상으로 삼습니다.

모델을 직접 만들지 않고 빌려 쓰기만 해도 적용될 수 있다는 뜻입니다. 규제 대상의 범위가 크게 넓어집니다.

채용 심사에 쓰면 대상입니다

대형 언어 모델을 빌려 와 입사 지원자를 걸러 내는 데 쓰면 그 회사가 적용 대상이 됩니다. 모델을 만든 곳이 아니라 쓰는 곳입니다.

채용은 결과가 개인의 생계에 직접 닿는 영역입니다. 실질적 영향이라는 기준이 가장 분명하게 적용되는 자리입니다.

밝은 청록 오각 입체 하나가 흐릿한 무리보다 훨씬 앞서 나간 개념 이미지 — 전국 최초 입법을 표현했습니다

보험금 지급 판단에 쓰면 대상입니다

보험금 청구를 심사하는 데 AI를 쓰는 경우도 마찬가지입니다. 지급을 거절하는 판단에 모델이 관여했다면 감사 대상이 됩니다.

이 영역은 이미 여러 나라에서 논란이 됐던 곳입니다. 거절 사유를 설명하기 어려운 판단이 반복되면 이의 제기 자체가 막히기 때문입니다.

공공 서비스 자격 심사도 포함됩니다

공공 서비스 수급 자격을 판정하는 데 쓰는 경우도 범위 안입니다.

행정 기관이 도입한 도구도 예외가 아니라는 뜻입니다. 규제가 민간에만 걸리는 구조는 아닙니다.

어두운 정육면체 안쪽에서 청록빛이 자기 벽면을 비추는 개념 이미지 — 자기 모델을 자기가 평가하던 구조를 표현했습니다

등록부는 2029년 1월 1일부터

하원법안 1405는 캘리포니아 정부운영국이 2029년 1월 1일까지 AI 감사인 등록부를 갖추도록 정하고 있습니다.

법이 통과됐다고 내일부터 감사가 시작되지는 않습니다. 감사인을 길러 내고 기준을 다듬는 데 필요한 시간을 둔 것입니다.

미등록자는 감사를 할 수 없습니다

그 시점부터는 등록하지 않은 사람이 법에서 정한 AI 감사를 수행할 수 없게 됩니다.

감사라는 이름을 아무나 쓸 수 없게 만드는 조항입니다. 회계 감사가 자격 제도로 운영되는 것과 같은 발상입니다.

청록 고리 하나가 여러 어두운 쐐기를 지나 바깥으로 넓어지는 개념 이미지 — 넓어진 적용 대상을 표현했습니다

감사인에게 요구되는 독립성

등록 기준의 첫째는 독립성입니다. 감사받는 회사와 이해관계가 얽혀 있으면 감사인 자격을 갖추기 어렵습니다.

컨설팅을 해 주던 곳이 같은 회사를 감사하는 구조는 회계 영역에서 이미 여러 차례 문제가 됐습니다. 그 교훈을 옮겨 온 조항입니다.

투명성과 성실성 기준

둘째는 투명성, 셋째는 성실성입니다. 어떤 방법으로 무엇을 봤는지 밝혀야 하고, 결과를 있는 그대로 내놓아야 합니다.

감사 방법이 공개되지 않으면 통과했다는 사실만 남고 무엇을 통과한 것인지는 알 수 없습니다. 투명성 조항이 필요한 이유입니다.

작고 흐릿한 사면체들이 두 어두운 덩어리 사이 좁은 청록 틈을 하나씩 지나는 개념 이미지 — 채용 심사를 표현했습니다

매커니 상원의원이 말한 블루리본 패널

매커니 의원은 이 법이 주지사의 블루리본 패널이 내놓은 주요 권고 가운데 하나를 법으로 옮긴 것이라고 설명했습니다.

자문 기구의 권고가 실제 법으로 이어진 사례입니다. 캘리포니아가 지난 몇 해 동안 쌓아 온 논의가 형태를 갖춘 것으로 볼 수 있습니다.

바우어칸 하원의원이 말한 기반시설

바우어칸 의원은 제3자 감사인이 AI를 우리 지역사회와 핵심 기반시설에 안전하게 만드는 데 꼭 필요하다고 말했습니다.

기반시설이라는 단어가 들어간 점이 눈에 띕니다. AI가 이미 전력이나 교통 같은 영역에 들어가 있다는 인식이 담겨 있습니다.

큰 어두운 입체 바로 앞에서 작고 흐릿한 구가 멈춰 선 개념 이미지 — 보험금 지급 거절 판단을 표현했습니다

뉴섬 주지사가 연방정부에 요구한 것

뉴섬 주지사는 서명과 함께 연방정부를 향해 요구를 내놨습니다. 책임 있는 혁신이 살아 있도록 하면서도 공중을 보호하는 견고한 전국 단위 규제를 만들라는 것입니다.

이 기술의 규모와 위험은 전국 차원의 대응을 요구한다는 것이 그가 붙인 이유였습니다. 주 단위 대응으로는 한계가 있다는 인정이기도 합니다.

주법과 연방 기조가 부딪히는 자리

연방 차원에서는 반대 방향의 흐름도 있습니다. 주별 AI 입법을 제한하려는 시도가 이어져 왔고, 주법이 연방 정책과 어긋난다고 판단되면 다투겠다는 조직도 만들어졌습니다.

주 의회 차원에서 10년짜리 동결을 넣으려던 시도는 상원에서 압도적인 표차로 걷어내진 바 있습니다. 방향이 정해졌다기보다 여전히 밀고 당기는 중입니다.

어두운 팔면체에서 청록 호 세 줄기가 서로 다른 방향으로 휘어 나가는 개념 이미지 — 공공 서비스 자격 심사를 표현했습니다

업계는 반대했습니다 — BSA의 논리

소프트웨어 업계 단체인 비즈니스 소프트웨어 얼라이언스는 두 법안에 반대했습니다.

이유는 국가 차원과 국제 차원의 AI 표준이 아직 만들어지는 중인데 캘리포니아만의 감사 체계가 먼저 생기면 규제가 조각조각 갈라진다는 것이었습니다.

규제 파편화라는 우려

파편화 우려는 근거가 없지 않습니다. 주마다 기준이 다르면 전국을 대상으로 서비스하는 회사는 가장 엄격한 기준에 맞추거나 주별로 다르게 운영해야 합니다.

다만 반대편 논리도 있습니다. 연방 기준이 만들어질 때까지 기다리면 그동안의 위험은 누가 감당하느냐는 물음입니다. 캘리포니아는 후자를 택한 셈입니다.

흐릿한 원뿔과 밝은 청록 원뿔이 긴 빈 공간을 사이에 두고 떨어져 선 개념 이미지 — 2029년까지의 유예를 표현했습니다

배경에 있던 사건 — 40만 달러짜리 조사

이번 입법의 배경으로는 최근 있었던 한 조사 사례가 함께 거론됩니다. 오픈AI의 보안 사건을 들여다보던 감시 활동이 40만 달러어치 크레딧을 소진한 일입니다.

조사에 쓰인 모델이 조사 대상인 오픈AI 자신의 모델이었다는 점이 문제로 지적됐습니다.

자기 모델로 자기를 조사한 문제

한 연구자는 이 조사를 두고 부실한 조사라는 취지의 표현을 썼습니다. 조사 도구와 조사 대상이 같은 곳에서 나온 구조 자체를 문제 삼은 것입니다.

독립 감사인 제도가 필요하다는 주장에 구체적인 사례를 제공한 장면이었습니다. 법이 만들어지는 과정에서 자주 인용됐습니다.

완전히 닫힌 어두운 팔면체 바깥에 청록 사면체가 멈춰 선 개념 이미지 — 미등록자의 감사 제한을 표현했습니다

프런티어 랩과 도입 기업이 함께 걸립니다

정리하면 이번 법의 그물은 두 겹입니다. 모델을 만드는 프런티어 랩이 한 겹이고, 그 모델을 가져다 사람에게 영향을 주는 판단에 쓰는 기업이 또 한 겹입니다.

후자의 수가 훨씬 많습니다. 실제 파급력은 모델 개발사가 아니라 도입 기업 쪽에서 더 크게 나타날 가능성이 높습니다.

실제 사례: 감사를 받는 채용 도구

캘리포니아에 사업장을 둔 회사가 외부 모델을 가져와 지원서를 1차로 걸러 낸다고 해 봅시다. 모델은 직접 만들지 않았고 API로 빌려 쓰기만 합니다.

2029년 이후라면 이 회사는 등록된 감사인에게 그 도구를 평가받아야 하는 위치에 놓입니다. 모델 자체가 아니라 그 모델을 어떻게 쓰고 있는지가 평가 대상이 됩니다.

감사인은 어떤 지원자가 왜 걸러졌는지, 그 판단이 주법이 금지한 차별에 해당하지 않는지를 봅니다. 개발사에 물어볼 수 없던 질문을 도입 기업에 직접 묻는 구조입니다.

어두운 오각기둥과 같은 크기의 청록 사면체가 화면 양 끝에 떨어져 선 개념 이미지 — 감사인의 독립성을 표현했습니다

한국에서 볼 지점

국내에서도 AI 관련 제도 논의가 이어지고 있습니다. 이번 캘리포니아 사례에서 참고할 대목은 규제 대상을 개발사로 한정하지 않았다는 점입니다.

모델을 만드는 회사보다 가져다 쓰는 회사가 훨씬 많습니다. 실제 피해가 발생하는 자리도 대체로 그쪽입니다. 감사인 자격 제도를 함께 설계했다는 점도 눈여겨볼 만합니다.

핵심 정리

캘리포니아 뉴섬 주지사가 AI 독립 감사를 요구하는 법 두 건에 서명했습니다. 상원법안 813은 독립 검증 기관의 틀을, 하원법안 1405는 감사인 등록부와 자격 기준을 만듭니다.

적용 대상은 모델 개발사만이 아니라 산출물이 사람에게 실질적 영향을 주는 모든 주체입니다. 채용 심사, 보험금 판단, 공공 서비스 자격 심사가 모두 포함됩니다.

등록부는 2029년 1월 1일까지 갖춰지고 그 이후 미등록자는 감사를 할 수 없습니다. 업계 단체는 규제 파편화를 이유로 반대했습니다.

가느다란 청록 빛줄기가 어두운 직육면체를 관통해 반대편으로 빠져나오는 개념 이미지 — 투명성 기준을 표현했습니다

참고하실 만한 것

AI 도구를 사람에 관한 판단에 쓰고 계시다면 지금부터 판단 근거를 남기는 습관을 들여 두시는 편이 좋습니다. 나중에 되짚을 기록이 없으면 감사 자체가 성립하지 않습니다.

SVIL 블로그에서는 AI 정책과 제도 소식을 큰 글씨와 쉬운 설명으로 이어서 다루고 있습니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://svil.dev/