일론 머스크의 xAI가 주정부를 고소했어요 — '누디파이 금지법' vs 표현의 자유 총정리

SVIL - Singularity Visual Intelligence Lab 2026. 07. 30 18 min read

일론 머스크의 AI가 주(州) 정부를 고소했어요

보통은 피해자가 AI 회사를 고소하죠. 그런데 이번엔 순서가 뒤집혔어요. 2026년 7월 27일, 일론 머스크의 AI 기업 xAI가 미네소타주를 상대로 소송을 냈습니다. 이유는 놀라워요. 'AI로 벗기는(nudify)' 앱을 금지하는 미네소타 법이 표현의 자유를 침해한다는 겁니다.

비동의 성적 딥페이크를 막으려는 법을, AI 회사가 수정헌법 1조를 들어 막아섰다니. 언뜻 들으면 황당하지만, 헌법학자들 사이에선 의외로 xAI 편을 드는 목소리도 있어요. 오늘은 이 복잡한 사건을 처음부터 끝까지 풀어보겠습니다.

무슨 일이 있었나 — 소송 개요

xAI는 7월 27일 연방법원에 미네소타 법무장관 키스 엘리슨을 상대로 소송을 제기했어요. 문제 삼은 법은 '하원 법안 1606(House File 1606, 이하 HF 1606)'입니다. xAI는 이 법이 AI 이미지 생성 도구에 지나치게 광범위하고 내용 기반의 제약을 가해 수정헌법 1조를 위반한다고 주장했습니다.

소송의 요구는 명확해요. HF 1606이 수정헌법 1조·14조에 위배되어 위헌임을 선언하고, 엘리슨 장관이 법을 집행하지 못하도록 예비·영구 금지명령을 내려달라는 것입니다.

HF 1606 — 미네소타 법이 뭔가

HF 1606은 동의 없이 사람의 가짜 성적 이미지를 만드는 앱과 웹사이트를 금지하는 주법이에요. 8월 1일 시행 예정이었죠. 핵심은 '엄격 책임(strict liability)'입니다. 사용자가 그 소프트웨어로 '은밀한 부위(intimate parts)'를 묘사하는 이미지를 만들거나 변형하면, 플랫폼 소유자와 운영자에게 책임을 묻는 구조예요.

위반 시 민사 벌금은 건당 최대 50만 달러. 상당히 강력한 처벌입니다. 앱을 만든 회사가 "우리는 몰랐다"고 해도 빠져나가기 어렵게 설계된 거죠.

'누디파이(nudify)' 앱이란

배경 개념부터 짚을게요. '누디파이' 앱은 옷 입은 사람의 사진을 AI로 처리해 나체처럼 보이게 만드는 도구예요. 'AI로 벗기는' 앱이라 불립니다. 피해자의 동의 없이 실제 인물의 얼굴로 성적 이미지를 합성할 수 있어, 전 세계적으로 심각한 문제가 되고 있어요.

특히 피해자가 미성년자인 경우도 많아 각국이 규제에 나섰습니다. 미네소타의 HF 1606도 이런 흐름 속에서 나온 법이에요.

스트릭트 라이어빌리티 — 왜 논쟁적인가

이 법의 핵심이자 xAI가 물고 늘어지는 지점이 '엄격 책임'이에요. 보통 법은 '알고도 했는지(고의)'를 따집니다. 그런데 엄격 책임은 고의가 없어도 결과만으로 책임을 물어요. 즉 사용자가 앱을 악용했을 뿐인데, 앱 제공자가 몰랐더라도 책임진다는 겁니다.

xAI의 지적은 이래요. 이 법엔 '안전항(safe harbor)'도 없고 '고의 요건(scienter)'도 없다. 선의로 만든 범용 이미지 도구도, 누군가 악용하면 곧바로 50만 달러 폭탄을 맞을 수 있다는 거죠. 이게 '광범위성(overbreadth)' 논쟁의 핵심입니다.

xAI의 수정헌법 1조 논리

xAI의 법적 논리를 정리하면 이래요. HF 1606은 '내용 기반(content-based)'의 광범위한 금지이고, 그래서 표현의 자유를 침해한다는 겁니다. 미국 헌법상 내용 기반 규제는 '엄격 심사(strict scrutiny)'라는 가장 높은 위헌 심사 기준을 통과해야 해요. 웬만해선 통과하기 어려운 기준이죠.

AI가 만든 이미지도 '표현'으로 볼 수 있고, 그것을 광범위하게 금지하면 보호받아야 할 표현까지 함께 막힌다는 게 xAI의 주장이에요. 여기엔 진짜 법리적 근거가 있습니다. 문제는 그 논리가 '해로운 콘텐츠'까지 방패로 삼는다는 점이죠.

'민소매 남성도 걸린다'는 주장

xAI가 든 구체적 예시가 흥미로워요. HF 1606의 '은밀한 부위' 정의가 너무 넓어서, 웃통 벗은 남성이나 수영복 이미지까지 쓸어담을 수 있다는 겁니다. 즉 명백한 딥페이크 포르노가 아니라 해변 사진이나 운동 사진 같은 일상 이미지도 법의 그물에 걸릴 수 있다는 거죠.

이런 '넘침(overbreadth)' 논증은 표현의 자유 소송의 전형적 전략이에요. "이 법대로면 이렇게 무해한 것까지 처벌된다"고 보여줘서, 법 전체가 지나치게 넓다고 공격하는 방식입니다.

법이 태어난 배경 — 몰리 켈리 사건

그런데 이 법이 왜 생겼는지를 알면 무게가 달라져요. HF 1606은 미네소타 여성 몰리 켈리(Molly Kelley)의 경험에서 출발했습니다. 2024년, 그녀는 가까운 가족 친구가 누디파이 웹사이트로 자신과 약 80명의 다른 여성들의 비동의 딥페이크 이미지를 만들었다는 사실을 알게 됐어요.

추상적 우려가 아니라 실제 피해자들의 고통에서 나온 법이라는 뜻이에요. 이 배경이 xAI의 '표현의 자유' 논리를 정서적으로 무겁게 반박합니다. 법정 밖 여론에서 xAI가 불리한 이유이기도 하고요.

딥페이크 피해의 실제 규모

피해 규모는 상상 이상이에요. 테크 트랜스패런시 프로젝트에 따르면, 2026년 초 양대 앱스토어에서 발견된 누디파이 앱들은 도합 약 4억 8천만 회 다운로드됐고, 합쳐서 약 1억 2천만 달러의 매출을 올린 것으로 추정됩니다.

이건 뒷골목 이야기가 아니라, 앱스토어에 버젓이 올라와 돈을 버는 '산업'이 됐다는 뜻이에요. 규제 당국이 강하게 나오는 배경입니다.

실제 사례 ① Grok의 딥페이크 스캔들 이력

xAI가 이 소송을 낸 맥락을 이해하려면 Grok의 전력을 봐야 해요. xAI의 챗봇 Grok은 2025년부터 사용자가 실제 인물의 이미지를 비동의로 변형해 비키니를 입히거나 성적으로 암시적인 맥락에 넣을 수 있게 해 논란을 빚었습니다. 미성년자 이미지까지 포함됐다는 지적도 있었어요.

2025년 12월 X에 Grok 이미지 생성이 도입되자, 사용자들은 즉시 성적 이미지 생성 방법을 찾아냈습니다. 보도에 따르면 9일 동안 440만 장 넘는 이미지가 생성됐고, 그중 180만 장이 여성을 성적으로 묘사한 것이었어요.

실제 사례 ② 테일러 스위프트 사건

가장 널리 알려진 사건은 테일러 스위프트 관련이었어요. 2025년 8월, 한 기자가 Grok에게 옷을 벗기라고 명시적으로 요청하지 않았는데도, '스파이시(spicy)' 모드를 선택하자 Grok이 스위프트가 옷을 벗고 춤추는 영상을 만들어낸 겁니다.

명시적 지시 없이도 성적 콘텐츠가 튀어나왔다는 점에서 충격이 컸어요. AI 안전장치의 허술함을 보여준 대표 사례로, 규제 필요성에 힘을 실어준 사건입니다.

실제 사례 ③ xAI를 상대로 한 집단소송들

xAI는 이미 여러 소송에 휘말려 있어요. 세 명의 소녀가 자신들의 사진으로 아동 성착취물(CSAM)이 생성됐다며 xAI를 상대로 집단소송을 냈습니다. 이 외에도 비동의 딥페이크 관련 소송이 최소 두 건 더 진행 중이에요.

즉 xAI는 '딥페이크 피해를 유발한 쪽'으로 여러 법정에 서 있는 상황입니다. 그런 회사가 이번엔 딥페이크 금지법을 '표현의 자유'로 공격했으니, 여론의 시선이 고울 리 없어요.

샌프란시스코의 앱스토어 압박

미네소타만 움직인 게 아니에요. 2026년 7월 17일, 샌프란시스코 시 법무관 데이비드 추는 애플과 구글에 경고장을 보내, 얼굴 교체·누디파이 앱 13개(앱스토어 8개, 구글플레이 5개)를 지목하고 28일 안에 삭제하라고 요구했습니다.

실제로 애플은 이후 관련 앱들을 앱스토어에서 대거 퇴출시켰어요. 규제가 '법'뿐 아니라 '플랫폼 압박'으로도 동시에 조여오고 있다는 걸 보여줍니다.

연방법: TAKE IT DOWN Act

연방 차원의 장치도 있어요. 'TAKE IT DOWN Act'는 2025년 5월 19일 발효된 연방법으로, 온라인과 소셜미디어에 올라온 비동의 성적 이미지·딥페이크에 대응합니다. 플랫폼이 신고를 받으면 신속히 삭제하도록 의무를 부과하죠.

즉 미국은 이미 연방·주·지방 여러 층위에서 딥페이크 규제망을 짜고 있어요. xAI의 이번 소송은 이 촘촘해지는 규제망에 대한 정면 도전인 셈입니다.

캘리포니아 AB 621

캘리포니아도 빼놓을 수 없어요. 2025년 통과된 AB 621은 비동의 딥페이크 성착취물의 '제3자 조력자'까지 피해자가 민사소송을 걸 수 있게 했습니다. 앱을 직접 만들지 않았어도, 유통·조력한 쪽에 책임을 물을 수 있다는 거죠.

미네소타의 엄격 책임 조항과 방향이 비슷해요. 여러 주가 '도구 제공자·조력자'로 책임 범위를 넓히는 추세이고, xAI는 바로 이 확장에 제동을 걸려는 것입니다.

헌법학자들의 엇갈린 시각

흥미롭게도 헌법학자들의 의견은 갈립니다. 평소 일론 머스크에 동의하지 않는 전문가들조차, 이번 딥페이크 소송의 '법리'만큼은 xAI에 일리가 있다고 보는 경우가 있어요.

이유는 법 기술적 문제예요. 안전항도 없고, 고의 요건도 없고, '은밀한 부위' 정의가 넓다면 — 아무리 취지가 옳아도 법 자체가 위헌 판정을 받을 수 있다는 겁니다. 좋은 의도가 곧 좋은 법을 보장하진 않는다는 거죠.

왜 일부 전문가는 xAI에 동의하나

조금 더 풀어볼게요. 미국 수정헌법 1조는 '내용 기반' 규제를 극도로 경계합니다. 정부가 '어떤 내용'을 금지하기 시작하면, 그 권한이 남용될 위험이 크다고 보기 때문이에요. 그래서 아무리 혐오스러운 표현이라도, 이를 금지하는 법은 '가장 좁게, 가장 정밀하게' 설계돼야 합니다.

HF 1606이 그 정밀함에 미달한다면, 법원은 '취지는 옳지만 설계가 틀렸다'며 무효화할 수 있어요. 전문가들이 우려하는 건 딥페이크를 옹호해서가 아니라, 엉성한 법이 오히려 향후 좋은 규제의 발판까지 무너뜨릴 수 있다는 점입니다.

표현의 자유 vs 실제 피해 — 어려운 균형

이 사건의 본질은 두 가치의 충돌이에요. 한쪽엔 '표현의 자유'라는 헌법적 원칙이, 다른 쪽엔 '비동의 딥페이크 피해'라는 실제 고통이 있습니다. 둘 다 진지하게 다뤄야 할 가치죠.

정답이 쉽지 않아요. 표현의 자유를 지키는 바로 그 보호막이, 때로는 명백히 해로운 사용까지 감싸버릴 수 있으니까요. 결국 이 경계선은 랩(AI 회사)이 아니라 법원이 그어야 할 문제입니다. 그리고 그 판결은 앞으로 수년간 AI 생성 콘텐츠의 법적 한계를 규정할 거예요.

xAI의 브랜드 포지셔닝

이번 소송은 xAI의 일관된 노선이기도 해요. xAI는 AI 랩 중 콘텐츠 제한에 가장 저항적인 브랜드를 자처해 왔습니다. Grok의 '스파이시 모드'부터 이번 소송까지, "우리는 검열하지 않는다"는 정체성을 밀어붙이는 거죠.

다만 타이밍이 좋지 않아요. AI가 실제 피해를 일으킨 사건들이 연달아 터진 주간에, 딥페이크 금지법을 상대로 소송을 냈으니까요. 브랜드에는 일관되지만, 여론에는 역풍을 맞기 쉬운 선택입니다.

한국의 딥페이크 법제와 비교

한국은 어떨까요? 한국은 이미 딥페이크 성범죄에 강경한 편이에요. 2024년 이후 비동의 딥페이크 성적 합성물의 제작·유포뿐 아니라 '소지·시청'까지 처벌하는 방향으로 법이 강화됐습니다. 미국이 주로 '민사 책임·플랫폼 삭제' 중심이라면, 한국은 '형사 처벌' 중심이라는 차이가 있어요.

접근 방식은 달라도 문제의식은 같습니다. AI가 만든 비동의 성적 이미지가 실제 사람에게 심각한 해를 끼친다는 것. 다만 표현의 자유와의 균형을 어디서 잡을지는 나라마다 법 전통에 따라 달라, 미국의 이번 소송 결과가 국제적으로도 참고점이 될 전망입니다.

앞으로 지켜볼 것들 (8월 1일 시행)

가장 임박한 관전 포인트는 8월 1일이에요. HF 1606이 예정대로 시행될지, 아니면 xAI가 요청한 예비 금지명령으로 발효가 멈출지가 곧 판가름 납니다. 법원이 어느 쪽 손을 들어주느냐가 첫 분수령이에요.

더 넓게는, 이 소송이 다른 주의 유사 법안에 미칠 파장을 봐야 합니다. xAI가 이기면 여러 주의 딥페이크 법이 재검토될 수 있고, 지면 규제 확산에 힘이 실릴 거예요. 어느 쪽이든 AI 생성 콘텐츠 규제의 향방을 가르는 시금석이 될 것입니다.

핵심 정리

정리하면 이래요. 일론 머스크의 xAI가 비동의 성적 딥페이크를 금지하는 미네소타 법 HF 1606을 상대로, 수정헌법 1조 위반이라며 소송을 냈습니다. 이 법은 8월 1일 시행 예정이며, 앱 제공자에게 '엄격 책임'을 지우고 건당 최대 50만 달러 벌금을 매겨요.

xAI는 이 법이 지나치게 광범위해 무해한 이미지까지 처벌한다고 주장하고, 실제로 일부 헌법학자도 법리적으로는 일리가 있다고 봅니다. 하지만 이 법은 80여 명의 피해를 겪은 몰리 켈리 사건에서 출발했고, 누디파이 앱은 4억 8천만 다운로드의 '산업'이 됐어요. 게다가 xAI 자신이 Grok 딥페이크로 여러 소송에 휘말린 당사자죠. 결국 이 사건은 '표현의 자유'와 '실제 피해'라는 두 가치가 정면충돌하는 지점이며, 그 경계선은 법원이 그리게 될 겁니다. 8월 1일 시행 여부가 첫 분수령이에요.

여러분은 어느 쪽이 맞다고 보세요? 딥페이크를 막으려는 법일까요, 아니면 표현의 자유를 위협하는 과잉 규제일까요? 어려운 문제인 만큼 다양한 의견이 궁금해요. 댓글로 생각을 들려주세요. 다음에도 AI와 법·사회 이슈를 쉽게 풀어드릴게요. 🙂

※ 이 글은 비동의 딥페이크라는 민감한 주제를 다룹니다. 관련 피해를 겪고 있다면 혼자 감당하지 마시고 디지털성범죄피해자지원센터 등 전문기관의 도움을 받으시길 권해요.

출처

CNBC — Elon Musk's xAI sues Minnesota over law to ban 'nudify' apps: https://www.cnbc.com/2026/07/28/spacexs-xai-sues-minnesota-over-law-to-ban-nudify-apps-.html
TechTimes — xAI Challenges Minnesota Nudification Law With No Safe Harbor, No Scienter: https://www.techtimes.com/articles/322027/20260729/xai-challenges-minnesota-nudification-law-no-safe-harbor-no-scienter.htm
IBTimes UK — Elon Musk's xAI Sues Minnesota Over New State Law Banning AI 'Nudify' Technology: https://www.ibtimes.co.uk/elon-musk-spacexai-challenges-minnesota-ai-nudification-ban-1811380
AOL / AP — Constitutional law experts don't always agree with Elon Musk, but on X's deepfake lawsuit, some do: https://www.aol.com/news/constitutional-law-experts-dont-always-171551100.html
TechCrunch — Apple and Google ordered to purge 'nudify' apps from App Stores: https://techcrunch.com/2026/07/17/apple-and-google-ordered-to-purge-nudify-apps-from-app-stores/
Wikipedia — Grok sexual deepfake scandal: https://en.wikipedia.org/wiki/Grok_sexual_deepfake_scandal
19th News — Women and girls are taking Grok to court over sexualized AI deepfakes: https://19thnews.org/2026/03/women-girls-lawsuit-grok-ai-deepfakes/
Wikipedia — TAKE IT DOWN Act: https://en.wikipedia.org/wiki/TAKE_IT_DOWN_Act