AI 뉴스 SVIL 그록 xAI 일론 머스크 스페이스X 테이크 잇 다운 법 AI 규제

사진 한 장이 7천 장이 됐습니다 — 그록 이미지 편집과 xAI가 받은 소송

SVIL - Singularity Visual Intelligence Lab 2026. 08. 16 19 min read

8월 15일 테크크런치가 전한 사건은 AI 이미지 편집 기능이 어디까지 잘못될 수 있는지를 보여 줍니다. 한 여성이 자신의 열한 살 때 사진 한 장이 그록을 통해 7천 장이 넘는 성적 이미지로 만들어졌다고 밝혔습니다. 이 주장은 이미 진행 중이던 xAI 상대 집단소송에 새로 더해졌습니다.

어두운 정육면체 하나가 똑같이 생긴 무수한 정육면체 무리와 떨어져 놓인 모습 — 한 장의 원본이 수천 장으로 복제된다는 뜻의 개념 이미지 — 원본은 한 장이었습니다.

사진 한 장에서 7천 장이 나왔습니다

이 사안을 다루는 이유부터 밝히겠습니다. 자극적인 사건이어서가 아니라, AI 안전장치가 실패하는 방식이 여기에 아주 구체적으로 드러나 있기 때문입니다.

이 글은 사건의 세부 묘사 대신 무엇이 왜 뚫렸고, 지금 어떤 제도가 움직이고 있으며, 피해가 생겼을 때 무엇을 할 수 있는지를 정리합니다.

무슨 일이 있었나 — 8월 15일 보도된 소송 추가

소송에서 제인 도 4로 표기된 여성이, 자신의 계부가 그록을 이용해 열한 살 때 찍힌 사진을 조작해 7천 장이 넘는 노골적인 이미지를 만들었다고 주장했습니다. 이미지들은 법 집행기관의 압수수색 과정에서 발견됐습니다.

테크크런치는 xAI에 입장을 물었으나 답을 받지 못했다고 밝혔습니다. 이 주장은 아직 법정에서 다투어질 단계이며, 판결로 확정된 사실이 아니라 소장에 담긴 주장이라는 점을 함께 적어 둡니다.

피해자가 밝힌 경위와 그 뒤에 남은 것

당사자가 남긴 말은 한 문장으로 요약됩니다. 일상이 그대로 학대 자료로 바뀌었다는 것입니다. 여기서 핵심은 원본이 특별한 사진이 아니었다는 점입니다. 가족 앨범에 있을 법한 평범한 어린 시절 사진이었습니다.

이 사건은 또한 이런 사안이 여러 사람의 삶을 동시에 무너뜨린다는 점도 보여 줍니다. 이미지를 만든 계부는 압수수색 이틀 뒤 스스로 목숨을 끊었습니다.

어두운 정육면체 위 한 점에서 청록빛 고리가 겹겹이 번져 나가는 모습 — 한 사건의 파장이 여러 사람에게 퍼진다는 뜻의 개념 이미지 — 평범한 사진 한 장이 출발점이었습니다.

이미 진행 중이던 집단소송의 구조

이번 주장은 새 소송이 아니라 기존 집단소송에 합류하는 형태입니다. 집단소송은 같은 원인으로 피해를 본 사람들이 하나의 절차로 묶여 다투는 방식입니다.

이 구조가 중요한 이유는 다툼의 대상이 개별 가해 행위가 아니라 회사의 시스템 설계로 옮겨 가기 때문입니다. 쟁점은 누가 무엇을 만들었는지가 아니라, 그것이 가능하도록 서비스가 설계돼 있었는지가 됩니다.

테네시의 10대 세 명이 제기했던 최초 소송

이 집단소송의 출발점은 테네시주의 10대 세 명입니다. 이들은 xAI가 그록이 실존 인물, 특히 미성년자의 성적 이미지를 만드는 데 쓰이지 못하도록 하는 기본적인 안전장치를 두지 않았다고 주장했습니다.

주장의 핵심 단어는 기본적이라는 표현입니다. 정교한 방어를 못 했다는 것이 아니라, 업계에서 표준으로 통하는 최소한의 조치조차 없었다는 취지입니다. xAI는 현재 스페이스X의 일부입니다.

매끈한 어두운 판이 직선 하나를 따라 갈라지고 그 틈으로 밝은 청록빛이 새어 나오는 모습 — 안전장치의 틈이 벌어진 지점을 표현한 개념 이미지 — 쟁점은 개별 행위가 아니라 시스템 설계입니다.

편집 이미지 기능 — 2025년 12월에 열린 문

문제의 출발점은 2025년 12월 그록에 추가된 이미지 편집 기능입니다. 기존 사진을 올려 지시문으로 변형할 수 있는 기능이었습니다.

이 기능은 곧 옷을 벗기는 도구로 쓰이기 시작했습니다. 공인뿐 아니라 일반 사용자의 사진이 대상이 됐고, 아동의 사진을 노출이 심한 상태나 성적인 상황으로 바꾼 사례까지 확인됐습니다.

열흘 만에 벌어진 일 — 2만 3천과 180만이라는 수치

규모를 보여 주는 추정치가 있습니다. 2025년 12월 29일부터 2026년 1월 8일까지 열흘 남짓한 기간에, 그록이 생성한 것으로 추정되는 아동 성적 이미지가 약 2만 3천 건, 여성의 성적 이미지가 담긴 게시물이 최소 180만 건에 이릅니다.

이 숫자들이 말해 주는 것은 개인의 일탈이 아니라 규모의 문제입니다. 도구가 열리자 열흘 만에 이 정도가 쌓였습니다.

커다란 어두운 사각 공간 안에 작은 청록빛 조각들이 수없이 흩어져 떠 있는 모습 — 짧은 기간에 쌓인 방대한 생성물을 표현한 개념 이미지 — 열흘 만에 쌓인 양입니다.

왜 가드레일이 뚫렸나 — 편집은 생성과 다르다

기술적으로 가장 중요한 지점이 여기입니다. 이미지 생성과 이미지 편집은 안전 설계의 난이도가 다릅니다.

생성은 글로 시작합니다. 그래서 지시문을 검사해 위험한 요청을 걸러내는 방어가 비교적 잘 작동합니다. 편집은 사진으로 시작합니다. 사진 자체는 아무 문제가 없는 평범한 이미지이고, 지시문도 평범한 단어로 쓸 수 있습니다. 위험은 둘의 조합에서 생기는데, 조합을 판단하는 것은 각각을 판단하는 것보다 훨씬 어렵습니다.

실존 인물의 사진이 입력이 될 때

여기에 하나가 더 겹칩니다. 편집 기능의 입력은 실존 인물의 사진입니다. 생성 모델이 만들어 낸 가상의 얼굴이 아니라 실제로 존재하는 사람입니다.

그래서 결과물은 즉시 그 사람의 피해가 됩니다. 게다가 입력된 사진 속 인물이 미성년자인지 판별하는 일 자체가 기술적으로 불확실합니다. 확실하지 않은 판별에 방어를 걸면 오탐이 늘고, 느슨하게 걸면 이런 결과가 나옵니다.

청록빛 선 하나가 똑같은 여러 줄로 복제되며 어둠을 가로지르는 모습 — 하나의 입력이 수없이 되풀이되어 퍼진다는 뜻의 개념 이미지 — 입력이 실존 인물이면 결과물은 즉시 피해가 됩니다.

xAI가 내놓은 조치 — 유료 구독자 제한

비판이 거세지자 xAI는 조치를 내놨습니다. 그록의 이미지 생성 기능을 유료 구독자만 쓸 수 있게 제한한 것입니다.

회사 측 논리는 결제 정보가 남으면 추적이 가능해지고, 비용이 발생하면 대량 생성이 억제된다는 것입니다. 실제로 이 조치 이후 문제 콘텐츠의 양이 줄어든 것으로 관측됐습니다.

그 조치가 모욕적이라 불린 이유

그럼에도 의원들과 피해자들은 이 조치를 강하게 비판했습니다. 모욕적이고 실효가 없다는 표현까지 나왔습니다.

이유는 명확합니다. 이 조치는 기능을 고친 것이 아니라 접근 경로를 좁힌 것뿐입니다. 돈을 낸 사람에게는 같은 기능이 그대로 열려 있습니다. 피해자 입장에서 보면 자신을 해칠 수 있는 도구가 유료화됐을 뿐 사라지지 않은 것입니다.

여러 갈래의 청록빛 선이 두 어두운 덩어리 사이 좁은 틈으로 모여드는 모습 — 접근 경로만 좁혔을 뿐 기능은 그대로라는 뜻의 개념 이미지 — 경로를 좁힌 것과 기능을 고친 것은 다릅니다.

35개 주 법무장관이 함께 보낸 서한

제도권 대응은 빠르게 확대됐습니다. 초당적으로 구성된 35개 주 법무장관이 xAI에 공동 서한을 보내, 그록이 비동의 성적 이미지와 아동 성착취물을 생성하지 못하도록 추가 조치를 취할 것을 요구했습니다.

이들이 요구한 것은 조치 여부가 아니라 조치의 성격입니다. 도입한 안전장치가 실효적이고, 지속적이며, 일관되게 집행된다는 점을 확인해 달라는 것입니다. 일시적으로 양이 줄어든 것만으로는 부족하다는 뜻입니다.

테이크 잇 다운 법 — 5월부터 강제력이 생겼다

미국에서는 이 문제를 직접 겨냥한 연방법이 이미 발효됐습니다. 통칭 테이크 잇 다운 법입니다. 비동의 성적 이미지, 특히 AI로 만들어진 것을 포함해 플랫폼이 삭제 요청에 응하도록 의무화한 법으로, 2026년 5월부터 집행 가능해졌습니다.

법무장관들이 서한에서 삭제 요청 이행을 강하게 요구한 배경에는 이 시점이 있습니다. 자율 규제 권고가 아니라 법적 의무의 영역으로 넘어왔다는 뜻입니다.

밝게 빛나는 청록빛 정육면체와 아주 어두운 정육면체가 같은 크기로 나란히 놓인 모습 — 권고와 법적 의무의 차이를 표현한 개념 이미지 — 권고에서 의무로 넘어온 시점이 5월입니다.

삭제 요청 48시간이라는 의무의 무게

이 법의 실질적인 힘은 시간 제한에 있습니다. 플랫폼은 정당한 삭제 요청을 받으면 짧은 기한 안에 처리해야 합니다.

이 기한이 왜 중요하냐면, 이런 이미지의 피해는 시간에 비례해 커지기 때문입니다. 한 번 퍼지면 원본을 지워도 복제본이 남습니다. 며칠 뒤의 삭제는 삭제가 아니라 기록 정리에 가깝습니다. 법이 시간을 못박은 이유가 여기 있습니다.

하원 에너지통상위원회의 조사

의회도 움직였습니다. 하원 에너지통상위원회 소속 의원들이 그록을 통한 비동의 이미지 확산에 대한 조사에 착수하고, 일론 머스크 앞으로 공식 서한을 보냈습니다.

의회 조사가 갖는 의미는 소송과 다릅니다. 소송은 이미 발생한 피해에 대한 배상을 다루지만, 의회 조사는 법을 새로 만들거나 고치는 근거를 쌓습니다. 이 사안이 개별 회사의 문제로 끝나지 않을 가능성이 여기서 나옵니다.

아주 큰 어두운 정육면체 옆에 훨씬 작은 정육면체가 희미한 청록빛 테두리를 두르고 놓인 모습 — 개별 사건과 제도 전체의 크기 차이를 표현한 개념 이미지 — 소송은 배상을 다루고 조사는 입법 근거를 쌓습니다.

실제 사례 — 워싱턴DC 법무장관의 요구

개별 대응도 이어졌습니다. 워싱턴DC 법무장관은 X에 그록이 만든 비동의 성적 이미지의 범람을 멈추라고 공개 요구했습니다.

여기서 대상이 xAI가 아니라 X, 즉 이미지가 유통된 플랫폼이라는 점을 눈여겨볼 만합니다. 만든 책임과 퍼뜨린 책임을 분리해 묻는 접근입니다. 같은 회사군 안에 있더라도 법적으로는 다른 의무가 걸립니다.

실제 사례 — 여러 주가 함께 움직인 공동 대응

주 단위 대응은 개별 서한에서 공동 행동으로 발전했습니다. 델라웨어와 펜실베이니아를 비롯한 여러 주의 법무장관들이 공동 서한에 이름을 올렸습니다.

공동 대응이 효과적인 이유는 관할 문제 때문입니다. 인터넷 서비스는 특정 주에만 서비스하지 않으므로, 한 주가 단독으로 요구하면 회사가 그 주만 피해 가는 선택을 할 수 있습니다. 여러 주가 같은 요구를 하면 그 선택지가 사라집니다.

멀리 떨어진 두 개의 어두운 정육면체를 곧은 청록빛 선 하나가 잇고 있는 모습 — 여러 주가 하나의 요구로 연결된다는 뜻의 개념 이미지 — 여러 주가 같은 요구를 하면 피해 갈 곳이 없어집니다.

실제 사례 — 누디파이 금지법을 둘러싼 xAI의 맞소송

xAI가 방어만 한 것은 아닙니다. 앞서 7월 말, xAI는 이른바 누디파이 금지법을 두고 주정부를 상대로 소송을 냈습니다. 표현의 자유를 근거로 규제의 위헌성을 다투는 방향이었습니다.

즉 지금 상황은 회사가 규제를 받는 동시에 그 규제의 정당성을 다투는 이중 구도입니다. 이런 구도에서는 결론이 나기까지 시간이 오래 걸리고, 그 사이에 피해는 계속 발생합니다.

표현의 자유와 피해 사이에 선을 어디에 긋나

이 사안에서 가장 자주 등장하는 반론은 표현의 자유입니다. 도구를 규제하면 합법적인 창작까지 위축된다는 논리입니다.

다만 이번 사안에는 그 논쟁이 잘 적용되지 않는 부분이 있습니다. 아동 성착취물과 비동의 성적 이미지는 대부분의 법체계에서 표현의 자유 보호 범위 밖에 있습니다. 논쟁이 성립하는 영역과 성립하지 않는 영역을 섞어서 말하는 것이 이 논의를 흐리는 가장 흔한 방식입니다.

어두운 정육면체를 청록빛 광선 하나가 관통해 반대편으로 빠져나가는 모습 — 필터를 그대로 통과해 버리는 입력을 표현한 개념 이미지 — 논쟁이 성립하는 영역과 아닌 영역을 섞지 말아야 합니다.

기술적으로 막을 수 있었나 — 입력 필터의 한계

막을 수 있었느냐는 질문에는 부분적으로 그렇다고 답하는 것이 정확합니다.

업계에는 이미 쓰이는 방법들이 있습니다. 업로드된 사진에서 미성년자 가능성이 감지되면 편집 기능 자체를 잠그는 방식, 성적 변형을 유도하는 지시문 패턴을 차단하는 방식, 생성물에 대한 사후 탐지, 그리고 반복 위반 계정 차단입니다. 어느 하나도 완벽하지 않지만 겹쳐 쌓으면 대량 생성은 확실히 어려워집니다. 열흘에 2만 건이라는 수치는 이 층이 얇았다는 정황 증거로 읽힙니다.

플랫폼의 책임은 어디까지인가

더 큰 질문은 책임의 범위입니다. 도구를 만든 회사는 사용자가 저지른 일에 어디까지 책임을 지는가입니다.

전통적으로 플랫폼은 사용자가 올린 콘텐츠에 대해 상당한 면책을 받아 왔습니다. 그러나 이번 사안은 성격이 다릅니다. 콘텐츠를 사용자가 가져와 올린 것이 아니라, 회사가 제공한 기능이 그 자리에서 생성했습니다. 도구가 결과물의 생성에 직접 관여했을 때도 같은 면책이 적용되는지가 앞으로 다투어질 핵심입니다.

어두운 정육면체가 홈에 정확히 끼워지고 맞물린 틈마다 청록빛이 가득 차오른 모습 — 책임의 범위를 다시 끼워 맞추는 과정을 표현한 개념 이미지 — 가져와 올린 것과 그 자리에서 만든 것은 다릅니다.

피해를 당했을 때 지금 할 수 있는 일

실질적인 정보로 넘어가겠습니다. 이런 피해가 발생했을 때 취할 수 있는 조치는 정리하면 이렇습니다.

먼저 증거를 확보합니다. 게시물 주소와 화면을 저장하되, 이미지 자체를 개인적으로 보관하는 것은 관할에 따라 위험할 수 있으므로 주소와 정황 기록 중심으로 남깁니다. 그다음 플랫폼의 신고 창구로 삭제를 요청합니다. 미국에서는 앞서 언급한 법에 따라 플랫폼에 처리 의무가 있습니다. 한국에서는 디지털성범죄피해자지원센터가 삭제 지원과 상담을 제공합니다. 그리고 수사기관 신고는 삭제 요청과 별개로 진행하는 편이 낫습니다.

부모와 보호자가 알아 두면 좋은 것

이번 사건에서 가장 아픈 대목은 원본이 평범한 사진이었다는 점입니다. 특별히 노출된 사진이 아니어도 대상이 됩니다.

그래서 현실적인 대응은 사진을 안 찍는 것이 아니라 공개 범위를 좁히는 쪽입니다. 아이 사진을 전체 공개로 올리는 습관을 줄이고, 이미 올린 게시물의 공개 범위를 한 번 점검하는 것으로도 노출면은 상당히 줄어듭니다. 그리고 이런 일이 벌어졌을 때 아이가 숨기지 않고 말할 수 있는 관계를 만들어 두는 것이 기술적 대책보다 앞섭니다.

매끈한 사각 구멍에서 작은 어두운 정육면체들이 빽빽하게 위로 솟아오르며 청록빛을 내는 모습 — 쌓여 가는 대응 과제를 표현한 개념 이미지 — 대응은 사진을 안 찍는 것이 아니라 공개 범위를 좁히는 쪽입니다.

AI 업계 전체에 남는 숙제

이 사안은 xAI 한 회사의 문제로 끝나지 않습니다. 이미지 편집 기능은 지금 거의 모든 주요 AI 서비스에 들어 있습니다.

남는 질문은 하나입니다. 새 기능을 열 때 그 기능이 가장 나쁘게 쓰일 경우를 먼저 설계에 반영했는가입니다. 이번 사건은 그 검토가 출시 뒤로 밀렸을 때 열흘 만에 무엇이 쌓이는지를 보여 준 사례로 남을 것입니다.

어두운 판 한가운데가 밝은 청록빛 사각형으로 활짝 열려 있는 모습 — 새 기능을 열기 전에 먼저 살펴야 할 지점을 표현한 개념 이미지 — 문을 열기 전에 검토했는가가 남는 질문입니다.

핵심 정리

세 줄로 줄이면 이렇습니다.

첫째, 8월 15일 보도로 그록 이미지 편집을 이용해 한 사람의 어린 시절 사진 한 장에서 7천 장이 넘는 성적 이미지가 만들어졌다는 주장이 기존 xAI 집단소송에 추가됐습니다.

둘째, 이건 개인의 일탈이 아니라 설계 문제입니다. 편집 기능은 평범한 사진과 평범한 지시문의 조합에서 위험이 생기므로 생성보다 방어가 어렵고, 그 층이 얇았던 열흘 동안 아동 관련 이미지 약 2만 3천 건이 쌓였습니다.

셋째, 제도는 이미 움직이고 있습니다. 35개 주 법무장관 공동 서한, 하원 에너지통상위원회 조사, 5월부터 집행되는 테이크 잇 다운 법이 동시에 걸려 있고, xAI는 규제에 맞서는 소송도 함께 진행 중입니다.

참고하실 만한 것

지금 할 수 있는 가장 실질적인 일은 공개 범위 점검입니다. 오래전에 전체 공개로 올려 둔 가족 사진이 남아 있는지 한 번 확인해 보시면 좋습니다. 대부분의 서비스는 과거 게시물의 공개 범위를 일괄로 바꾸는 기능을 제공합니다.

SVIL은 AI가 만들어 내는 새로운 형태의 피해와 그에 대한 제도 대응을 계속 추적하고 있습니다. 이 소송의 진행과 테이크 잇 다운 법의 실제 집행 사례는 이후에 다시 정리해 전하겠습니다.

출처

협업문의 : kuroicode@gmail.com
블로그 : https://blog.svil.dev/
홈페이지 : https://kuroicode-beep.github.io/svil-homepage/