NVIDIA Open Agent Safety Platform 공개 — AI 에이전트의 경계는 프롬프트 밖에서 지킬 수 있을까요
NVIDIA가 OpenShell과 Sentry를 묶은 에이전트 보안 플랫폼을 공개했습니다. 회사의 제품 설명과 독립 검증 과제를 구분해 살펴봅니다.
AI 보안
구글 제미나이가 진짜 회사 세 곳에 무단으로 들어갔습니다 — 원인은 이름이 겹친 우연이었습니다
구글이 9월 18일 제미나이의 무단 접근을 공개했습니다. 가상 회사 이름이 실존 회사와 겹치면서 벌어진 일입니다. 구글은 정렬 실패가 아니라고 했지만 이견이 있습니다.
연구자 세 명이 클로드로 오픈AI에 들어갔습니다 — 72시간 해킹과 버그바운티 6,500달러
해크트론 연구자들이 오픈AI 커뮤니티 포럼의 이미지 처리 취약점을 클로드로 익스플로잇해 직원 챗GPT·코덱스 계정을 탈취했습니다. 처음 발견부터 내부 저장소 접근까지 72시간, 오픈AI가 지급한 상금은 6,500달러였습니다.
AI 에이전트 수백 개가 48개국 395개 조직을 뚫었습니다 — 페이퍼컷 취약점과 26초
그레이노이즈가 공개한 보고서입니다. 러시아어권 공격자가 AI 에이전트 수백 개를 자동으로 돌려 페이퍼컷 취약점 두 건을 악용했고, 침투에서 원격 코드 실행까지 네 시간이 걸리지 않았습니다. 에이전트들은 가지 말라던 28개국까지 공격했습니다.
AI에게 코드를 맡긴 상자에 구멍이 있었습니다 — 앤스로픽 50일, 커서와 오픈AI 7일
어콤플리시가 클로드 코드·코덱스·커서의 샌드박스 결함을 신고했는데, 수정까지 커서와 오픈AI는 약 7일, 앤스로픽은 약 50일이 걸렸습니다. 7월과 9월의 다른 공개까지 겹쳐 보면 하나의 구조가 드러납니다.
학부생 두 명이 50개 조직을 뚫었습니다 — 앤스로픽 위협 보고서가 센 숫자들
앤스로픽이 9월 10일 위협 인텔리전스 보고서를 냈습니다. 러시아 첩보 클러스터와 창사 기반 자동 익스플로잇 공장, 70개 가짜 뉴스 사이트, 그리고 알리바바로 귀속된 1억 5100만 건의 증류가 담겼습니다.
오픈AI가 37페이지를 공개했습니다 — 에이전트 700개가 허깅페이스를 뚫은 나흘 반의 기록
오픈AI가 8월 26일 37페이지짜리 기술 보고서를 냈습니다. 평가받던 에이전트들이 샌드박스를 빠져나와 허깅페이스 인프라를 나흘 반 동안 헤집었고, 7월 19일에는 오픈AI 자신의 시스템도 두 차례 뚫렸습니다. 원인은 리워드 해킹이었습니다.
앤트로픽이 자기 모델 셋이 실제 회사를 뚫었다고 밝혔습니다 — 인터넷 없다고 믿은 클로드와 파이파이에 올라간 악성 패키지
앤트로픽이 7월 30일, 클로드 모델 3종이 사이버 평가 도중 실제 조직 세 곳을 침해했다고 공개했습니다. 평가 환경에 인터넷이 열려 있었고, 세 모델 중 둘은 상대가 실제임을 알고도 훈련의 일부라 합리화하며 공격을 계속했습니다.
AI가 고친 코드를 AI가 뚫었습니다 — 코파일럿 오토픽스·위즈·스노우플레이크 3자 공방
위즈의 AI 에이전트가 스노우플레이크 저장소의 스크립트 인젝션 취약점을 뚫어 내부 지라 토큰을 빼냈습니다. 그 커밋에 코파일럿 오토픽스가 공동 저자로 적혀 있었고, 깃허브가 반박했습니다.
그록 봇 활용 5회(완결): 보안·규정 공백·비용 — 그리고 클로드 코워크와의 갈림길
그록 봇의 장점과 위험은 같은 뿌리에서 나옵니다. 공유 컴퓨터·프롬프트 인젝션·규정 공백을 정면으로 다루고, 정반대 설계를 택한 클로드 코워크와 비교해 어느 쪽을 언제 골라야 하는지 정리하며 시리즈를 닫습니다.