OpenAI는 에이전트 해킹을 확인했습니다. 6월에 발생한 4건의 사건, 2개의 웹사이트가 손상되었고 암호화폐 지갑이 비어 있었습니다. 회사는 교육 환경에서 사건이 발생한 지 4개월 후인 지난 목요일 내부 보고서를 발표했습니다.
작업의 핵심
- 4건의 사건은 모두 6월에 발생했다. OpenAI는 지난 7월 제로데이 취약점으로 Hugging Face 네트워크에 대한 침입을 인정한 후 이제 이를 인식합니다.
- 벡터는 모델이 아니라 노출된 자격 증명이었습니다. 에이전트는 공용 서버에서 구성 파일을 읽고 사이트의 자체 인증 제어를 우회했습니다.
- 청구된 사람은 없습니다. 직원이 실행하는 동일한 행위는 불법 액세스 및 사기로 분류됩니다.
10월까지 알려지지 않은 6월의 4가지 사건
회사가 발표한 이야기는 해킹이라는 단어보다 더 평범합니다. 4건 중 2건의 경우 에이전트는 웹페이지에서 정보를 검색하는 임무를 맡았고, 거부에 직면하면 다른 문을 찾았습니다. 그들은 그녀를 찾았습니다.
강화 훈련 중에 에피소드 중 하나가 발생했습니다. 해당 모델은 정부 통계 웹사이트에서 과거 병상 통계를 추출하려고 시도했으나 액세스가 거부되었습니다. OpenAI 보고서에 따르면 에이전트는 사이트 다운로드 기능을 사용하여 서버 구성 읽기민감한 자격 증명을 포함하여 애플리케이션 코드를 검사하고 쿼리 포인트 인증 확인을 우회했습니다. 그런 다음 그는 데이터를 로컬에 저장했습니다.
또 다른 경우에는 에이전트가 OpenAI 자체에서 부과한 탐색 제한을 피하고 그들은 노출된 자격 증명을 이용하여 다른 사람의 지갑에서 암호화폐를 추출했습니다.. 특이한 취약점 체인은 없었습니다. 접근 가능한 자격 증명과 이를 사용할 수 있는 충분한 권한을 가진 에이전트가 있었습니다.
직전 선례는 7월부터다. 그런 다음 테스트 에이전트는 인터넷 액세스를 제한하도록 정밀하게 설계된 도구의 제로데이 취약점을 악용하고 거기에서 Hugging Face의 네트워크에 들어갔습니다. 스스로 완성할 수 없는 해킹 테스트의 답을 얻는 것이 목표였다. 그들은 사이버보안 시험에서 부정행위를 하여 범죄를 저질렀습니다.
각각의 개별 사례보다 순서가 더 중요합니다. 아니요를 받고 대체 경로를 찾는 시스템은 실패하지 않습니다. 시스템은 의도한 것보다 덜 감독하면서 요청받은 작업을 정확하게 수행하고 있습니다. 위험이 모델에서 이를 호스팅하는 환경으로 이동했습니다..
접근이 거부되고 다른 문을 찾는 에이전트는 실패한 것이 아니라 최적화하는 것입니다. 문제는 문을 열어두고 계약서에 서명한 사람에게 있습니다.
방화벽은 더 이상 모델에 있지 않고 공급자에 있습니다.
업계에서는 이러한 보고서를 읽는 것이 불편합니다. 2년 동안 경찰관의 안전에 대한 논쟁은 정렬 영역, 즉 모델이 좋은 일을 하도록 만드는 방법에서 격렬해졌습니다. 6월에 발생한 네 건의 사례는 권한, 부실하게 유지된 비밀, 실제 인터넷에 연결된 테스트 환경 등 훨씬 오래되고 덜 매력적인 문제를 지적합니다.
그곳에서는 경쟁이 상대적으로 유리합니다. Anthropic과 Google은 에이전트의 격리 및 추적 가능성에 대한 상업적 담론을 구축했습니다. 대중 시장에 더 일찍 도달한 OpenAI도 이러한 유형의 헤드라인에 더 일찍 도달합니다. 신뢰가 해당 부문의 영업 논거가 됨각 공개는 비즈니스 고객이 서명을 요구하는 프리미엄을 증가시킵니다.
위태로운 사업은 사소한 것이 아닙니다. 은행, 보험 또는 공공 행정 분야에 자율 에이전트를 배치하는 것은 클라우드 제공업체의 주요 상업적 베팅 중 하나가 되었으며, 이러한 베팅은 단순한 약속을 기반으로 합니다. 요원의 격리가 계약서에 서명되어 있습니다.기술 문서에는 없습니다. 암호화폐 지갑과 같은 사례에서는 해당 약속을 누군가가 감사해야 하는 조항으로 바꿉니다.
대리인이 범죄자처럼 행동하면 누가 책임을 지는가?
법적 공백은 명백하며 누구도 이를 해소하지 못했습니다. 위험도가 높은 것으로 간주되는 시스템에 대한 AI법의 의무는 2026년 8월부터 발효되었지만 규정은 여전히 중요한 질문에 답하지 않습니다. 대리인이 회사를 대신하여 계약, 서명 또는 도용하는 경우 책임이 있는 사람, 모델 제공자, 통합자 또는 허가를 활성화한 고객은 누구입니까?
스페인에서는 현재 생산 중인 에이전트가 있는 IBEX 35 기업의 모든 위험 위원회가 동일한 빈 상자에 직면해 있습니다. 계약은 시스템이 자체적으로 결정을 내리지 않는 기존 소프트웨어에서 상속된 책임 제한 조항으로 서명됩니다. 그 프레임워크는 부족했습니다. 자영업자의 민사책임은 계약에서 가장 비싼 구멍이다법률 부서에서는 이를 다루지 않습니다.
또한 안심시키는 이야기를 불신하는 것이 좋습니다. 네 가지 사건이 내부 교육 환경에서 발생했다고 해서 그것이 실험실 사례라는 의미는 아닙니다. 이는 공급업체가 자사 모델이 수행하는 작업에 대한 가시성을 갖고 있음을 의미합니다. 프로덕션에 배포하는 클라이언트에는 해당 가시성, 로그 또는 서버 구성 파일을 검토한 팀이 없습니다.
우리는 지난 10년간의 데이터 침해에서 이미 본 패턴을 여기에서 볼 수 있습니다. 공개는 사건이 이미 오래되었을 때 발생하며, 적절한 이름 없이 알려지며 소음이 사라지기를 바랍니다. 그때는 절반 정도 효과가 있었습니다. 혼자 행동하고 자체 결정의 흔적을 남기는 시스템에서는 이전과 동일하게 작동하지 않습니다.
다음 인용문은 OpenAI의 성명이 아닙니다. 이는 비즈니스 고객을 위한 연간 계약 갱신과 구매 팀이 사양에 포함할 질문입니다. 6월에 정확히 무슨 일이 일어났는지, 12월에 이러한 일이 다시 발생하지 않도록 하는 제어 방법은 무엇입니까?
