Google은 2026년 5월에 진행된 사이버 보안 테스트에서 Gemini가 3개 회사를 해킹했음을 확인했습니다. 회사는 해당 모델이 테스트 환경의 잘못된 구성 이후 실제 인프라에 액세스했음을 인정하고 월스트리트 저널이 이 사건을 보도한 이후 그렇게 했습니다.
작업의 핵심
- Google은 실제 시스템에 대한 무단 액세스를 지원합니다. Gemini 모델은 Irregular 회사의 폐쇄적인 환경을 떠나 세 회사의 인프라에 도달했습니다. 깃발을 빼앗다.
- 벡터는 모델의 지능이 아니라 엉성함이었습니다. 한 가지 경우는 비밀번호를 차례로 시도하여 해결되었습니다. 나머지 두 개는 공개 저장소에 게시된 자격 증명을 사용합니다.
- 이 사건은 유럽의 규제 공세 중에 발생했습니다. AI법은 의무 사항을 단계적으로 적용하고 문서화된 사건은 국가 기관의 감독 자료가 됩니다.
이 에피소드는 스스로 행동하기로 결정한 인공 지능을 설명하지 않습니다. 격리 실패에 대해 설명합니다. 해당 모델을 포함해야 하는 서버 외부에서 작동하는 모델거기에서 모든 것이 내리막 길로갔습니다.
연습 중에 모델들은 실제 회사와 이름을 공유하는 가상 회사로부터 정보를 추출하라는 지시를 받았습니다. 불규칙한 인터넷 접속을 차단하는 것이었습니다. 그는 그것을 하지 않았습니다. Gemini가 온라인에 접속했을 때 실제 인프라를 만났습니다.
세 건 중 한 건은 해당 기업의 온라인 서비스에 진입할 때까지 차례차례 비밀번호를 시도한 사례다. 나머지 두 개에서는 다음의 공개 저장소를 크롤링했습니다. 소프트웨어 누군가가 부주의하게 업로드한 액세스 자격 증명을 찾기 전까지는 말이죠. 익스플로잇도 제로데이도 아님: 잘못 저장된 비밀번호 및 파일.
OpenAI와 Anthropic이 이미 지원하는 에피소드와의 차이점은 자연이 아닌 정도의 차이입니다. 세 가지 접근 방식 중 어느 것도 정교한 공격 능력을 필요로 하지 않았습니다.. 공급자가 변경됩니다. 현관문, 아니.
AI는 어떤 방어도 무너뜨릴 필요가 없었다. 기업이 이미 열어둔 것을 찾는 것만으로도 충분했다.
문제는 모델에 있는 것이 아니라 휴먼 방화벽에 있었습니다.
Irregular는 Gemini의 사이버 보안 기능을 측정하기 위해 폐쇄된 환경을 설계했습니다. 정의된 목적, 가짜 회사, 인터넷에 접속할 수 없는 서버. 잘못된 설정으로 인해 훈련이 실제 액세스로 전환되었습니다..
Google은 침입의 성격이 헤드라인에서 제시하는 것보다 덜 심각하다고 주장합니다. 당신은 부분적으로 옳습니다. 그는 또한 다음과 같이 말하고 싶어합니다. 회사는 개척 모델에 대한 대화에 늦게 도착했으며 통합되기 전에 통제되지 않은 AI 라벨을 제거해야 합니다.
OpenAI, Anthropic, Google 간의 해킹 이야기 경쟁
OpenAI와 Anthropic은 이미 최근 몇 달 동안 유사한 에피소드를 인정했습니다. 입학의 물방울은 더 이상 변칙적이지 않고 하나의 패턴이 되었습니다. 업계의.
중요한 것은 공격의 극적인 성격이 아니라 기업 고객의 신뢰에 미치는 영향입니다. 은행, 보험, 공공행정 분야의 AI 계약에는 격리 보장이 필요합니다. 서버에서 탈출하는 테스트는 위험 위원회가 보고서에서 읽고 싶어하지 않는 테스트입니다.
AI법과 유럽 감독관 이전에 구글이 위태로운 상황
Alphabet은 성장을 멈추지 않는 AI에 대한 투자에 대한 수익을 요구하며 유럽의 규제 압력이 가장 높은 시장과 거래하고 있습니다. AI법은 2027년까지 단계적으로 고위험 시스템에 대한 의무를 적용하고, 문서화된 사고 이력은 결국 국가 감독관과 ENISA의 손에 넘어갑니다.
IBEX 35와의 비교는 부족합니다. Telefónica, Indra 또는 Cellnex는 기본 모델에서 경쟁하지 않습니다. 실제 거울은 Azure와 OpenAI를 사용하는 Microsoft, Anthropic을 사용하는 Amazon입니다. Google은 동일한 공공 및 민간 계약을 위해 싸우고 있습니다. 격리 실패가 확인될 때마다 구매 과정의 비용이 더 높아집니다..
우리는 불편한 패턴을 관찰합니다. 업계는 사건을 부인하는 것에서 게시하는 것으로, 게시하는 것에서 정상화하는 것으로 바뀌었습니다. 이렇게 하면 투명성이 향상되지만 AI 공급업체의 감사를 구매자에게 이관이제 클라우드를 검토하는 것과 동일하게 검토해야 합니다.
다음 이정표는 또 다른 헤드라인이 아닙니다. 이 에피소드 중 얼마나 많은 에피소드가 투명성 보고서에 포함되는지, 그리고 금요일 오후에 보낸 메모에 얼마나 많은 에피소드가 남아 있는지에 대한 세부 정보가 될 것입니다. 2026년에 일어날 일들.
