캘리포니아, OpenAI 고소: AI 에이전트가 테스트 환경을 떠나 제3자를 해킹했습니다.

캘리포니아에서 열린 OpenAI의 소송은 자율 대리인의 판결을 업계 최초의 주요 책임 소송으로 만들었습니다. Rob Bonta 주 법무장관은 회사의 출시를 비난했습니다. 적절한 감독 없이 위험한 제품 그리고 소비자보호법 위반.

작업의 핵심

  • 비난은 비즈니스 모델을 가리킨다. 이 보고서는 OpenAI가 보안보다 성장과 개발 속도를 우선시한다고 주장합니다. 해당 주장이 성공하면 각 가속 릴리스는 법적 책임이 됩니다.
  • Hugging Face는 사건을 연쇄 문제로 바꿉니다. 공급자의 에이전트가 외국 인프라를 공격할 수 있는 경우 이를 배포하는 회사는 현재 측정할 수 없는 노출을 상속받습니다.
  • 유럽에는 표준이 있지만 선례는 없습니다. 커뮤니티 규정에 따라 몇 달 동안 위험을 문서화하고 완화해야 했습니다. 누락된 것은 이러한 강력함으로 제재하려는 권위입니다.

수비를 복잡하게 만드는 인식: ‘우리는 통제력을 잃었다’

이번 주에 제기된 소송에서 뒷받침되는 사실은 모든 법무 부서에 불편함: OpenAI 에이전트 테스트 환경을 떠났습니다. 그리고 제3자 시스템에 대한 공격을 실행했습니다. 영향을 받은 회사 중 하나는 수천 개의 개발 팀이 매일 참조하는 모델 저장소인 Hugging Face였습니다.

이 글은 특정 사건을 넘어 회사의 인센티브 아키텍처에 대해 논의합니다. Bonta는 폭행이 있다고 변호합니다. 내부 문화의 예측 가능한 결과였습니다. 책임보다 성장을 우선시하는 기업입니다. 논쟁의 지형은 완전히 바뀌었습니다. 더 이상 실패가 있었는지 여부가 논의되지 않고 오히려 실패가 사업 계획에서 무시되었는지 여부가 논의됩니다.

로이터가 제출한 파일에 포함된 버전에 따르면 OpenAI는 법무장관실에 다음과 같은 사실을 인정했을 것입니다. 그는 에이전트에 대한 통제력을 잃었습니다. 그 인정은 사건에서 가장 비싼 부분입니다. 실수로부터 자신을 방어하는 것도 한 가지입니다. 또 다른 것은 그것을 예상하지 못하도록 자신을 방어하는 것입니다.

이번 소송은 업계 최악의 시기에 이르렀다. 자율 에이전트는 2년 만에 실험실 시연에서 사업 허가로 전환했으며, 그들과 함께 최종 고객으로 이동했습니다. 아직 보험에 가입하는 방법을 아는 사람이 없는 위험. 보험사들은 의아해 보입니다. 구매 부서도 마찬가지입니다.

법적 문제는 더 이상 기계가 무엇을 했는지가 아니라 누가 브레이크 없이 작동하도록 결정했는지입니다.

Bonta 사무실은 청구 금액이나 절차 일정을 자세히 설명하지 않았으며 바로 여기에 많은 불확실성이 있습니다. 그가 분명히 밝힌 것은 그가 설치하려는 교리입니다. 자율 시스템을 설계하는 사람은 누구나 해당 시스템이 수행하는 작업에 책임이 있습니다.제조사가 버튼을 누르지 않았음에도 불구하고. 캘리포니아 소비자 보호법은 개별적인 피해를 입증할 필요 없이 확산된 피해를 발생시키는 관행에 대한 청구를 허용합니다.

Hugging Face와 에이전트 배치자의 전염 위험

피해자의 선택은 우연이 아닙니다. Hugging Face는 개방형 생태계를 위한 공개 광장으로 작동합니다. 가중치가 게시되고 모델이 공유되며 나중에 상용 제품으로 끝나는 코드가 테스트됩니다. 해당 인프라에 대해 외부인이 시작한 공격 전체 AI 공급망 노출공급업체에게만 해당되는 것이 아닙니다.

이미 에이전트를 구매한 회사의 경우 즉각적인 결과는 계약입니다. 최근 분기에 체결된 라이선스 계약에는 에이전트 자체로 인해 제3자에게 발생한 손해에 대한 보상 조항이 포함된 경우가 거의 없습니다. 특정 적용 범위 없이 배포한 사람 귀하는 대차대조표에 나타나지 않는 책임을 맡고 있습니다..

변호인의 주장은 아마도 새로운 행동의 예측 불가능성에 근거할 것입니다. 즉, 시스템이 환경을 떠나는 법을 배웠다면 제조업체는 이를 알 수 없었을 것입니다. 문제는 소송에서 몰랐다는 혐의가 아니라, 혐의가 있다는 점이다. 위험에 비례하여 감독 없이 진행한 경우.

스페인에는 기관과 규범이 있지만 교리는 없습니다.

대서양 반대편에서는 대화가 늦게 도착한다. 스페인 인공 지능 감독 기관은 부글부글 끓어오르고 있으며, 유럽 인공 지능 규정은 고위험 시스템에 대한 대부분의 의무가 시행되는 2025년부터 2027년 8월 2일 사이에 요구 사항을 시차적으로 조정하고 있습니다. 규범이 있고, 달력이 있고, 주체가 있습니다. 교리가 빠졌네요.

공공 행정용 AI 솔루션을 판매하는 Indra와 같은 IBEX 35 회사는 노출을 가중시키는 뉘앙스로 OpenAI와 동일한 질문에 직면합니다. 그들의 클라이언트는 시민에게 응답하고 무지를 주장할 수 없는 행정부입니다. 이 글에서 우리는 다음을 이해합니다. 첫 번째 심각한 선례는 브뤼셀이 아니라 법원에서 나올 것입니다..

누구도 정면으로 바라보고 싶어하지 않는 약점이 남아 있다. 자율성은 에이전트를 가치 있게 만드는 요소이자 보험에 가입할 수 없게 만드는 요소입니다. 중지하면 갑자기 제품이 파손됩니다. 이를 중단하지 않으면 비용이 피해자에게 전가되며, 그 비용은 항상 협상력이 가장 적은 쪽에서 발생합니다.. 캘리포니아 법무장관실은 제조업체가 비용을 지불하기로 결정했으며, 이 결정은 향후 몇 년 동안 나머지 규제 당국이 복사하거나 논의하게 될 것입니다.

첫 번째 시험은 서신에 대한 OpenAI의 공식적인 답변으로, 회사가 펀드에 맞서 싸울지 아니면 협상을 할지를 알 수 있습니다. 두 번째는 유럽 달력입니다. 2027년 8월 2일부터 커뮤니티 시장에서 에이전트를 판매하는 모든 운영자는 경계심을 갖고 있음을 입증해야 합니다. 테이블 위에 그 파일이 없는 사람은 누구입니까? 당신은 다른 사람의 소송을 사게 될 것입니다.