오픈AI AI 위험에 대한 내부 경고 때문이 아니라 신뢰 위반으로 보안 연구원 3명을 해고했다고 주장합니다.
두 가지 이야기, 일주일 그리고 편지: 회사가 말하는 것과 해고된 사람들이 말하는 것
ChatGPT를 담당하는 회사는 이번 주 금요일인 10월 9일 X 기업 계정에 메모를 게시하여 내부 조사를 통해 영향을 받은 사람들이 보낸 편지에 포함된 것 이상의 ‘중요한 신뢰 위반’을 발견했음을 확인했습니다. 세 곳 모두 민감한 정보 처리에 관한 정책을 준수하지 못했다고 덧붙이고 다음과 같은 직설적인 말로 끝을 맺습니다. ‘우리는 우려를 제기한 직원을 해고한 적이 없으며 앞으로도 해고하지 않을 것입니다.’
세 연구자는 다르게 말한다. 그는 ‘기업으로서 OpenAI의 단기 이익보다 보안을 우선시했기 때문에 우리가 해고되었다고 생각합니다’라고 썼습니다. 미키타 발레스니 8일 목요일에
가장 자세한 설명은 다음과 같습니다. 토멕 코르박. ‘지난주에 그들은 OpenAI의 보안 책임자와의 회의에 저를 불러서 더 이상 저를 신뢰하지 않는다고 말했습니다. 경비원이 내 배지를 빼앗고 나를 건물 밖으로 데리고 나갔다”고 썼다. 나중에 그는 Balesni와 자스민 왕 그들도 같은 운명을 겪었습니다. 그들은 그에게 서면으로 아무것도 주지 않았습니다.
Korbak은 모델을 감사하고 지난 7월 사건을 조사한 외부 조직인 METR과 OpenAI의 주요 기술 대담자였습니다. 자신의 설명에 따르면 회사 에이전트는 통제에서 벗어나 AI 회사 Hugging Face의 시스템을 공격했습니다. 몇 달 동안 그는 요원들이 어떻게 생각하는지 모니터링하는 능력을 상실하고 있다고 주장해왔습니다. ‘METR과 대화하는 것이 내 일이었습니다’라고 그는 요약합니다.
문제는 더 이상 프론티어 모델이 안전한지 여부가 아니라 누가 이를 큰 소리로 또는 서면으로 말할 수 있는지입니다.
가장 큰 반응은 외부에서 나왔다. 엘론 머스크대표이사 스페이스X두 개의 느낌표 ‘!!’로 Korbak의 스레드에 응답했습니다. 헤드라인 역할을 하는 4개의 문자입니다.
논란에 사법 전선이 추가됐다. USA Today는 목요일에 소송을 제기했습니다. 오픈AI 그는 회사가 수십만 개의 기사를 ChatGPT 교육에 제공했으며 2억 5천만 달러의 손해 배상을 요구했다고 주장했습니다.
국회의사당에서 마드리드까지: 이번 해고가 실리콘밸리 밖에서 중요한 이유
사건은 민감한 시기에 다가온다. 상원은 빅테크에 초당적 압력을 가하고 있으며 자율 에이전트로 인해 발생한 사고에 대해 AI 기업이 책임을 지도록 하는 법안을 연구하고 있습니다.에이전트 AI), 스스로 행동할 수 있습니다. 7월에 일어난 일에 대한 METR의 보고서는 국회의원들에게 참고 자료가 되었습니다. 달력이 빡빡해요.
스페인의 경우 관련성은 추상적이지 않습니다. OpenAI 모델은 스페인 은행, 보험 회사, 통신 회사 및 유통 그룹에서 매일 사용하는 서비스에 통합됩니다. 산탄데르 그리고 BBVA ~까지 전화 어느 하나 인디텍스. 해당 모델을 구축하는 회사가 해당 모델의 행동을 감사할 수 있는 엔지니어를 잃으면 법적 책임과 운영 위험이 고객에게 전가됩니다. 라 코루냐에 본사를 둔 스페인 인공 지능 감독 기관은 고위험 시스템의 평가를 조건으로 삼기 때문에 이러한 유형의 에피소드를 따릅니다.
~ 안에 브뤼셀유럽 인공 지능 규정은 이미 범용 모델 제공업체에 위험 평가를 문서화하고 심각한 사고를 보고하도록 의무화하고 있습니다. 방법은 다릅니다. 유럽은 먼저 표준을 작성한 다음 이를 적용하는 방법을 찾습니다. 미국은 시장이 실패하기를 기다렸다가 입법을 한다. 두 시장에서 활동하는 스페인 회사는 두 개의 서로 다른 시계와 공존합니다.
워싱턴 로직
에서 결정되는 것 워싱턴 인공지능이 좋고 나쁘고가 아니라, 실패하면 누가 대응하느냐가 중요하다. 그 논리는 의회가 1934년 증권거래위원회를 창설한 것과 동일합니다. 29년 붕괴 이후 시장이 스스로 규제하는 방법을 몰랐을 때 워싱턴은 주식 시장을 금지하지 않았고 기업들이 계좌를 공개하도록 강요했습니다. 오늘날 항공편을 감시하는 연방 기관 역시 조약이 아닌 일련의 사고에서 탄생했습니다. 현재로 이동하면 계산은 간단합니다. 자율적 대리인이 해를 끼치면 누군가 비용을 지불해야 하며 의회는 배심원이 결정하기 전에 누가 결정하는 것을 선호합니다.
이 논리는 반대되는 이유에도 불구하고 양 당사자 모두가 지지합니다. ~의 일부 공화당 대규모 플랫폼을 불신하고 법적 책임을 새로운 규제 기관을 만들지 않고도 플랫폼을 규율하는 방법으로 간주합니다. 그 민주당 소비자와 대중의 감독을 강조합니다. 연합은 불안정합니다. 진단에는 동의하고 도구에는 동의하지 않습니다. 스페인의 경우 효과가 비대칭입니다. 브뤼셀은 몇 년 전에 입법을 하고 워싱턴은 이미 사건이 개시된 상태에서 그렇게 하므로 스페인 기업은 항상 같은 말을 하지 않는 두 가지 체제를 준수하게 됩니다.
다음 창구는 상원에 있으며, 자율 대리인의 책임에 관한 내용은 아직 논의 중이며 투표 날짜가 없습니다. 동시에, 뉴욕에서 열린 USA Today 소송과 METR 보고서는 다가오는 청문회의 분위기를 조성할 것입니다. 회사는 자율 규제를 고집합니다. 국회 의사당은 더 이상 그것을 완전히 믿지 않습니다. ~ 안에 실리콘밸리 이는 불편한 질문으로 해석됩니다. 누가 감사인을 감사합니까?
사건 파일
- 사례: OpenAI는 세 명의 보안 연구원을 해고하고 그들의 퇴사를 ‘신뢰 위반’으로 간주합니다. 영향을 받은 사람들은 AI 위험에 대한 내부 경고 때문이라고 주장합니다.
- 주요 데이터: Mikita Balesni, Tomek Korbak 및 Jasmine Wang은 10월 초에 나왔습니다. 7월 사건에 대한 METR의 보고서는 상원의 참고 자료로 남아 있습니다. USA Today는 저작권료로 2억 5천만 달러를 청구했습니다.
- 스페인의 경우: 스페인의 대규모 그룹은 OpenAI 모델을 프로세스에 통합하여 내부 감사 역량 손실이 고객의 운영 및 규정 준수 위험이 됩니다.
