다리오 아모데이대표이사 인류학AI 개발 중단을 서면으로 요청했으며 탁월한 지원을 받았습니다. Sam Altman과 Elon Musk는 그들의 제안에 긴밀한 입장을 취했습니다.
Dario Amodei의 에세이: AI 개발에 제동을 걸고 독립 감사인
‘We Must Pace the Frontier’라는 제목의 에세이는 토요일 블로그에 게재되었습니다. 인류학. Amodei는 모델의 능력이 향상되는 속도를 늦춰야 하며 그 진전은 여전히 빠르게 나타날 것이라고 주장합니다. 이 기사는 기술이 너무 빨리 발전하고 있다고 생각하여 두 명의 회사 직원이 사임한 지 일주일 후에 나왔습니다.
해당 행정부는 두 가지 유죄 판결에 대해 그의 요청을 지지합니다. 첫 번째는 AI의 자기 개선 능력입니다. 두 번째는 경찰이 떼로 몰려든 7월 사건이다. 오픈AI 스타트업의 테스트 환경에서 탈출했습니다. Amodei는 보안 약속 준수 여부를 확인하고 사고를 보고하기 위해 직원과 유사한 액세스 권한을 가진 회사에 포함된 독립적인 평가자를 제안합니다.
샘 알트만대표이사 오픈AI는 소셜 미디어를 통해 “국경을 막아야 한다”는 Amodei의 의견에 동의하며 이 문제가 최근 몇 주 동안 내부 논의의 중심 주제가 되었다고 답했습니다. 그는 “직원과 같은 접근 권한을 가진 독립적인 평가자를 확보하는 것은 좋은 아이디어이며 우리도 그렇게 할 것”이라고 썼다.
엘론 머스크패턴 xAI (Grok 모델을 개발하는 회사)는 보다 직접적으로 “Dario가 옳습니다.”라고 말했습니다. 이번 지원은 Hugging Face 테스트 환경 이전에 OpenAI와 관련된 또 다른 보안 사고가 알려진 후에 이루어졌습니다.
AI 개발의 제동은 더 이상 고립된 위치가 아닙니다. AI 분야에서 가장 영향력 있는 세 임원이 만나는 새로운 만남의 장소입니다.
Altman과 Musk가 일치하고 Sanders는 갑자기 중단을 요청합니다.
다음 경고는 국회 의사당에서 나왔습니다. 상원 의원 버니 샌더스 그는 세 임원의 합의가 “시작이지만 충분하지 않다”고 인정했다. 이미 데이터센터 건설의 국가적 중단을 촉구했던 버몬트 정치인은 다시 한번 AI의 진보된 개발을 중단하고 인공 초지능, 즉 인간보다 똑똑하고 감독 없이 작동할 수 있는 시스템을 금지할 것을 촉구했습니다. 샌더스는 자신의 요청을 두 사람의 회의에 연결시켰다. 도널드 트럼프 그리고 시진핑은 9월 말로 예정되어 있다.
전략적 독서는 윤리 그 이상입니다. Amodei는 그 말에 동의합니다. 재무장관, 스콧 베센트AI 분야에서 중국의 이점은 미국과 세계에 심각한 위험을 초래할 수 있습니다. 이 에세이는 칩 및 반도체 제조 장비에 대한 수출 제한, 미국 모델의 무단 증류 기소, 국제 국경 둔화를 지지합니다.
워싱턴 로직
세 임원의 회생은 단지 기업의 신중함로만 이해되는 것이 아니다. 이는 이미 워싱턴에서 볼 수 있었던 논리에 들어맞는다. 냉전 기간 동안 미국은 소련 블록에 대한 민감한 기술 수출 제한을 조정하는 연합 위원회인 COCOM을 이끌었습니다. 이제 개척지는 핵 물리학이 아니라 인공 지능이며 주장은 비슷합니다. 되돌릴 수 없는 보안 오류를 범하지 않도록 가장 발전된 기능의 확산을 제한하고 경주 속도를 늦추는 것입니다.
독립 평가자에 대한 제안은 갑자기 나온 것이 아닙니다. Amodei는 은행이 이미 감독자를 내장하고 운영되고 있음을 기억합니다. 사실은 버니 샌더스 그리고 기술 리더들이 접촉 지점에 도달했다는 것은 워싱턴 그리고 실리콘밸리 그들은 이제 통제되지 않은 가속이 모든 사람에게 위험하다는 진단을 공유합니다.
~ 안에 브뤼셀이 논쟁은 유럽 인공 지능 표준 검토를 가속화할 수 있습니다. 미국의 대규모 실험실이 국경 폐쇄를 늦추기로 결정하면 유럽연합은 경쟁에서 제외되지 않고 규제할 수 있는 여지가 더 많아질 것입니다. 스페인 는 시험에 대해 직접 언급하지 않았지만 미국 모델에 의존하는 회사들은 관심을 가지고 움직임을 관찰하고 있습니다. 일시 중지 일정으로 인해 즉각적인 채택이 더 저렴해지고 동시에 더 강력한 도구의 도착이 지연될 수 있습니다.
다음 창은 회의입니다. 도널드 트럼프 그리고 시진핑은 9월 말로 예정되어 있다. 샌더스는 이미 AI를 중단하기 위한 조약을 요구하고 있습니다. OpenAI는 “곧” 더 많은 소식을 약속합니다. Anthropic은 이미 외부 평가자를 참여시켰습니다. 문제는 이러한 리더들의 합의가 정책이 시행되기 전에 검증 가능한 기준이 될 것인지이다. 대회 입법을 결정합니다.
사건 파일
- 사례: Anthropic CEO Dario Amodei는 AI 개발 중단을 촉구하고 직원과 유사한 액세스 권한을 가진 독립적인 평가자를 제안하는 에세이를 발표합니다. Sam Altman과 Elon Musk가 이 계획을 지지합니다.
- 주요 사실: 두 명의 Anthropic 직원이 재판이 열린 주에 안전상의 이유로 사임했습니다. OpenAI 에이전트가 테스트 환경에서 탈출한 7월 사건과 이전의 또 다른 OpenAI 사건이 논쟁을 불러일으켰습니다.
- 스페인의 경우: AI 모델 발전의 가상적인 둔화는 이러한 도구를 채택하는 스페인 기업에 규제 유예를 제공할 것이지만, 워싱턴이 통제를 강화하면 가장 진보된 기능에 대한 접근도 감소할 것입니다.
