Dario Amodei와 Jensen Huang은 백악관 내에서 AI 보안을 강화했습니다. 월스트리트저널(WSJ) 보고서에 따르면 트럼프 행정부가 해당 분야의 대규모 연구소와 소집한 회의에서 몇몇 CEO들은 Anthropic의 창립자에게 공개석상에서 재앙적인 연설이라고 생각하는 내용에 대해 압력을 가했다고 합니다. 불일치는 일화적인 것이 아닙니다. 이는 시장이 배포되는 동안 누가 규칙을 작성하는지 정의합니다.
작업의 핵심
- 사고는 점심 식사 후에 발생했습니다. 백악관 간부와 자문단으로 구성된 소규모 그룹이 루즈벨트룸에서 만났는데, 그곳에서 연구소들 사이에 누적된 긴장이 표면화되었습니다.
- 서명된 협약은 자발적이고 간단합니다. 내부 감독, 검증 및 외부 감사가 필요한 Anthropic, Google, Meta, Nvidia 및 OpenAI가 구독하는 두 페이지.
- Anthropic은 IPO를 협상합니다. 회사는 행정부와 두 차례 충돌한 후 시장이 아직 설정하지 않은 가치 평가를 통해 논의에 나섰습니다.
순서가 중요합니다. Amodei는 모델이 특정 임계값을 초과하면 업계가 속도를 늦출 수 있어야 한다고 몇 달 동안 주장해 왔으며 중요한 시스템을 배포하기 전에 연방 테스트를 요구해 왔습니다. 황은 그 반대를 옹호합니다. 엄격한 규칙이 중국에 넘겨질 것이다이것이 필수 프레임워크를 거부하는 이유입니다. 두 직책 사이에 Mark Zuckerberg가 임명되어 백악관과 협력하고 Howard Lutnick 상무장관과 자주 접촉합니다.
지지자들의 출연진이 공개된다. OpenAI, Google DeepMind 및 Elon Musk는 한때 개발을 중단할 수 있는 옵션을 지원했습니다. Nvidia와 Meta는 허용적인 접근 방식을 옹호합니다. Nvidia는 빠른 속도로 승리하고 Anthropic은 주의를 기울였습니다.. 그것은 철학이 아닙니다. 그것은 두 가지 다른 청구 방식입니다.
Nvidia와 Anthropic의 싸움: 동일한 시장에 대한 두 가지 이야기
WSJ가 백악관 간부와 보좌진을 앞에 두고 묘사한 장면은 성격에 어긋나지 않았다. 황은 몇 달 동안 보안에 대한 우려가 과장됐다고 주장하며 규제 불개입을 옹호해 왔습니다. 그의 주장은 혁신과 보안은 충돌하지 않으며 두려움 때문에 규제하는 것은 배포를 지연시킬 뿐이라는 것입니다.
Amodei는 모든 포럼에서 반복하는 주장으로 응답했습니다. 업계는 모델이 수행할 수 있는 작업과 이로 인한 위험에 대해 대중에게 정직해야 합니다. 불일치는 전술적인 것이 아니라 달력에 따른 것입니다.. 일부는 더 일찍 배포하기를 원합니다. 다른 사람들은 전에 감사하십시오.
백악관이 법으로 만들지 않는다는 자발적인 협약
회의에서 나온 문서는 2페이지 길이이며 모델에 대한 견고한 내부 감독, 제어가 작동하는지 확인하는 내부 팀, 외부 평가자, 해당 팀을 감독하는 이사회의 독립 위원회라는 네 가지 요구 사항을 담고 있습니다. 4가지 요구사항을 이행할 권한이 없음. 구속력 있는 성격에 대한 질문에 트럼프는 이를 ‘도덕적으로 구속력 있다’고 설명했고, 본문에는 시간이 지나면 이를 법으로 바꾸는 것이 합리적일 수 있다고만 언급했습니다.
통제 메커니즘이 없는 두 페이지짜리 계약은 규제가 아니라 스냅샷입니다. 그리고 백악관 세입자가 바뀌면 사진은 만료됩니다.
이를 두고 업계가 분열된 것은 처음이 아니다. Anthropic, OpenAI 및 Google은 지난 여름 미국 주식 시장 감독 기관인 FINRA에서 영감을 받아 자율 규제 기관을 만들기로 합의했습니다. 황(Huang), 주커버그(Zuckerberg), 머스크(Musk)는 그러한 설계가 주요 연구실에 너무 많은 권력을 집중시킬 것이라고 트럼프에게 경고했습니다. 아이디어는 폐기되었습니다. 바이든 시대에 서명한 자발적 약속도 비슷한 운명을 겪었다.
누가 지켜보고 있는지는 아직 알 수 없습니다. 트럼프는 백악관에 AI 책임자를 임명하겠다고 약속했으며 이 분야를 감독하기 위해 12명으로 구성된 위원회를 고려하고 있습니다. 정의된 제어 메커니즘 없이 계약이 유지됩니다.. 문제는 합의 자체가 자발적인 경우 누가 그 업무를 맡느냐는 것입니다.
유럽이 위기에 처한 것 : AI법 대 워싱턴의 자발주의
스페인 회사의 경우 두 모델 간의 거리는 겉보기에 적합하지 않습니다. Nvidia는 생태계의 상당 부분에 컴퓨팅을 공급하므로, 비개입에 대한 Nvidia의 연설은 중요한 공급업체의 무게로 이사회에 전달됩니다. 반면 Anthropic은 유럽 인공 지능 규정에 따라 운영되는 유럽 기업 고객에게 보안을 판매합니다. 동일한 회사가 두 가지 다른 규제 프레임워크를 준수합니다. 마드리드에서 판매하는지 캘리포니아에서 판매하는지에 따라 다릅니다.
스페인에서는 AESIA가 지역 사회 규정에 대한 국가 감독을 맡고 워싱턴은 입법이 필요한지 여부를 논의합니다. 이러한 비대칭성에 대한 비용은 이미 공공 기관에 대한 제안에 AI를 포함시킨 Indra 또는 Telefónica와 같은 IBEX 35개 회사가 지불합니다. 누구도 프레임워크를 선택할 수 없습니다. 그들은 유럽의 프레임워크를 준수하고 자발적인 원칙에 따라 미국의 경쟁자와 경쟁합니다.
Anthropic의 위험은 명백합니다. 그의 보안 연설로 인해 그는 행정부와 두 번의 충돌을 겪었습니다.: 보안상의 이유로 두 모델이 2주 반 동안 중단되고 AI의 군사적 사용과 관련해 국방부 블랙리스트에 포함되었습니다. 아모데이는 트럼프 대통령과 화해적인 어조로 만찬을 갖고 기자들에게 모두가 힘을 합치면 무사히 승리할 수 있다고 말했다. 아직 날짜가 정해지지 않은 IPO는 최고의 온도계가 될 것입니다. 투자자들은 신중함이 상업적 자산인지 경쟁적 책임인지를 결정할 것입니다.
문제는 AI에 규칙이 필요한지 여부가 아니라 누가 규칙을 작성할 것인지입니다. 브뤼셀은 입법을 하고 워싱턴은 선의에 의지합니다.그리고 실험실은 그 장애를 유리하게 활용합니다. 우리는 백악관 AI 책임자 임명과 Anthropic의 IPO에 대한 투자 설명서를 면밀히 관찰할 것입니다. 여기서 우리는 경각심이 상업적 전략인지 실제 경고인지 확인할 것입니다.
