빌 게이츠는 업계를 불편하게 만드는 메시지를 보냈습니다. 보호 장치가 없는 AI는 기다리는 것을 허용하지 않습니다. 마이크로소프트 공동 창업자는 인터뷰에서 “모든 AI가 보호 장치와 모니터링 기능을 갖출 것을 요구하지 않는 것은 완전히 무책임하다”고 말했다. 언론을 만나보세요NBC 뉴스 프로그램.
이것은 고립된 문구가 아닙니다. Gates는 몇 달 동안 동일한 메시지를 추진해 왔으며 주요 AI 회사의 여러 CEO가 개발 속도를 늦추고 외부 감사를 받기로 공개적으로 동의한 것처럼 그렇게 했습니다. 필수 프레임워크에 대한 Microsoft 창립자의 지원으로 보드 순서가 변경되었습니다. 자기조절을 도착이 아닌 출발의 위치로 전환.
작업의 핵심
- 게이츠는 악의적인 행위자를 지적합니다. 가장 즉각적인 위험은 폭주하는 AI가 아니라, 생물 테러나 대규모 금융 사기를 위해 첨단 모델을 사용하는 나쁜 의도를 가진 사람들입니다.
- 외부 검증이 기반을 다지고 있습니다. Anthropic은 Gates가 전체 부문에 대한 표준을 만들고 싶어하는 선례인 최신 모델의 독립적인 평가자로서 Accenture를 선택했습니다.
- 유럽은 이미 게이츠가 요구하는 바를 입법화했습니다. 유럽 AI 규정은 의무적인 보호 조치를 예상하고 있으며 스페인에는 이미 특정 감독 기관이 있습니다.
실리콘 밸리 스크립트 트위스트
2년 전만 해도 업계에서 중요한 유일한 지표는 속도였습니다. 오늘의 대화는 격리입니다. 게이츠는 논쟁의 축을 기술적인 차원을 초월하는 차원으로 옮겼습니다. 제3자가 기술을 사용하는 행위. 그는 “지금 우리가 직면한 가장 위험한 것은 나쁜 의도를 가진 사람들이 AI를 사용하는 것”이라고 말했다. 나쁜 의도를 가진 사람들과 최신 AI 도구의 결합만큼 강력한 무기는 없었습니다.
순서가 중요합니다. Anthropic은 최신 모델의 외부 평가자로서 Accenture를 선택했으며 이를 통해 제3자 감사를 상업적 주장으로 전환했습니다. 검증을 허용하는 사람은 누구나 기업 고객의 신뢰를 얻을 수 있습니다. OpenAI, Google, Meta는 같은 리그에서 경쟁하며, 어느 누구도 독립적인 감독 없이 혼자 있기를 원하지 않습니다.
이러한 접근 방식은 즉각적인 경제적 결과를 가져옵니다. 응 보호 조치는 권장 사항에서 법적 요구 사항으로 전환됩니다.AI 회사는 현재 계정에 표시되지 않는 감사, 추적성 및 모니터링 비용을 부담해야 합니다. Gates는 이러한 추가 비용을 인식하고 이를 최소화합니다. 그는 이것이 이들 회사의 업무에 ‘극적인 둔화’를 초래하지 않을 것이라고 주장합니다.
끄기 버튼은 실제 위험에 반응하지 않습니다
가장 주목할만한 제안은 캘리포니아에서 나왔습니다. Gavin Newsom 주지사는 더 광범위한 솔루션의 일부로 ‘킬 버튼’을 제안했습니다. 이 아이디어는 강력해 보이고 헤드라인을 장식하지만 Gates는 이 아이디어를 부차적인 것으로 간주합니다. 그는 이 법안이 가장 임박한 위험을 해결하지 못한다고 경고했지만 ‘나는 끄기 버튼에 반대한다고 말하고 싶지 않습니다’라고 덧붙였습니다.
자율 규제는 지금까지 진행되었습니다. 나쁜 행위자들은 업계가 어떤 안전 장치를 마련할지 결정할 때까지 기다리지 않습니다.
그의 주장은 문제를 안보와 경제 분야로 되돌린다. 통제되지 않은 모델은 가설입니다. 생물학적 무기를 제조하거나 대규모 사기를 조율하기 위해 생성 도구에 접근할 수 있는 그룹은 경계가 필요한 오래된 위협. 게이츠는 공공 및 민간 자원을 여기에 집중시키고 싶어합니다.
시장보다 앞서 규제를 적용하는 스페인과 EU
게이츠가 워싱턴에 요구하는 프레임워크는 이미 유럽에 부분적으로 존재합니다. 유럽 AI 규정은 2027년 8월에 최고조에 달할 투명성과 위험 평가 의무를 전개합니다. 스페인은 2023년부터 특정 감독 기관을 두고 있다.. 이러한 규제 발전으로 인해 유럽 기업은 미국 기업이 아직 동일한 법적 압력을 받지 않는 딜레마에 빠졌습니다.
불편한 모순을 지적할 가치가 있다. Gates는 Microsoft가 Azure 및 Copilot을 통한 생성 AI 배포의 가장 큰 상업적 수혜자 중 하나이기 때문에 필수 보호 장치를 요구합니다. 더 엄격한 규칙을 요구하는 것도 경쟁의 장을 설정하는 것입니다. 수년 동안 보안 및 국방에 적용되는 AI로 사업을 이전해 온 IBEX 35 그룹(Indra가 가장 눈에 띄는 사례)의 경우 글로벌 감사 표준에는 규정 준수 비용이 수반될 뿐만 아니라 역량이 약한 경쟁업체에 대한 진입 장벽도 수반됩니다.
스페인 투자자의 경우 판독값은 두 가지입니다. 안전 장치가 강화되면 자체 모델 개발 비용이 더 비싸지만, 컨설팅 회사나 선택적 기술 그룹과 같이 계약을 통해 응용 AI를 판매하는 통합업체가 유리합니다. 열린 질문은 유럽이 규제적 이점을 산업적 이점으로 전환하는 방법을 알 수 있는지 아니면 클라우드에서와 같이 미국에서 인프라를 다시 구매할 것인지 여부입니다.
근본적인 위험은 속도입니다. 가장 큰 AI 회사는 외부 검증을 위해 청구서를 흡수할 수 있습니다. 작은 것들은 그다지 많지 않습니다. 보호 프레임워크가 잘못 설계되면 지켜보고 있다고 주장하는 거인들을 통합하다. 이를 검증하기 위한 다음 약속은 2027년 8월로 예정된 유럽 규정의 전체 적용과 캘리포니아의 ‘오프 버튼’ 제안이 연방 번역 없이 남아 있는 미국의 입법 펄스에 있습니다.
