의 경고 빌 게이츠 그는 CNN에서 초지능이 마약보다 ‘더 위험하다’는 불편한 문구를 남겼다.
창립자 마이크로소프트 그 사람이 일요일 프로그램에서 이런 말을 하더군요. 연합 상태고려하여 제이크 태퍼. 그는 공상과학 소설이 아니라 향후 12개월에 대해 이야기하고 있었습니다.
초지능—용어 도널드 트럼프 그리고 업계의 상당 부분이 첨단 인공 지능의 이름을 바꾸는 방식을 채택했습니다. 그에 따르면 ‘많은 부정적인 놀라움’을 가져올 것입니다. 진단은 먼 미래가 아닌 단기를 가리킨다.
게이츠가 한 말, 한마디로 실리콘 밸리를 불편하게 만드는 이유
태퍼는 그에게 그의 논문이 CEO가 제시한 ‘두머리즘’이라는 꼬리표에 맞는지 물었습니다. 오픈AI, 샘 알트만최악의 시나리오를 예상하는 사람들에게 적용됩니다. 게이츠는 이를 정면으로 거부하지 않았습니다. ‘Dario Amodei를 포함한 Sam Altman을 포함하여 AI를 담당하는 모든 리더는 이것이 매우 우려스럽다고 전 세계에 말하고 있습니다.’
그런 다음 몇 주 동안 유포될 비교가 나왔습니다. ‘부정적인 시나리오로 표현되는 방식은 과장될 수 있다’고 그는 인정했습니다. 사람들이 인류 전체가 곧 위험에 처해 있는 것처럼 행동한다면 그것은 너무 지나친 일입니다. 그러나 사람들을 안전하게 지킬 수 있는 규제 능력이 있어서 다행인 자동차, 비행기, 마약에 비하면 이것은 그 어떤 것보다 더 위험합니다.’ 게이츠는 자동차, 비행기, 마약보다 초지능을 중요시한다.
그를 가장 걱정하는 정면은 반항하는 모델이 아니다. 그것은 범죄입니다. 그는 “내년에 가장 드라마틱하게 보게 될 공격은 사이버 공격”이라고 말했습니다. 비즈니스 모델이 알려져 있기 때문입니다. 혼란을 일으키겠다고 위협하거나, 시장을 움직이거나, 몸값을 요구하는 것입니다. 그는 “지금 진짜 위험은 AI가 통제를 벗어나는 것이 아니다”라고 덧붙였다. ‘몇 년 남았습니다. 이들은 AI를 사용하는 나쁜 사람들이다.’ 즉각적인 위험은 악성 기계가 아니라 잘못된 기계의 손에 있는 기계입니다..
이미 존재하는 모델에는 차이가 없습니다. 누구나 보호 기능을 비활성화하고 나머지 모델에 대항할 수 있다는 것입니다.
‘초지능’ 꼬리표부터 워싱턴에서 협상 중인 안보협정까지
그것은 고립된 목소리가 아니다. CEO 인류학, 다리오 아모데이그는 감독이 기술을 따라잡을 수 있도록 개발을 중단하도록 요청하는 서한에 9월 12일 서명했습니다.
게이츠는 이미 8월 26일에 이것이 전례 없는 글로벌 대응을 요구하는 전례 없는 기술이라고 썼다. ~ 안에 워싱턴공식 라벨이 변경되었습니다. 백악관은 다음과 같이 말합니다. 슈퍼 지능 자발적인 보안 프레임워크에 관해 거대 기술 CEO와 협상합니다.
남은 질문은 이 라벨이 제품을 더 잘 규제하거나 판매하는 데 도움이 되는지 여부입니다. ~ 안에 실리콘밸리 즉각적인 수익성을 약속하는 이야기와 문명의 위험을 경고하는 이야기라는 두 가지 이야기가 공존합니다. 게이츠는 두 번째를 선택했습니다.
스페인은 또 다른 규제 리그에 참여합니다.. 워싱턴은 자율 규제와 속도에 전념하고 있지만 유럽 연합은 AI 법을 단계적으로 배포하고 스페인에는 라 코루냐에 기반을 둔 스페인 인공 지능 감독 기관이 있습니다.
대서양 양쪽에서 활동하는 회사 —산탄데르 어느 하나 BBVA특히 미국 생태계에 대한 접근권을 잃지 않으면서 유럽 표준을 준수해야 합니다.
워싱턴 로직
백악관이 초지능에 대한 문을 닫지 않는 이유를 이해하려면 백악관이 해결하려는 문제를 살펴봐야 합니다. 보안이 아닙니다. 경주입니다. 명시된 목표는 미국이 중국을 상대로 AI 10년에서 승리하는 것입니다.그리고 그 논리에서는 모든 연방 규칙이 베이징에 비해 경쟁적으로 불리한 것으로 읽혀집니다.
선례는 생각보다 오래되었습니다. 1997년에 행정부는 빌 클린턴 글로벌 전자상거래 프레임워크를 통해 인터넷 자율 규제를 강화했습니다. 미국은 정규직을 포기하고 디지털 10년을 승리했다. AI와 함께, 워싱턴 매뉴얼을 반복합니다. 의회가 승인하는 데 수년이 걸리는 법안보다 자발적인 합의를 선호합니다.
이 노선을 지지하는 연합은 두 정당을 넘나든다. 그 공화당 경쟁력을 불러일으킨다. 좋은 부분 민주당 그는 과도한 규제로 인해 인프라가 두세 회사의 손에 넘어갈 것을 우려하고 있습니다. 그 결과, 의회는 3년 동안 포괄적인 AI법을 통과시키지 못했습니다.
게이츠가 해결하지 못한 미스터리가 남아 있습니다. 클릭 한 번으로 비활성화할 수 있는 보호 장치를 대체하는 자발적인 합의는 없습니다.. 다음 결정 창구는 AI법 적용을 검토하는 브뤼셀과 연방 모델 투명성 규칙이 아직 계류 중인 워싱턴이다. 두 해안이 서로를 바라보는 동안 스페인의 시계는 똑딱거리고 있습니다. 공통 표준이 없는 매 분기는 대서양 양쪽에서 운영되는 회사에게는 불확실성의 분기입니다.
사건 파일
- 사례: 빌 게이츠는 CNN에서 초지능(superintelligence)으로 이름이 바뀐 첨단 인공지능이 자동차, 비행기, 마약보다 더 위험하다고 경고했다.
- 주요 사실: Gates는 사이버 공격을 내년의 가장 눈에 띄는 위험으로 지적합니다. 인류학 그는 9월 12일에 개발 중단을 요청했습니다. 백악관은 거대 기술과 자발적 안보 협정을 협상하고 있다.
- 스페인의 경우: 스페인 AI 감독 기관과 유럽 법률은 미국과 다른 표준을 설정했습니다. 산탄데르, BBVA, 전화 그리고 인디텍스 두 가지 동시 규제 프레임워크로 운영됩니다.
