Satya Nadella는 모든 AI 모델이 손상되었다고 가정하고 억제를 Microsoft 전략의 중심에 두었습니다. Redmond 거대 기업의 CEO는 다음과 같은 광범위한 텍스트를 발표했습니다.
작업의 핵심
- 보안은 더 이상 제품에 추가되지 않습니다. Nadella는 사후 보호 계층을 받기보다는 규칙, 권한 및 감사 가능한 로그를 갖춘 모델이 탄생할 것을 요구합니다.
- Microsoft는 Azure와 Copilot에 비즈니스 신뢰성을 걸고 있습니다. 기업 고객이 검증 가능한 증거를 요구할 경우 이를 제공하지 않는 공급자는 계약 갱신을 잃게 됩니다.
- 요구 사항은 유럽 달력에 적합합니다. EU AI 규정은 이미 범용 모델의 문서화를 요구하고 있으며 스페인은 2023년부터 자체 감독 기관을 두고 있습니다.
레시피는 몇 달 동안 업계에 유통되어 온 4개의 조각을 기반으로 합니다. 하지만 아무도 돔에서 포장하지 않았습니다. 하이퍼스케일러: 시기적절한 사고 공개, 독립적인 감사, 검증 가능한 데이터 및 봉쇄. 처음 세 개는 유럽과 미국에서 규제 선례가 있습니다. 네 번째는 당신을 괴롭히는 것입니다.
봉쇄에 관해 이야기한다는 것은 모델이 작동하는 동안 관찰할 수 있고 흔적을 남겨야 한다는 점을 받아들이는 것을 의미합니다. Nadella는 사람이 읽을 수 있고 조작할 수 없는 증거를 요구합니다.현재 생산 중인 대형 모델 중 어느 것도 제공하지 않는 기능입니다. 미묘한 차이가 중요합니다. 연례 보고서를 말하는 것이 아니라 사건이 이미 발생했을 때 참고할 수 있는 운영 기록을 말하는 것입니다.
이 접근 방식은 ChatGPT가 등장한 이후 해당 부문을 지배해 온 논리와 충돌합니다. 모델의 성능이 높을수록 아키텍처가 더욱 불투명해지고 실패를 특정 설계 결정의 원인으로 돌리기가 더 어려워집니다. 3년 동안 중립적인 기술적 특징으로 제시되었던 이러한 불투명성은 이제 비즈니스 위험으로 읽혀지기 시작했습니다.
Microsoft의 경우 계산은 간단합니다. 클라우드 사업부는 추적성 없이는 블랙박스를 구입할 수 없는 고객인 행정부, 은행, 보험사와의 다년 계약에 의존합니다. 보안은 더 이상 비용이 되지 않으며 계정이 갱신되거나 손실되는 인수.
모델을 포함하는 것은 학문적 연습이 아닙니다. 감사자가 테이블을 떠나지 않고도 회사가 모델을 배포할 수 있는지 결정하십시오.
블랙박스부터 계약서까지 : 보증금은 청구됩니다
제안은 고립된 실행이 아닙니다. 기업에 AI를 판매하는 공급업체는 지난 2년 동안 감사, 규정 준수 및 사고 관리에 대한 비용이 증가했습니다. Nadella는 소송을 고안하지 않았습니다. 그는 소송을 공식화하고 서면으로 작성했습니다.
경쟁력이 있습니다. 응 추적성은 구매 요구 사항이 됩니다이를 입증하지 못하는 공급업체는 대규모 입찰에서 제외됩니다. 그리고 이는 즉석에서 이루어지는 것이 아닙니다. 모델을 통합하는 개발자와 클라이언트가 공유하는 비용으로 모델을 훈련, 배포 및 모니터링하는 방법을 다시 설계해야 합니다.
OpenAI, Google, Anthropic이 동일한 영수증을 봅니다.
부문의 균형은 동시에 경쟁하고 서로를 필요로 하는 세 행위자에 의해 뒷받침됩니다. OpenAI는 용량을 추진하고 Google과 Amazon은 클라우드 통합을 추진하며 Anthropic은 모델 보안을 중심으로 판매 홍보의 일부를 구축했습니다. 감사 가능한 증거에 대한 공통 표준을 발표한 사람은 없습니다.그리고 그 공백은 Nadella가 채우려고 하는 것입니다.
우리는 반복되는 패턴을 관찰합니다. 거대 기업이 규제 부분을 먼저 옮기면 나머지 기업은 결국 사양과 계약에서 해당 용어를 채택하게 됩니다. 데이터 프라이버시와 국가의 주권 때문에 이런 일이 일어났습니다. 구름. 모델의 포함은 동일한 경로를 가리키지만 근본적인 차이점이 있습니다. 여기에는 기술 표준이 아직 존재하지 않으며 각 공급업체는 이를 자체 방식으로 정의합니다.
Microsoft의 위험은 예상된 것 중 하나입니다. 검증 가능한 지표 없이 봉쇄를 약속하면 평판이 저하됩니다. 그룹은 이미 유럽 행정부와의 계약에서 이를 측정하기 시작했습니다.
스페인, 유럽 규제 및 증거 사업
유럽에서는 땅이 이미 비옥해졌습니다. 유럽 AI 규정은 범용 모델 제공업체가 기술 문서를 게시하고 교육 시 저작권을 존중하며 심각한 사고를 보고하도록 요구하는 의무 사항을 단계적으로 적용합니다. Nadella가 설명하는 격리는 해당 기사와 단어 그대로 거의 일치합니다.
스페인에는 대륙에서 특이한 작품이 있습니다. 스페인 인공 지능 감독 기관은 2023년부터 운영되고 있습니다. 브뤼셀에서 감시 기관 및 대담자로 활동합니다.. 국소 조직의 경우 결과는 두 가지입니다. AI를 배포하는 회사는 시스템을 문서화해야 하며 IBEX 35 기술 서비스 그룹은 그곳에서 새로운 컨설팅 및 감사 시장을 찾을 것입니다.
Indra는 Minsait과 Telefónica Tech를 통해 수년간 공공 행정부에 사이버 보안 및 데이터 거버넌스를 판매해 왔습니다. 감사 가능한 모델 증거 사업은 해당 카탈로그의 자연스러운 확장이며 이 분야에서 보기 드문 이점을 제공합니다. 즉, 고객은 법에 따라 이를 구매해야 합니다.
문제는 어떤 기술 회사도 수치를 제시하지 않는다는 점입니다. 프론티어 모델을 실제로 감사하는 데 비용이 얼마나 드는지, 다음 클라우드 계약 갱신 시 누가 해당 비용을 부담하는지 아는 사람은 없습니다. 따라야 할 이정표는 성명서가 아니라 문서에 있습니다. 다음 공개 입찰 시즌에 감사 가능한 증거가 승인 요건인지 여부가 결정됩니다. 아니면 여전히 장식용 상자인가요?
