Meta Muse AI는 데이터를 제공한 사람의 개인 정보 보호에서 가장 큰 피해를 입는 부분에서 다시 실패합니다. 에이전트가 YouTube 크리에이터의 개인 주소를 낯선 사람에게 보냈습니다. 이것은 실험실의 실패나 불완전한 시연이 아닙니다. Meta가 지불 카드와 사용자의 이메일, 파일 및 구매에 대한 전체 액세스를 요청하는 마법사입니다.
작업의 핵심
- 모든 권한을 가진 에이전트의 개인 데이터 유출. Muse는 유튜버의 주소를 제3자와 공유했는데, 이는 Meta가 전체 제품을 구축하는 신뢰 모델에 의문을 제기하는 실수입니다.
- Amazon은 비서를 차단하고 에이전트 상거래가 중단됩니다. 가장 큰 온라인 판매 플랫폼은 에이전트에게 상업적인 의미를 부여하는 영역인 Muse에 대한 액세스를 폐쇄했습니다.
- Muse Enterprise Platform은 기업에 제품을 제공합니다. Meta는 보안 및 규정 준수 문제를 해결하기 전에 보조자를 회사 패브릭에 판매하려고 합니다.
상업 제안서는 설명하기 쉽고 소화하기 어렵습니다. 메타 공식 인공지능 홈페이지에 소개된 뮤즈(Muse)는 이메일 작성부터 이메일 보내기, 온라인 매장에서 제품 구매까지 모든 것을 대행해 줄 것을 약속한다. 그리고 그것은 작동합니다. 사용자가 자신의 데이터를 Meta에 맡기고 카드를 제공한다는 전제 조건을 수락하는 한 첫 번째 게시된 테스트에서는 그 효과를 인정합니다.
스티어링 사고는 가장 많은 소음을 발생시키는 사건이다. 어시스턴트는 콘텐츠 제작자의 위치 데이터를 해당 콘텐츠 제작자와 아무런 관계도 없는 사람과 공유했습니다. 이메일, 파일, 결제 방법에 대한 권한을 가진 에이전트의 경우 이와 같은 실패는 일화적인 것이 아니라 구조적 설계 문제가 됩니다.
메타는 출시 이후 이미 다른 화재를 진압해야 했습니다. 회사는 공격자가 에이전트를 제어할 수 있도록 허용하는 취약점을 패치했습니다. 이 결함은 어시스턴트를 사용자 계정의 게이트웨이로 효과적으로 전환시켰습니다.
여기에 노출된 표면을 확장하는 기능 카탈로그가 추가되었습니다. Muse를 사용하면 전체 파일 시스템을 다운로드할 수 있고, Mac용 애플리케이션이 있으며, 화상 통화를 하고 카메라와 마이크로 작동할 수 있는 Meta 스마트 안경도 제공됩니다. OpenClaw와의 유사성은 자체 개발이 얼마나 되는지에 대한 의구심을 불러일으킵니다. 이와 동시에 다마고치 스타일의 디지털 애완동물 모양의 디바이스인 뮤즈참(Muse Charm)을 선보였으며, 보조자를 위한 독립형 디바이스도 준비 중이다.
귀하를 위해 구매하고 귀하의 이메일을 읽는 조수가 해를 끼치기 위해 악의적일 필요는 없습니다. 그가 올바른 주소로 한 번 실수를 하는 것으로 충분합니다.
아직도 한도가 어디인지 모르는 카드사
메타가 추구하는 사업은 사용자가 탐색을 멈추고 주문을 시작하는 대화형 커머스입니다. OpenAI, Google, Amazon도 경쟁하고 있는 시장이며, 아래 모델만큼 구매자의 신뢰가 중요합니다. 각 개인 정보 보호 사고는 고객의 카드를 요청할 때 논쟁을 줄입니다.
하드웨어 계층이 설계를 완성합니다. 회사가 공개한 문서에 따르면 Charms는 서로 상호 작용할 수 있으며 이는 새로운 국면을 열었습니다. 다른 사람의 여러 에이전트가 누구도 감독하지 않고 정보를 교환하면 어떤 일이 발생합니까? 서로 대화하는 보조원의 생태계는 통제력을 확장하지 않고도 위험을 확대합니다.
아마존이 문을 닫고 대리인 상거래가 중단됨
가장 불편한 타격은 규제 기관이 아니라 잠재적 파트너로부터 발생합니다. Amazon은 자사 플랫폼에서 Muse를 차단했으며, 이로 인해 서구 최대 규모의 온라인 판매 쇼케이스에서 보조자가 제외되었습니다. 이 카탈로그에 액세스하지 않으면 사용자의 구매 약속의 유용성이 상당 부분 상실됩니다.
경쟁 읽기는 간단합니다. Amazon은 자체 에이전트를 개발하며 구매자와의 관계에 대한 통제권을 포기하는 데 관심이 없습니다. 에피소드는 다가오는 흐름을 예상합니다. 오늘 클릭을 위해 경쟁하는 플랫폼은 내일 구매를 결정하는 에이전트가 되기 위해 경쟁할 것입니다.
동시에 Meta는 비서를 비즈니스 패브릭에 도입하기 위해 Muse Enterprise Platform을 출시했습니다. 회사는 보안 논쟁을 마무리하기 전에 중소기업에 비용을 청구하기를 원합니다. 제품 우선, 보증은 나중에라는 우선순위 순서가 바로 유럽 규제 기관이 수년 동안 추구해온 것입니다.
메타가 위기에 처한 것: 신뢰를 팔아 기반을 회복하다
마크 주커버그(Mark Zuckerberg)는 출범 연설에서 신뢰라는 한 단어를 사용했습니다. Meta Platform이 참조 모델 경쟁에서 여전히 OpenAI와 Google에 뒤쳐져 있고 자체 스토리가 필요한 시점에 맹목적으로 사용자에게 묻습니다. 뮤즈가 바로 그 이야기입니다. 최고의 모델을 놓고 경쟁하는 것이 아니라 WhatsApp, Instagram 및 안경에 이미 존재하는 비서를 놓고 경쟁하는 것입니다. Meta는 유럽 사용자의 데이터 처리에 대한 제재를 누적합니다.
스페인 데이터 보호국과 아일랜드 규제 기관은 최근 몇 년간 반복적으로 파일을 공개하고 회사를 제재해 왔으며, 이는 브뤼셀에서 돋보기로 읽히는 역사입니다. 유럽 AI 규정은 사용자를 대신하여 작동하는 시스템에 향상된 투명성과 평가 의무를 부여하며, 결제를 실행하고 개인 데이터를 조작하는 에이전트는 최소 위험 범주에 속하지 않습니다. 유럽연합 집행위원회가 결국 묻는 질문은 불편합니다. 대리인이 실수하면 누가 책임을 지는가입니다.
실제 테스트는 기업이 Muse Enterprise를 채택하고 이미 Muse Enterprise에 카드를 제공한 사용자의 반응을 통해 이루어질 것입니다. 만약 어시스턴트가 다시 엉뚱한 사람에게 개인 데이터를 보내면 2018년 프라이버시 담론이 깨졌던 곳에서 신뢰 담론도 깨질 것이다. 그리고 이번에는 보상할 더 나은 모델이 없다.
