Muse는 Meta의 개인 정보 보호를 확인합니다. 내부 채팅을 통해 비공개 메시지에 대한 액세스가 공개됩니다.

그만큼 Meta Muse의 개인 정보 보호에 문제가 있습니다– 내부 채팅을 통해 암호화된 메시지와 혼합 대화에 대한 액세스가 드러납니다.

작업의 핵심

  • Reuters는 Meta의 내부 채팅을 게시합니다. 기록에는 에이전트가 대량 배포되기 전에 직원들이 테스트하면서 직접 경고한 내용이 기록됩니다.
  • 조수 경선이 한창이던 와중에 판결이 나왔다. Muse는 OpenAI와 Google이 아직 지배하지 않는 분야인 WhatsApp, Instagram 및 Messenger에 인공 지능을 도입하려는 Meta의 베팅입니다.
  • 규제 노출이 유럽으로 이동합니다. 여러 사용자 간의 대화를 교차하는 것은 GDPR의 데이터 위반 정의에 적합하며 감독 기관에 통보할 의무가 있습니다.

메타가 비현실적이라고 표현한 기록

지난 11월 로이터는 Muse가 사용자가 예상하지 못한 암호화된 메시지를 검토했다고 회사 직원이 경고한 내부 대화 기록을 공개했습니다. 챗봇 읽기 테스트는 에이전트가 광범위하게 출시되기 전에 수행되었습니다.

알람은 외부에서 오지 않았습니다. 통제되어야 하는 테스트 환경에서 제품을 손에 쥐고 있는 사람이 누구든지 이 제품을 들어 올렸습니다. 직원들은 또한 시스템이 어떻게 서로 다른 사용자 간의 대화를 혼합하고 누구도 보조자와 공유하고 싶지 않은 민감한 정보를 노출할 수 있는지 설명했습니다.

판결의 양보다 더 충격적인 세부 사항이 하나 있다. 일부 상담원의 응답은 사용자가 질문하지 않은 질문에 답변했습니다.. 모델이 존재하지 않는 자극에 반응하면 문제는 정밀도 문제가 아니라 데이터의 출처 문제가 됩니다. 그 질문이 어디서 왔는지는 질문입니다.

메타는 전공을 부정합니다. 회사는 이러한 기록에 나타난 데이터가 실제가 아니라고 주장하며, 이는 기술 검증 분야로 논의를 옮기는 변호이며 현재로서는 공개된 외부 감사가 수반되지 않았습니다.

아무도 묻지 않은 것에 대답하는 조수는 추측하는 것이 아닙니다. 그는 자신의 손이 닿지 않는 것을 읽고 있는 것입니다.

어시스턴트의 경력은 또 다른 좌절을 허용하지 않습니다

맥락은 발견만큼 중요합니다. Muse는 실험실 실험이 아닙니다. Meta가 매일 30억 명 이상의 사용자를 보유한 애플리케이션 제품군을 인공 지능 사용자로 전환하려는 작품입니다. 배포는 OpenAI 및 Google에 비해 유일한 장점입니다. 모델이 이미 너무 유사한 시장에서. 회사는 이를 대화에 통합된 보조자로 공식 Meta AI 웹사이트에 제시합니다.

이러한 이점은 간단한 약속에 기반합니다. 즉, 채팅이 이미 있는 곳에 도우미가 살고 있다는 것입니다. 사용자가 자신에게 속하지 않은 스레드를 읽고 있다고 의심하기 시작하면 Meta가 직접적인 경쟁이 없는 유일한 곳인 최악의 장소에서 약속이 깨집니다.

이와 동시에 회사는 주주들이 밀접하게 따르는 데이터 센터에 대한 투자 주기에 직면해 있습니다. 이 유형의 각 에피소드는 신뢰도를 높입니다.: 지출에서 1유로를 빼지는 않지만, 분석가와의 통화에서 불편한 질문을 추가합니다. 제품이 통제보다 앞서 있을 때 일어나는 일들.

스페인이 위기에 처한 것 : RGPD에서 AI 법까지

유럽에서는 이 문제가 보도 자료에 남아 있지 않습니다. 스페인 데이터 보호국은 국제 전송 데이터 처리를 위해 2023년에 Meta Platforms Ireland에 12억 유로를 승인했습니다. 스페인 기관이 부과한 최고 벌금. 이는 단순한 선례가 아닙니다. 입증된 손상으로 인한 것이 아니라 처리 설계로 인해 파일이 열리는 기준을 설정합니다.

두 명의 서로 다른 사용자 간의 대화를 교차하는 것은 GDPR 측면에서 법적 근거 없이 개인 데이터를 전달하는 것입니다. 이를 위해서는 위반 사실을 통보해야 하며 직권 조사를 받을 수 있는 기회가 열립니다. 여기에 유럽 인공 지능 규정이 추가되었습니다. 이 규정은 고위험 시스템에 대한 의무가 2026년 8월에 발효되었으며 모델 작동에 대한 문서 추적성을 요구합니다.

불확실성은 범위에 있습니다. 채팅이 내부적이라고 해서 설명된 동작이 프로덕션에서 발생했다는 의미는 아니며 Meta가 이를 악용합니다. 메타의 방어는 증명과 서비스의 차이에 기초합니다.. 법적 측면에서는 합리적인 노선이지만 평판 측면에서는 취약한 노선입니다. 해당 로그에 표시된 대부분의 경고는 개별적인 사건이 아니라 패턴을 나타냅니다.

아키텍처에 따라 Meta의 유럽 사업은 아일랜드에서 조정되며, 유럽 데이터 보호 위원회는 당국 간의 중재자 역할을 합니다. 모든 파일은 먼저 에이전트가 대화를 혼합하는 것이 소프트웨어 오류인지 아니면 불법 처리인지에 대한 이전 질문을 해결해야 합니다. 대답은 청구서를 변경합니다.

우리는 다음 약속을 면밀히 모니터링하고 있습니다. Meta는 일반적으로 1월 말에 4분기 계정을 발표하며, 거기에서 Muse가 분석가에게 연설할 때 제품으로 나타나는지 아니면 문제로 나타나는지 확인할 수 있습니다. 또한 그때까지 감사에 대한 침묵이 유지된다면.