30초 안에
- 무슨 일이 일어났나요? ParentsTogether Action and Heat Initiative의 연구에 따르면 Snapchat은 검색 한 시간 만에 13세 계정에 739개의 성적 또는 폭력적인 동영상을 추천한 것으로 나타났습니다.
- 뒤에는 누구입니까? 플랫폼의 시스템적 실패를 비난하는 미국의 두 아동 보호 단체.
- 어떤 영향을 미치나요? 이 보고서는 미국 의회와 유럽연합(EU)에 알고리즘 규제를 강화하도록 압력을 가하고 있으며, 이는 스페인에서 Snapchat의 운영에 잠재적인 영향을 미칠 수 있습니다.
성인 연구자 그룹이 Snapchat 계정을 만들었습니다. 13세로 추정되는 청소년을 대상으로 한 플랫폼은 1분도 채 안 되어 이들에게 성적이고 폭력적인 콘텐츠를 추천하기 시작했습니다. 그것은 한 연구의 충격적인 결론입니다. 부모가 함께하는 행동 그리고 열 이니셔티브 이는 미국의 추천 알고리즘 규제를 가속화할 위험이 있습니다.
연구: 한 시간 동안 검색한 결과 739개의 부적절한 동영상
연구진은 사전 접촉도 없는 미성년자 행세를 하며 ‘스포트라이트’에서 추천하는 영상과 스토리를 시청하며 1시간을 보냈다. 스냅챗. 결과: 안전하지 않은 것으로 분류된 739 콘텐츠성적인 내용이 담긴 동영상 244개, 마약이나 알코올에 관한 동영상 257개를 포함합니다. 단 60초 만에 자살 장면, 마리화나 소비, 옷을 입지 않은 채 춤추는 어린 소녀 등의 첫 번째 권장 사항이 나타났습니다.
보고서에는 다음과 같은 내용이 자세히 나와 있습니다. 미성년자인 것으로 보이는 소녀들을 성적으로 묘사하는 댓글이 많습니다 소아성애의 은밀한 상징인 피자 이모티콘을 사용합니다. 또한 이 플랫폼은 에로틱한 란제리와 익살스러운 쇼를 판매하는 성인 계정을 홍보했습니다. “Snapchat의 추천 시스템은 때때로 몇 분 만에 아이들을 위험에 빠뜨립니다.”라고 그는 비난했습니다. 브룩 이스투크회장 열 이니셔티브.
Snapchat은 “균형 잡힌 평가가 아니다”라고 스스로를 변호합니다.
회사는 이 연구가 몇 가지 가짜 계정을 기반으로 한 것이며 “플랫폼의 십대 안전에 대한 현실적인 평가를 반영하지 않는다”고 반박했습니다. 스냅챗 미성년자의 계정은 기본적으로 비공개이며 세 명의 공통 연락처가 없는 성인이 해당 계정과 상호 작용할 수 없도록 보장합니다. 대변인은 “모든 위험을 제거하는 정책은 없지만 우리는 새로운 보호 장치에 투자하고 전문가와 협력하고 있습니다”라고 말했습니다.
하지만, 셸비 녹스디지털 보안 이사 부모가 함께하는 행동그 결과를 “시스템적 실패”라고 설명했습니다. 조직에서는 보다 안전한 기본 옵션으로 알고리즘을 재설계할 것을 요구합니다. 한편, NBC가 인터뷰한 젊은이들은 매일 앱에서 ‘지나치게 성적인’ 폭력적인 콘텐츠를 접하는 것이 ‘정상’이라고 고백합니다.
Snapchat의 알고리즘은 13세 미만의 어린이에게 60초도 안 되는 시간 안에 성적이고 폭력적인 콘텐츠의 흐름을 소개했습니다. 버그가 아닙니다. 디자인 결정입니다.
워싱턴 로직
그 안에 국회 의사당온라인 아동 보호는 몇 안 되는 초당파적 원인 중 하나가 되었습니다. 그 어린이 온라인 안전법(KOSA) 그리고 제안 어린이법 연령을 확인하고 알고리즘 권장 사항을 제한해야 하는 이 방법은 미국 의회. 미성년자의 노골적인 콘텐츠 접근을 막으려는 보수적인 압력은 이제 수년간 대기업에 책임을 요구해 온 민주당의 목소리와 일치합니다.. 연구 부모님함께 이는 상원 상무위원회 청문회에 도움이 될 것이며 이미 공화당과 행정부의 지지를 받고 있는 법안에 대한 투표를 가속화할 수 있습니다.
을 위한 스페인규제 영향은 훨씬 더 직접적입니다. 그만큼 디지털 서비스법 (DSA)는 이미 다음과 같은 플랫폼을 강제하고 있습니다. 스냅챗 미성년자의 위험을 평가하고 완화합니다. 스페인 데이터 보호국(AEPD) 아동 보호 실패로 인해 TikTok 및 기타 앱에 대한 제재 조치의 선구자였습니다. 연구 결과에 따르면 알고리즘이 청소년을 유해한 자료에 즉시 노출시키는 것으로 나타났습니다. AEPD는 자체 조사를 시작할 수 있습니다 국내에 수백만 명의 젊은 사용자가 있는 회사에 대한 요구를 강화합니다. 미래에 대한 논쟁 디지털 환경에서의 미성년자 보호에 관한 법률 무엇을 준비하는가 더 몽클로아 이 보고서에서 플랫폼에 더 엄격한 의무를 부과하는 방법을 찾을 수 있습니다. 워싱턴과 브뤼셀은 이미 같은 방향으로 움직이고 있으며 스페인은 선두에 서기를 원합니다.
사건 파일
- 사례: 두 미국 NGO의 연구에 따르면 스냅챗 등록 후 처음 60초 동안에도 13세 미만 어린이의 계정에 성적이고 폭력적인 콘텐츠를 자동으로 추천합니다.
- 주요 사실: 한 시간 동안 검색한 결과 739개의 안전하지 않은 동영상이 감지되었습니다. 성적인 콘텐츠가 244개, 마약이나 알코올 관련 콘텐츠가 257개입니다. 플랫폼은 테스트가 가짜 계정으로 수행되었으며 실제 경험을 나타내지 않는다고 응답합니다.
- 스페인의 경우: 보고서는 다음과 같은 요구 사항을 강화합니다. DSA 유럽인이며 AEPD 조사하다 스냅챗. 인터넷상의 미성년자 보호에 관한 향후 스페인 법률은 모든 플랫폼에서 알고리즘 통제를 강화해야 한다는 주장을 펼칠 것입니다.
