캘리포니아는 미성년자를 위한 소셜 미디어와 AI 챗봇을 제한하는 법을 통과시켰습니다. 이 표준은 기술 회사가 보안 감사를 수행하거나 법적 책임을 지게 만들 것입니다.
작업의 핵심
- 새로운 법은 16세 미만 미성년자의 중독성 기능을 금지합니다. 금지에는 자동 재생, 알림, 알고리즘에 따라 개인화된 피드가 포함됩니다.
- 챗봇 제공업체는 정신 건강 프로토콜을 추가해야 합니다. AI 회사는 어린이가 안전 설정을 비활성화하면 부모 알림을 활성화해야 합니다.
- 규정 준수 비용이 주요 경제적 영향으로 떠오르고 있습니다. 연간 감사 및 연령 확인으로 인해 캘리포니아의 규제 법안이 인상될 것입니다.
맞춤형 청소년 광고에 대한 침묵의 거부권
Gavin Newsom 주지사가 서명한 패키지 중 가장 분열적인 조치는 16세 미만이 중독성으로 간주되는 기능에 액세스하는 것을 금지합니다. 승인된 정의는 광범위합니다. 자동 비디오 재생부터 개인화된 알고리즘 피드, 사용자를 유지하도록 설계된 알림까지 모든 것을 포괄합니다.
Meta, TikTok 및 YouTube는 캘리포니아에서 제품을 다시 디자인해야 합니다. 그들은 행동 신호를 기반으로 개인화된 광고를 촉진하는 것과 동일한 경험을 십대들에게 제공할 수 없습니다. 문제는 사소한 것이 아닙니다. 청소년 수익 창출의 상당 부분은 지속적인 상호 작용, 추천 콘텐츠 및 영속성에 달려 있습니다.
EFF(Electronic Frontier Foundation)는 이 규칙을 십대 청소년의 소셜 미디어에 대한 기능적 금지라고 불렀습니다. 이 조직의 국무부 부국장인 Rindala Alajaji는 “미성년자의 디지털 포럼 접근을 거부하거나 탐색을 위한 기본 도구를 제거하는 것은 AI 시대에 미성년자를 더 안전하거나 건강하게 만들지 못할 것”이라고 말했습니다.
연령 확인은 논쟁의 반대편입니다. EFF는 제한을 시행하기 위해 플랫폼이 모든 사용자에게 생년월일을 증명하는 더 많은 개인 정보를 요청해야 한다고 경고합니다. 그의 의견으로는 이는 미성년자뿐만 아니라 전체 디지털 인구에 대한 새로운 개인 정보 보호 위험을 초래합니다.
이와 동시에 캘리포니아는 AI를 사용하여 생성되거나 디지털 방식으로 변경된 이미지를 포함하도록 아동 성적 착취의 정의를 확장합니다. 이 규정은 또한 특정 표적 광고 관행을 금지하고 인공 지능 시스템에 의한 초등 및 중등 학교 학생 데이터 사용을 규제합니다.
미성년자를 보호한다고 해서 각 피드를 데이터 여권을 통해서만 건널 수 있는 벽으로 둘러싸인 정원으로 바꿀 수는 없습니다.
AI 기업은 또한 매년 어린이 안전 감사와 위험 평가를 받아야 합니다. 이를 준수하지 않을 경우 법적 책임을 지게 됩니다. 국가가 챗봇에 대한 통제권을 이 정도 수준으로 끌어올리는 것은 처음이다.
제너레이티브 AI, 법적 책임 대상에 돌입
법은 챗봇 개발자에게 구체적인 의무를 규정하고 있습니다. 미성년자가 자해를 언급하는 경우를 대비해 정신 건강 자원과 안전 프로토콜을 통합해야 합니다. 또한 미성년자가 보호 설정을 비활성화하는 경우 부모에게 알려야 합니다.
법적 책임은 더 이상 해당 부문에 대한 가설이 아닙니다. 이를 준수하지 않는 기업은 소송을 당할 수 있으며 기업 윤리를 넘어서는 운영 위험을 검토해야 합니다. 이는 지난 10년 동안 실리콘 밸리에 만연해 온 자율 규제와 충돌합니다.
Newsom은 AI 회사의 규제 준수 여부를 감사하기 위한 광범위한 프레임워크를 승인한 지 하루 만에 이 패키지에 서명했습니다. 순서는 우연이 아닙니다. 캘리포니아는 미성년자 보호를 디지털 비즈니스 모델의 거버넌스와 연결합니다.
영향을 받는 기업의 대부분은 규정 준수 비용이 높으며 해당 규칙으로 인해 확장하기 어려운 주정부 규제 모자이크가 생성된다고 생각합니다. 그러나 업계 내 추세는 만장일치로 일치하지 않습니다. 일부에서는 명확한 규칙이 없으면 중기적으로도 유익하지 않다는 점을 인정합니다.
브뤼셀과 마드리드의 캘리포니아 거울
캘리포니아는 다시 한번 디지털 세계에 대한 규제 속도를 설정합니다. 플랫폼 경제는 미국 최대 기술 시장에서 명성과 법적 비용을 위협하고 있습니다. 새크라멘토에서 승인된 내용은 일반적으로 다른 주와 유럽 대화 자체에 대한 참고 자료가 됩니다.
유럽 연합에서는 DSA와 미래 AI법이 이미 알고리즘 투명성과 위험 평가에 대한 요구 사항을 강화했습니다. 스페인은 AEPD 및 미래의 인공지능 감독 기관과 함께 디지털 환경에서 미성년자 보호에 있어 가장 적극적인 규제 기관 중 하나입니다. AEPD는 이미 미성년자 데이터 처리를 위해 파일을 공개하고 TikTok과 같은 플랫폼에 벌금을 부과했습니다.
이러한 캘리포니아 배경은 연령 확인 논쟁에 압력을 가합니다. 유럽 규제 당국은 플랫폼이 경험을 단편화하지 않고 준수하기 위해 채택하는 기술 솔루션에 관심을 갖고 지켜보고 있습니다. 캘리포니아가 운영 구현을 달성하면 사전 규제 기관을 통해 모델을 다른 관할권으로 확장할 수 있습니다.
불일치의 위험이 주요 비판입니다. 캘리포니아에서 규정을 준수하는 소셜 네트워크는 다른 주의 요구 사항이나 유럽의 접근 방식과 충돌할 수 있습니다. 기술 기업은 동일한 제품 내에서 27가지의 서로 다른 체제를 피하는 연방 또는 국제 표준을 선호합니다. 캘리포니아는 그 반대를 선택했습니다.
투자자들의 눈은 적응 비용과 사용자들의 반응에 쏠려 있다. 젊은 층의 광고 수익성 피드의 사용자 정의 용량이 손실되면 어려움을 겪을 수 있습니다. 현재 기업에서는 그 영향을 정량화하지 않았지만 분석가들은 이미 규제 준수를 모델의 상위 항목으로 포함시켰습니다.
법은 일부 법학자들이 강조하는 것처럼 소셜 네트워크를 명시적으로 금지하지는 않지만 광고 모델을 지원하는 상호 작용 인센티브를 제거합니다. 그렇기 때문에 이 싸움은 합법적일 뿐만 아니라 제품적 측면에서도 중요합니다. 즉, 상업적 매력을 파괴하지 않으면서 중독성이 적은 플랫폼을 디자인하는 것입니다.
