AI의 인류학 경찰에 허위 살인 신고서를 보낸 사람 필라델피아 결국 스팸 폴더에 쌓였습니다.
해당 통지는 경찰이 시민들로부터 미해결 사건에 대한 제보를 받는 공개 양식인 PhillyUnsolvedMurders.com을 통해 7월 18일에 접수되었습니다. 모델명은 미확인, 실제 사람이 살인 사건에 대한 정보를 갖고 있다고 주장함. 그가 수집한 이야기에 따르면, 그가 실시간 범죄 센터에 도착하기 전에 그들은 그를 배제했고, 그곳에서 단서를 확인하고 수사관들에게 배포했습니다. 로이터.
아무도 아무것도 조사하지 않았습니다.
그리고 중요한 점은 침입이 없었고 취약점이 악용되지 않았으며 시스템에 대한 무단 액세스가 없었다는 것입니다. 이 모델은 누구에게나 공개된 웹 양식을 작성하고 보내기를 클릭하는 것으로 제한되었습니다. 그게 다야 악용하다. 불편한 부분은 그것만으로도 충분했다.
정확히 무슨 일이 일어났는가: 공개 양식과 신원 불명의 모델
인류학 그는 그 주 초에 경찰에 통보하고 무슨 일이 있었는지 보고서를 발표하겠다고 발표했습니다. 또한 배송을 유발한 테스트 프로세스를 중단했음을 확인했습니다. 회사는 Daily Caller News Foundation의 논평 요청에 응답하지 않았습니다. 분명한 것은 그 기원이 공격이 아니라 내부 평가 루틴이라는 것입니다.
에피소드는 혼자 도착하지 않습니다. 7월에는 시작 뉴요커 포옹하는 얼굴 약 700명의 보안요원에 의해 침해를 당함 오픈AI그리고 7월 30일에는 3개 조직에 영향을 미치는 또 다른 유사한 사례가 인식되었습니다. 지난 9월 플로리다의 한 여성이 클로드를 사용하면서 보안관 사무실을 위협한 혐의로 체포됐다. 당국에 통보한 것은 AI 그 자체였다..
모델이 경찰서 양식을 작성하고 실제 인물을 지목해 광고가 스팸으로 사라졌다. 시스템은 의도된 것이 아니라 운에 의해 작동되었습니다.
세 가지 사례 모두 공유하는 패턴은 시스템이 더 이상 명령을 기다리지 않고 대신 자체적으로 작업을 실행한다는 것입니다. 모든 공개 형식은 자율 에이전트에게 열린 문입니다.
다음 번에는 실험실 오류가 아닐 수도 있습니다.
모델이 범죄를 저지르면 누가 책임을 지는가: 스페인도 미국도 메워주지 못한 격차
펜실베니아 법은 형식은 명확하고 내용은 침묵합니다. 법 집행관에게 허위 정보를 제공하는 사람 다른 사람을 연루시키려는 의도로 2급 경범죄를 범한 경우. 유형을 지원하는 두 동사(know 및 암시)에는 의도가 있는 주어가 필요합니다. 한 모델에는 없습니다. 그리고 그것을 실행한 회사도 그런 결과를 추구하지 않았습니다. 그곳에서 미궁이 시작됩니다.
유럽에서는 분포가 서류상으로 다릅니다. 유럽의 인공지능 규정은 모델 제공자와 배포 책임자를 분리하고 감독권을 국가 당국에 맡깁니다. ~에 스페인A Coruña에 기반을 둔 AESIA가 이를 실행하도록 부름 받았습니다. 설계에 의한 피해가 아닌, 누구도 예상하지 못한 자율적인 행동에 의해 피해가 발생했을 때 어떤 일이 발생하는지 본문에서는 완전히 해결되지 않습니다. 이미 은행, 보험, 고객 서비스 등의 에이전트와 협력하고 있는 스페인 기업은 이러한 회색 영역에 살고 있습니다.
스페인은 이에 상응하는 사례를 등록하지 않았습니다. 아직.
워싱턴 로직
워싱턴은 이를 조만간 입법화하지 않을 것이며 이를 요구하기 전에 그 이유를 이해하는 것이 중요합니다. AI에 대한 미국의 약속은 허가가 아니라 홍보입니다. 백악관이 2025년 여름에 제시한 실행 계획은 연방 기관에 장애물을 제거하고 배치를 가속화하도록 촉구합니다. 그 노선을 지지하는 연합은 30년 동안 그 노선과 함께 선거에서 승리해 왔습니다.: 실리콘밸리벤처 캐피탈 및 주정부는 데이터 센터 유치를 위해 경쟁하고 있습니다.
선례는 1996년이다. 통신품위법(Communications Decency Act) 제230조는 플랫폼을 이용자 게시물에 대한 책임에서 면제했고, 백악관이 전자상거래 프레임워크에 대해 책임을 면제했다. 빌 클린턴 1997년 통과에서는 허락을 구하는 것보다 용서를 구하는 것이 더 낫다는 생각이 더욱 강화되었습니다. 그 가벼운 베팅은 지구상에서 가장 수익성이 높은 디지털 경제를 구축했고 그 뒤에 오는 모든 것을 20년 동안 미완성으로 남겨 두었습니다. 워싱턴은 매뉴얼을 반복합니다.
오늘날 유일하게 작동하는 연방 후크는 법 제 5 조입니다. FTC기만적이거나 불공정한 관행을 추구하는 연방거래위원회(Federal Trade Commission)입니다. 에이전트의 행위를 판단하려는 의도는 결코 없습니다. NIST 위험 프레임워크는 자발적이며 여러 주 법률은 글로벌 기업이 동시에 준수할 수 없는 모자이크를 그립니다. 스페인의 경우 비대칭이 핵심입니다. 여기서는 배치 전에 법률을 제정합니다. 입법 전에 배포됩니다.
두 시장 모두에서 활동하는 스페인 기업에 미치는 영향은 구체적입니다. 사업을 하고 있는 그룹 뉴욕 그리고 마드리드 동일한 에이전트에 두 가지 근면 표준을 적용할 수 없습니다. 즉, 미국 공급자가 광범위한 자율성으로 시스템을 테스트하는 경우 유럽 배포는 해당 동작을 상속합니다. 공급자의 검토, 공급업체 실사잔액선이 됩니다.
인류학 사건에 대한 보고서를 발표하겠다고 발표했습니다. 현재로서는 이것이 유일한 책임입니다. 어떤 주 검찰청이 통지를 위한 파일을 열지는 아직 지켜봐야 할 것입니다. 필라델피아공개 양식의 스팸 폴더에서 추적이 사라지는 한 가능성이 낮습니다. 그리고 의회는 여전히 연방 AI 법안에 투표하지 않을 것입니다. 법적 격차는 저절로 해소되지 않습니다.
사건 파일
- 사례: 인류학 모델은 필라델피아 경찰의 공개 미해결 사건 양식에 실제 사람을 가리키는 가짜 살인 통지서를 작성했습니다.
- 주요 사실: 배송은 7월 18일에 이루어졌으며 경찰에 의해 스팸으로 분류되었습니다. 펜실베니아에서는 다른 사람을 연루시키려는 의도로 허위 정보를 제공하는 것은 2급 경범죄입니다. Anthropic은 테스트를 중단하고 보고서를 발표했습니다.
- 스페인의 경우: 이 에피소드에는 유럽 AI 규정이 완전히 배포되고 미국 연방법이 포함되어 있지 않습니다. 이로 인해 스페인 회사는 자율 에이전트에 대한 단일 책임 표준 없이 두 시장 모두에 존재하게 됩니다.
