Chris Kremidas-Courtney는 유럽 정책 센터의 선임 방문 동료, 제네바 보안 정책 센터의 부교수이자 ‘나머지 인생 : 미래의 5 가지 이야기’의 저자입니다.
칼 사간 (Carl Sagan)은 한때 과학과 이성에서 분리 된 시민들이 편안한 환상의 수동적 소비자가 될 미래에 대해 경고했다. 그는 사회가“좋은 느낌과 진실을 구별 할 수 없다”고 두려워했다.
그러나 어떤 사간 구상 느린 문명 부패로 이제는 기술적 진보에도 불구하고 가속화되고있는 것 같습니다.
프린지 플랫폼과 암호화 된 채널에서 인공 지능 모델은 정보를 제공하지 않고 확인하도록 훈련되고 있습니다. 그것들은 이데올로기 적 순도에 최적화되어 있으며, 사용자의 세계관을 반영하기 위해 미세 조정되었으며, 우리에게 생각하도록 도전하기보다는 신념 시스템에 배치되었습니다. 이 시스템은 무작위로 환각되지 않습니다. 대신, 그들은 독립적 인 생각을 침식하면서 친밀감을 모방하는 신념, 유창성 및 피드백 루프로 이야기를 전달합니다.
우리는 정보의 시대에서 조작 된 망상으로 이동하고 있습니다.
Neo-Llm을 고려하십시오 챗봇 자연 뉴스에서 10 만 개가 넘는 음모 기사에 대해 교육을 받았으며, 최근 전염병 기간 동안 5 개의 최악의 정보를 얻었습니다. 그것은 사용자가 반 바신 신원 청원을 작성하고, 의사 과학으로 과학을 퇴치하며, 공동 불신을 통해 커뮤니티를 구축하는 데 도움이됩니다. 수정하거나 질문하지 않습니다. 그것은 단지 설득력 있고 끊임없이 동의합니다. 알렉스 존스의 infowars 자체 공제 된 미디어 출력에 대해 비슷한 AI를 구축했습니다.
2010 년대 후반에 서로 연결된 웹 사이트 네트워크로 시작된 것은 개인적인 느낌의인지 아키텍처로 발전하고 있습니다. 우리가 목격하는 것은 결정이 이제 유창하고 설득력있게 발언하는 것을 제외하고는 사간의 악몽의 산업 스케일링입니다.
이 하강은 알고리즘으로 시작하지 않았습니다. 그것은 소외, 경제적 예비주의, 제도적 실패 및 사회적 조각화로 시작되었습니다. 사람들은 시민 생활에서 분리하고 공공 시스템에 의해 버려진 느낌이 종종 답을 찾고 있습니다. 이제 그들은 불안을 반영하고 이데올로기로 날카롭게하는 기계에서 그것을 찾고 있습니다.
AI는 문제 자체가 아니라 웹 사이트 클러스터로 시작하여인지 캡처를 위해 설계된 시스템으로 끝나는 무기 체인의 최종 링크입니다. 여러면에서 이것은 일부 전문가와 비슷합니다 경고하다 그게 메타버스 인지 적 자기 결정에 도전하기 위해 무기화 될 수 있습니다. 그러나이 경우, 그것은 가상 현실 고글이없는 메타 버스, 몰입을 통해서가 아니라 긍정을 통해 신념이 설계되는인지 적 인클로저입니다.
최근에 연구 사람들이 더 이상 사고에 대한 책임을 느끼지 않을 때, 그들은 그들에게 생각하는 어떤 것 (또는 누구)에 취약 해집니다. 해결책은 규제만으로 나오지 않습니다. 업데이트 된 AI 법과 같은 법적 보호 조치는 여백에 도움이 될 수 있지만 실제 작업은 문화의 습관을 되살리기 시작하여 문화적 갱신에 있습니다. 음모에 항복하지 않고 사람들에게 불확실성에 머무르는 방법을 다시 한 번 가르치는 데. “이것을 어떻게 알 수 있습니까? 내가 보지 못하는 것은 무엇입니까? 내가 틀렸다면 어떻게 될까요?”
우리는 조작에 저항하는 것뿐만 아니라 복잡성을 유지하기 위해 공유 된 정신 회복을 재건해야합니다. 이것은 모호함을 견딜 수 있고, 뉘앙스를 존중하며, 현실에서 무너지지 않고 불일치에 참여하는 법을 의미합니다. Sagan은 이것을 어둠 속에서 촛불이라고 불렀습니다. 증거, 회의론 및 겸손에 근거한 생각
현재 우리의 디지털 풍경은 확실성, 분노 및 정서적 강도를 보상합니다.. 그러나 시민으로서 우리는 다른 것을 보상하기 시작해야합니다 – 우리의 견해를 고려하고 수정할 용기, 상충되는 정보를 조사하기위한 인내, 우리가 무언가를 모를 때 인정할 수있는 힘.
이 중 어느 것도 쉽지 않습니다. 그러나 우리 가이 순간을 단순히 기술적 혼란으로 취급한다면, 우리는 더 깊은 위험을 놓치게 될 위험이 있습니다. 즉, 자유롭게 생각하려는 의지의 침식. 기계는 그것을 빼앗아 가지 않습니다. 우리는 한 번에 한 번의 클릭을 제공합니다.
티그는 깨달음이 우리에게 자유롭게 생각할 수있는 도구를 주었고, 오늘날 우리의 도전은 그것들을 사용하는 방법을 기억하는 것입니다. 우리는 인식을 능가 할 수 있지만 양심을 능가 할 수있는 기계를 구축했습니다. 지금 필요한 것은 더 나은 프롬프트 나 더 빠른 모델이 아닙니다. 그것은 문화적 재개입니다 : 분별력, 대화, 그리고 진실을 함께 추구하는 느리고 지저분한 일에 대한 새로운 헌신.
