인공 지능이나 딥페이크를 통해 생성된 허위 정보는 영국, 프랑스 또는 유럽 선거 결과에 큰 영향을 미치지 않았습니다. 미국에 대해서도 설득력있게 말할 수는 없습니다.
세계 인구의 절반이 남아프리카에서 남태평양, 유럽, 미주까지 72개국에서 투표에 참여할 기회를 가졌거나 지금도 갖고 있습니다. 이는 역사상 가장 큰 선거가 있었던 해입니다.
민주주의 체제의 완전성을 해치는 허위 정보와 다양한 인공 지능(AI) 도구로 인한 새로운 위험에 대한 점점 커지는 우려에 직면하여 전 세계 시민들은 이 모든 것의 영향을 받는 곳과 조금 덜 영향을 받는 곳에서 선택을 했습니다.
이는 Alan Turing Institute의 CETaS(Center for Emerging Technology and Security)가 최근 실시한 연구의 결론입니다. 영국, 프랑스, 유럽 선거를 분석했습니다.
유럽에서는 제한적인 영향
이 연구에서는 영국 총선 기간 동안 AI 허위 정보 또는 딥페이크에 대한 16건의 바이러스 사례가 확인된 반면, EU와 프랑스 선거를 합하면 11건의 바이러스 사례만 확인되었습니다.
이 논문에서는 AI가 지원하는 잘못된 정보가 이러한 선거 과정에 의미 있는 영향을 미치지는 않았지만 유권자를 오도할 수 있는 현실적인 패러디나 풍자 딥페이크 사례에 대한 우려가 커지고 있다고 밝혔습니다.
연구에서 강조된 또 다른 우려 사항은 정치인, 특히 여성을 표적으로 하는 딥페이크 음란물 비방의 사용과 관련이 있으며, 이는 평판과 복지에 위험을 초래합니다.
연구원들은 또한 합법적인 정치 콘텐츠와 AI 생성 자료 사이의 유권자 혼동이 잠재적으로 온라인 정보에 대한 대중의 신뢰를 약화시키는 사례를 발견했습니다.
우려에도 불구하고 연구에 따르면 AI에는 잠재적인 이점이 있는 것으로 나타났습니다. 이는 환경 캠페인을 확대하고, 유권자와 정치인의 참여를 촉진하며, 사실 확인 속도를 향상시킬 수 있습니다.
연구원들은 선거 결과에 큰 영향을 미치지는 않지만 러시아와 관련된 간섭을 포함하여 국내 및 국가 후원 행위자와 관련된 허위 정보 사례를 강조했습니다.
미국 선거 영향
CETaS 연구원들은 또한 바이러스성 AI 허위 정보의 여러 사례가 관찰된 미국 선거를 분석했습니다. 여기에는 후보를 훼손하는 데 사용되는 AI 생성 콘텐츠, 미국 유권자를 흉내내는 AI 봇 팜 또는 음모론 확산이 포함되었습니다.
그러한 콘텐츠가 결과를 조작했다는 결정적인 증거는 없지만 데이터가 충분하지 않습니다. AI가 생성한 대상은 여전히 선거 담론에 영향을 미치고 유해한 서술을 강화하며 정치적 양극화를 고착시켰습니다.
AI 기반 콘텐츠는 주로 이미 허위 정보에 동조하여 기존 이념적 분열을 강화하는 신념을 가진 사람들의 반향을 불러일으켰습니다. 전통적인 형태의 잘못된 정보도 중요한 역할을 했습니다.
브루킹스 연구소(Brookings Institution)에서 발표된 또 다른 연구에서는 허위 정보가 후보자와 캠페인 중에 논의된 문제에 대한 대중의 견해를 형성하는 데 중요한 역할을 했다는 동일한 결론에 도달했습니다.
저자들은 이민자에 대한 허위 이야기, 민주당 후보를 겨냥한 조작된 비디오 및 이미지, 오해의 소지가 있는 범죄 및 국경 보안 주장을 잘못된 정보의 예로 언급합니다.
그들은 이러한 내러티브가 소셜 미디어, 밈, 주류 미디어에 의해 증폭되었고, 사실적인 가짜를 더 쉽게 만들 수 있게 해주는 생성 AI 도구에 의해 더욱 악화되었다고 주장합니다. 독립적인 사실 확인을 통해 많은 허위 주장이 사실임을 밝혀냈음에도 불구하고 이러한 주장은 여전히 유권자의 인식, 특히 이민과 경제에 대한 인식에 영향을 미쳤습니다.
조치 취하기
유해한 이야기가 번성하는 것을 방지하고, AI가 생성한 위협을 둘러싼 과대광고를 줄이고, 허위 정보에 맞서 싸우기 위해 참조된 모든 연구에서는 핵심 영역에 대한 조치를 요구합니다.
CETaS 연구원들은 명예훼손, 개인정보 보호, 선거에 관한 법률을 강화하고 진위를 보장하기 위해 정부 콘텐츠에 출처 기록을 삽입할 것을 제안합니다. 그들은 또한 AI 사용에 대한 정당의 지침을 확대하는 딥페이크 탐지를 위한 벤치마크 개발을 옹호합니다.
또 다른 제안은 대응 전략을 개선하는 데 언론인과 사실 확인 담당자를 참여시켜 허위 정보 보도를 관리하기 위해 언론 지침을 조정함으로써 참여에 대응하는 것과 관련이 있습니다.
CETaS는 또한 규제 격차를 해소하고, 학계 및 시민 사회 단체에 유해한 캠페인에 대한 데이터에 대한 접근 권한을 제공하고, 전국적인 디지털 활용 능력 프로그램을 수립함으로써 사회에 권한을 부여할 것을 요구합니다.
브루킹스 연구소 연구에서는 소셜 미디어 플랫폼을 통한 보다 강력한 콘텐츠 조정, 사람들이 허위 정보를 식별하는 데 도움이 되는 디지털 활용 능력 프로그램, 거짓말 확산을 촉진하는 재정적 인센티브에 대한 이해를 옹호합니다.
또한 사람들이 반대자들에 대한 부정적인 정보를 믿고 퍼뜨리는 경향이 있는 정치적 양극화의 위험성을 강조하며, 이러한 추세가 계속되면 민주주의에 대한 거버넌스와 신뢰에 해를 끼칠 수 있다고 경고합니다.
선거에서 AI가 미치는 전체적인 규모는 아직 완전히 파악될 수 없지만, 현재로서는 AI가 그러한 과정에 뿌릴 수 있는 본격적인 혼란을 세계는 피한 것으로 보입니다. 그러나 정치 행위자들의 AI 도구 사용은 계속 증가할 것입니다.
(편집자: Brian Maguire | Euractiv의 옹호 연구소)
