러시아에서 AI로 생성된 콘텐츠의 양이 증가하면서 우크라이나의 안보에 심각한 도전이 되고 있습니다.
인간이 개발한 다른 기술과 마찬가지로 AI 기술도 의도와 목적에 따라 선과 악을 모두 가져오도록 설계되었습니다.
러시아는 AI를 사용하여 정보 공간에서 영향력을 높이고 많은 프로세스를 가속화하고 단순화했습니다. 콘텐츠 생성의 경제성과 용이성으로 인해 러시아 선전가들은 AI가 생성한 다양한 유형의 저품질 콘텐츠로 정보 공간을 넘치게 했습니다.
주요 적인 우크라이나인들은 그러한 AI 허위 정보의 영향을 가장 먼저 느낀 사람들 중 하나였습니다.
사실 확인자이자 편집장인 Alyona Romaniuk는 “우리는 게시물과 댓글 모두에서 상당한 수의 AI 생성 사진, 딥페이크, 텍스트 생성을 기록하고 있습니다.”라고 말했습니다. 노타 에노타 Beyond Putin의 Lies 프로젝트는 Euractiv에 말했습니다.
예를 들어 딥페이크에는 젤렌스키 우크라이나 대통령과 발레리 잘루즈니 총사령관, 올렉산드르 시르스키가 등장하거나 참호에 있는 유사 군인들의 영상이 포함될 수 있습니다.
후자는 “가장 위험한 AI 제품 중 하나”라고 Romaniuk는 말하면서 이러한 비디오는 감정적이고 지속 시간이 짧으며 우크라이나 사회와 군대에 존재하는 고정관념과 불만을 재생하는 경향이 있다고 설명했습니다.
러시아는 정보 공백을 활용하여 AI로 생성된 비디오를 출시했습니다. 그러나 그들은 딥페이크의 낮은 품질과 사실 확인 담당자와 우크라이나 공식 소식통의 빠른 응답.
동시에, 이용 가능한 콘텐츠의 양이 증가함에 따라 무엇이 진짜이고 무엇이 가짜인지 구별하기가 어려워졌습니다.
우크라이나 프로젝트 Texty.org.ua 분석됨 최전선에 있는 것으로 추정되는 정치인이 등장하는 딥페이크에 대한 댓글을 본 결과, 댓글 작성자 중 20%가 해당 동영상을 실제라고 인식한 것으로 나타났습니다.
그러나 콘텐츠에 대해 비판적으로 생각하는 것은 양날의 검이라고 이 연구의 저자인 저널리스트 Yulia Dukach가 Euractiv에 말했습니다.
“우리는 중요한 사실을 발견했습니다. 정치적 콘텐츠에 비판적인 태도를 취하면 공무원과 정치인에 대한 강한 불신이 조성된다는 것입니다. 완전한 불신은 개인을 조작에 더 취약하게 만들 수 있지만, 이와 동일한 불신은 딥페이크와 싸우는 데에도 유용합니다.”라고 그녀는 말했습니다.
AI를 통해 러시아가 사용하는 또 다른 주목할만한 전술에는 ‘도플갱어’ 캠페인으로 알려진 겉보기에 권위 있는 이름으로 허위 정보를 전파하기 위해 주류 언론을 대규모로 흉내내는 것이 포함됩니다. 여기에는 또한 봇 팜의 대규모 생성, 검색 엔진에서 허위 정보를 조장하는 일일 사이트 근절, 확인하기 훨씬 더 어려운 가짜 오디오 사용이 포함됩니다.
예를 들어, 2023년 2월과 3월에 러시아 언론은 조셉 바이든 미국 대통령과 미국 국회의원 간의 비공개 회의에서 유출된 것이라고 주장하는 오디오 녹음을 유포했습니다.
백악관 수장은 이번 회담에서 푸틴 대통령을 이길 수 없다는 눈부신 ‘고백’을 한 것으로 알려졌다. 해당 영상은 가짜로 판명됐다. 확인됨 StopFake 사실 확인 담당자가 작성했습니다.
물론 러시아인들은 AI의 이러한 허위 정보 처리 능력에만 국한되지 않고 이러한 노력을 군사 작전과 결합하는 능력에도 국한하지 않습니다.
Mohyla School of Journalism의 AI 윤리 연구원이자 강사인 Oleksandra Iaroshenko는 Euractiv에 러시아인들이 AI를 사용하여 알고리즘을 사용하여 우크라이나인들이 소셜 미디어에 게시한 내용을 학습함으로써 민간 대상에 대한 공격을 최적화하고 있다고 말했습니다.
Yaroshenko는 “알고리즘은 정전 기간을 주의 깊게 모니터링하고 DTEK와 같은 에너지 회사의 통신을 포함하여 텔레그램 채널과 뉴스의 메시지를 분석합니다”라고 말했습니다.
이 시스템의 논리는 이상할 정도로 간단합니다. 사람들이 전력 공급을 받지 못하는 시간이 길어질수록 공격이 더 성공할 것으로 간주된다고 그녀는 말했습니다.
“파괴된 변전소에 대한 모든 보고, 정전에 대한 모든 언급은 이 정보를 사용하여 다음 공격을 계획하는 알고리즘의 데이터가 됩니다.이는 기술이 진보가 아닌 파괴를 제공하는 공포의 악순환을 만들어낸다”고 야로셴코는 덧붙였다.
우크라이나도 이번 전쟁에서 자국을 보호하기 위해 AI를 적극적으로 활용하고 있다. AI는 연구를 수행하고, 가짜를 탐지하고, 선전 노력의 일관성을 평가하는 데 도움이 됩니다. 우크라이나와 러시아의 AI 개입으로 인해 이 분쟁은 ‘제1차 AI 전쟁’으로 명명되기도 했습니다.
그러나 AI의 효과적인 적용이 전쟁 결과에 의미 있는 영향을 미치기까지는 여전히 시간이 걸릴 것입니다.
Romaniuk에 따르면, “AI가 빠르게 성장하고 정보전에서 적극적으로 사용된다는 사실에도 불구하고 AI는 선전 도구 중 하나로 남을 뿐 주요 도구는 아닐 것입니다.”
이 기사는 유럽 미디어 및 정보 기금(EMIF)이 자금을 지원하는 유럽 이웃에 대한 FREIHEIT 미디어 프로젝트의 일부입니다.
(Alexandra Brzozowski/Martina Monti 편집)
