유럽연합은 신뢰성과 윤리적 일치를 보장하기 위해 인공지능을 규제하는 데 상당한 진전을 이루었습니다. 비평가들은 현재의 틀이 사회를 보호하기에는 아직 충분하지 않다고 주장합니다.
유럽 경제 사회 위원회(EESC)는 인공 지능(AI)이 제기하는 몇 가지 주요 위험을 식별하여 보다 포괄적이고 포괄적인 접근 방식의 필요성을 강조하고 인간 감독을 우선시하며 AI 배포에 사회적 파트너를 참여시킵니다.
AI로 인한 위험
EESC는 AI 발전이 제대로 관리되지 않으면 심각한 일자리 손실과 더 큰 불평등으로 이어질 수 있다고 경고합니다. 자동화와 알고리즘에 따른 의사결정은 직업 안정성을 약화시키고 업무 강도를 높이며 근로자의 자율성을 약화시킬 수 있습니다.
이는 특히 AI 시스템이 작업장 감시에 사용되어 경쟁하기 어려운 성과 지표로 직원을 지속적으로 모니터링하는 경우 정신 건강 및 근무 조건을 침식할 수 있습니다.
또한 AI 시스템은 결함이 있는 훈련 데이터나 알고리즘으로 인한 편견으로 인해 특히 고용, 승진, 해고 등에서 차별적 관행을 영속시킬 수 있습니다.
이러한 공정성 부족은 많은 AI 시스템의 불투명성으로 인해 더욱 심화되어 개인이 자신의 직업 생활에 영향을 미치는 결정에 이의를 제기하기 어렵게 만듭니다.
AI의 막대한 에너지 수요는 환경 문제에도 영향을 미치며, 악의적인 공격이나 범죄 활동에 AI가 오용될 가능성은 중요 인프라를 보호하기 위한 강력한 보호 장치의 필요성을 강조합니다.
규제 체제의 상태
AI에 관한 최초의 법적 프레임워크인 유럽연합의 AI법은 AI 애플리케이션을 4가지 위험 수준(허용 불가, 높음, 제한적, 최소)으로 분류합니다. 안전을 보장하고 기본권을 존중하기 위해 고위험 시스템에 엄격한 요구 사항을 부과합니다.
이 법 집행을 담당하는 유럽 AI 사무국(European AI Office)은 회원국과 협력하여 연구를 촉진하고 AI 기술이 윤리 기준을 충족하도록 보장할 것입니다.
GDPR(일반 데이터 보호 규정)과 같은 규정은 어느 정도 보호를 제공하지만 직장에서 AI의 특정 문제를 해결하는 데는 부족합니다. AI법에는 알고리즘 관리 및 사회적 대화에서 근로자의 권리를 보호하는 조항이 부족합니다.
또한 플랫폼 작업 지침은 공연 근로자를 위한 일부 AI 관련 문제를 다루지만 더 광범위한 인력을 다루지 않아 보호에 공백이 남습니다.
사전 구현 프레임워크인 AI Pact는 AI 법의 요구 사항을 자발적으로 준수하도록 권장합니다. EESC는 AI를 포함한 디지털화 영향을 유럽 사회 권리 기둥(2024-2029)에 대한 실행 계획에 통합하는 것과 관련하여 유럽 위원회의 계획을 긍정적으로 봅니다.
유럽의 AI 활용 방식
최근 EESC 의견에서는 AI가 공공 서비스에 점점 더 많이 채택됨에 따라 시민의 기본권 보호가 중요하다고 강조합니다.
AI 의사결정의 투명성과 인간 지휘 원칙 준수는 공공 서비스의 AI가 인간의 입력을 대체하기보다는 보완하도록 보장하는 데 매우 중요합니다.
공공 서비스 고용주는 직원에게 AI 모니터링 시스템에 대해 알려 행정 활동에서 AI의 역할에 대한 신뢰와 이해를 높여야 합니다.
EESC는 기술 발전과 시민 권리 보호의 균형을 맞추는 인간 중심 AI 모델을 지원합니다. 이 모델에는 시민 사회 이해관계자와의 대화가 포함되며, 인력에 대한 AI 요구 사항을 충족하기 위한 포괄적인 교육 및 기술 향상 프로그램이 필요합니다.
공공 서비스에서 처리하는 데이터의 민감한 특성을 고려할 때 EESC는 데이터 침해 및 사이버 공격으로부터 개인 정보를 보호하기 위한 강력한 사이버 보안 조치의 필요성을 강조합니다.
또한 AI가 유럽 가치에 부합하도록 보장하려면 안전한 인프라와 탄력적인 공급망에 대한 투자가 필요합니다. 여기에는 근로자의 권리와 직장 관행을 보호하기 위한 지속적인 이해관계자 대화가 포함됩니다.
EESC는 블록 내 AI 개발에 대한 유럽의 공동 투자를 촉구하면서 당국에 디지털 중독과 소셜 미디어의 오용으로 인한 위험을 해결할 것을 촉구했습니다.
사실 확인 강화, 외국 정보 조작 방지, 언론 매체 간 협력 강화 등 허위 정보에 맞서기 위한 포괄적인 전략을 권고합니다.
마지막으로 EESC는 저널리즘을 공공재로 취급할 것을 제안하고 유럽 및 디지털 미디어 관측소(EDMO)의 강화와 함께 모든 자국어에 걸쳐 사실 정보를 제공하는 유럽 공공 뉴스 채널을 개발할 것을 요구합니다.
(편집자: Brian Maguire | Euractiv의 옹호 연구소)
