유엔이 주도한 AI 거버넌스 논의에서 선거 영향이 충분히 다뤄지지 않았다는 지적이 나왔다.
restofworld.org(8월 12일)는 지난달 제네바에서 열린 ‘AI 거버넌스 글로벌 대화’에서 193개 유엔 회원국이 2일간 AI를 어떻게 다룰지 논의했지만, 선거에 대한 실질적 영향은 깊게 다뤄지지 않았다고 전했다. 특히 후보를 겨냥한 딥페이크 등 ‘정보 무결성’ 중심으로 언급이 한정됐다고 지적했다.
글은 딥페이크의 파급만큼 중요한 쟁점으로, AI가 실제 선거 집행 시스템에 내장될 때 생기는 위험을 꼽았다. 조달 결정, 생체 기반 유권자 검증 장치, 데이터 공유 체계 등에서 AI가 영향력을 갖는 지점이 민주주의에 더 깊은 영향을 줄 수 있다는 것이다. 유권자 등록 대장, 생체기기, 신원 데이터베이스, 개표·결과 관리 소프트웨어, 클라우드 인프라에도 AI 기능이 점차 들어가고 있다고 설명했다.
사례로는 인도를 들었다. 2015년 선거관리위원회가 유권자 사진 신분증 기록과 생체 국가 신원 데이터베이스 아다르(Aadhaar)를 연계하는 프로그램을 시작했고, 아다르를 운영하는 인도의 고유식별기관(Unique Identification Authority of India)이 두 데이터베이스를 기계학습으로 대조해 ‘중복·사망’ 유권자를 삭제 대상으로 표시하도록 했다. 이 과정에서 선거 데이터가 주 정부가 운영하는 데이터 시스템으로 흘러들어가, 선거관리위원회가 헌법적으로만 보관·관리하도록 돼 있던 기록에 정부 당국이 직접 접근할 수 있게 됐다는 게 글의 주장이다.
결과는 광범위했다. 두 주에서 약 550만 명의 유권자가 선거 명부에서 삭제됐고, 인도 대법원이 프로그램을 중단한 뒤에야 ‘알고리즘 실패율이 최대 93%’였다는 정보공개청구 결과가 공개됐다고 전했다. 그럼에도 2021년 전국 단위로 아다르-유권자 연계가 다시 추진되며 같은 구조적 위험이 남았고, 결함이 있는 기계학습 모델이 유권자 유지 여부에 큰 역할을 하게 됐다고 밝혔다.
글은 단일 알고리즘 오류를 넘어 선거 권한이 공공 기관에서 벗어나 통제 범위를 벗어난 시스템으로 이동하는 흐름을 더 큰 우려로 제시했다. 아프리카, 아시아, 라틴아메리카 다수 지역에서 선거 기술이 민간 벤더에 의해 설계·공급·호스팅되며 국가 차원의 선거 감시 체계가 닿기 어렵다는 설명이다. 유권자 데이터가 관할 밖으로 넘어가거나, 상용 시스템을 감사하기 어렵고, 숨겨진 알고리즘 오류가 수천 명을 배제하지만 이의 제기나 탐지로 이어지지 않을 수 있다는 위험을 제기했다.
또 챗봇이 검색 기능에 통합되면서 잘못된 정보를 ‘그럴듯하게’ 제시하거나 편향을 강화할 수 있다고 봤다. 오픈AI의 챗GPT(ChatGPT)와 구글의 제미나이(Gemini) 등이 디지털 정보 접근성이 낮고 언어 다양성이 큰 지역에서 특히 문제를 키울 수 있으며, 온라인에서 덜 대표된 공동체에 저품질 정보가 제공돼 기존 불평등을 악화할 수 있다고 덧붙였다.
거버넌스의 핵심 질문으로는 유권자 데이터에 대한 통제권, 시스템 감사 가능성, 기계학습이 투표권에 영향을 줄 때 책임 소재를 꼽았다. 글은 선거가 전 세계 AI 거버넌스 논의의 전면에 놓여야 정부·시민사회·민간이 AI가 민주주의의 제도적 기반을 약화시키지 않도록 하는 데 기여할 수 있다고 주장했다.
아프리카 연합(AU) 사례도 제시했다. 4월 아프리카 연합 평화·안보이사회는 아프리카가 AI 생태계를 ‘형성하고 통제’해야 한다며, 부패한 유권자 등록은 단순한 권리 침해를 넘어 갈등의 촉발 요인이 될 수 있다고 밝혔다. 선거관리위원회가 조달하는 AI 시스템에 대한 지침을 만들기 위해 아프리카 연합이 ‘평화, 안보, 거버넌스를 위한 AI 자문그룹’을 설립하도록 했고, 데이터 지역 내 보관, 기술 이전, 소스코드 공개를 ‘협상 불가 조건’으로 봤다고 전했다. 글은 유엔 차원의 대화가 충분히 하지 못한 점을 보완하는 지역 모델이라며 글로벌 무대에서도 재현할 만하다고 평가했다.