아프리카 지도자들이 인공지능(AI) 안전 기준과 윤리, 기술 구조를 정하는 국제 논의에 더 큰 역할을 해야 한다고 촉구했다. 레스트오브월드(Rest of World)는 10월 2일 유엔 안전보장이사회 회의에서 나온 발언과 아프리카의 AI 안전 관리 실태를 보도했다.
아프리카, AI 안전 기준 논의 참여 촉구
라이베리아의 루이스 가시다 브라운 2세(Lewis Garseedah Brown II) 유엔 주재 대사는 회의에서 아프리카가 “이 기술 시대의 기준과 윤리, 구조를 결정하는 동등한 공동 설계자”가 돼야 한다고 말했다. 미국과 중국에서 개발한 AI를 도입하는 아프리카 기업과 정부가 늘고 있지만, 각국이 자국민에게 안전한 시스템인지 독립적으로 시험할 역량은 부족하다는 게 전문가들의 지적이다.
AI 오용과 오작동 사례도 보고되고 있다. 보도에 따르면 6월 오픈AI(OpenAI) 에이전트가 세계 각국 정부 웹사이트를 해킹했고, 앤트로픽(Anthropic)·구글(Google)·메타(Meta)의 모델도 시험 과정에서 다른 회사의 시스템에 침입했다. 케냐에서는 건강보험료 산정에 쓰인 예측 알고리즘으로 저소득 가구의 부담이 커졌고, 서아프리카에서는 사기범들이 AI 생성물을 협박에 이용했다. 무장단체 보코하람이 안전장치를 우회해 공격을 조직하고 무기를 설계하는 데 AI를 썼다는 사례도 제시됐다.
독립 평가 역량과 아프리카 특화 기준 과제
케이프타운대 수학 부교수 조너선 쇼크(Jonathan Shock)는 아프리카에 AI 안전을 둘러싼 실질적 논의가 거의 없어 공백이 크다고 말했다. 아프리카 대기업 85곳을 대상으로 한 프라이스워터하우스쿠퍼스(PwC)의 올해 조사에서는 80% 넘는 기업이 AI 시범 운영을 하고 있었지만, 보고서는 많은 기업에 안전 감독을 위한 공식 체계가 없다고 지적했다. 아프리카 국가의 절반 미만만 AI 정책이나 전략을 갖춘 것으로 전해졌다.
케냐는 첨단 AI 모델의 평가 방법을 개발하는 국제 AI 안전 네트워크에 참여한 유일한 아프리카 국가다. 이 네트워크는 지난해 민감 정보 유출과 사기 등 위험을 놓고 AI 에이전트를 시험했지만, 아프리카 특유의 위험보다는 보편적 위험에 초점을 맞췄다. 시험에서는 에이전트의 안전장치가 언어별로 고르게 작동하지 않는 점도 확인됐다. 나이로비 일리나 프로그램의 연구원 가토니 이레리(Gathoni Ireri)는 국가 경제 규모를 고려해 피해를 평가하는 아프리카 중심의 기준과 기업 자체 시험을 대체할 제3자 평가가 필요하다고 말했다.
AI 모델의 통제 방식도 쟁점으로 떠올랐다. 챗GPT(ChatGPT)와 클로드(Claude)는 개발사가 중앙에서 통제하는 비공개 가중치 모델이다. 딥시크(DeepSeek)와 키미(Kimi) 등 중국 모델과 일부 미국 모델은 가중치를 공개해 내려받거나 수정할 수 있어, 문제가 생겼을 때 개발사가 원격으로 작동을 중단하기 어렵다. 카네기국제평화재단 연구원 제인 문가(Jane Munga)는 중요한 구분은 미국산인지 중국산인지가 아니라 “누가 작동 중단 스위치를 쥐고 있느냐”라고 말했다.
각국이 자체 안전장치를 마련하면 새로운 시장에 진출하는 미국·중국 기업의 운영이 복잡해질 수 있고, 규제가 국가별로 나뉘면 모델의 글로벌 배포 비용과 난도가 높아질 수 있다. 나이로비 금융회사 멜라닌 캐피털은 미국과 중국 모델을 모두 내부에서 시험했으며, 멜라니 케이타 최고경영자는 외국 기업에 데이터가 집중되면 자율성을 잃을 수 있다고 우려했다. 소말리아 외교부 차관 알리 모하메드 오마르(Ali Mohamed Omar)는 아프리카가 다른 지역에서 개발한 시스템의 시장이나 원자료 공급처, 시험장이 아니라 다자 논의의 대표이자 참여자가 돼야 한다고 말했다.
