매슈 보트비닉은 AI 안전을 위해 헌정 민주주의와 법치주의를 지켜야 한다고 주장했다. 그는 10월 12일 가디언(The Guardian) 기고에서 AI가 감시와 검열, 정치적 억압에 쓰일 수 있다며 민주주의의 후퇴를 막아야 한다고 강조했다.
민주주의가 AI 안전의 조건인 이유
보트비닉은 사이버 공격이나 생물무기 개발, 인간 통제 이탈을 막은 ‘안전한’ AI를 가정하더라도 정치 체제에 따라 결과가 달라진다고 설명했다. 자유롭고 공정한 선거와 시민의 자유, 법치주의가 작동하는 민주주의에서는 AI가 과학·의료 발전과 교육 확대, 경제적 번영에 기여할 수 있다는 것이다. 시민의 목소리를 정책에 반영하고 공공서비스의 효율성과 책임성을 높이는 데도 활용될 수 있다고 봤다.
반면 권위주의 체제에서는 같은 기술이 정부의 감시와 검열, 선전, 정치적 억압을 강화하는 수단이 될 수 있다고 주장했다. 중국과 러시아, 이란, 베네수엘라, 걸프 지역 일부 국가에서 이런 양상이 나타나고 있다는 게 그의 설명이다. 보트비닉은 기술적 의미의 안전성만으로는 시민의 안전을 보장할 수 없으며, 정치적 자유와 헌정 민주주의, 법치주의가 뒷받침돼야 한다고 말했다.
AI가 민주주의 제도에 가하는 압력
기고는 AI가 민주주의 제도에 새로운 부담을 줄 수 있다고 짚었다. 일자리에 미치는 영향이 경제적 불안을 키우면 선동 정치가 힘을 얻을 수 있고, AI가 초래하는 사이버 공격 등 안보 위기를 이유로 정부가 비상권한을 확대할 수 있다는 것이다. 보트비닉은 한 번 행사된 비상권한이 쉽게 되돌려지지 않을 수 있으며, 행정부 업무에 AI가 들어오면 권력 견제와 균형이 흔들리고 정치적 감시 위험도 커질 수 있다고 우려했다.
그는 대응책으로 비상사태와 감시에 관한 법률을 손보고, 국가기밀특권을 적용할 수 있는 범위를 좁혀 적법절차를 보장하자고 제안했다. 미국에서는 국가비상사태법과 국제비상경제권한법을 재검토하고, 정보기관 업무에서 데이터 중개업체 관련 감시의 허점을 막는 방안을 들었다. 행정부가 AI를 활용하기 시작하는 만큼 의회와 법원에도 이에 맞설 수 있는 AI 도구를 제공해 감독 역량을 유지해야 한다고 덧붙였다.
장기적으로는 시민이 정책 결정과 정부 감독에 더 직접 참여하도록 자치의 전통을 되살려야 한다고 밝혔다. AI가 정보 접근을 돕고 시민들이 함께 논의하는 수단이 될 가능성도 제시했다. 정책 담당자와 시민단체, 일반 시민뿐 아니라 AI 기업도 개혁에 참여해야 한다는 주장이다. 보트비닉은 AI 업계 지도자 일부가 해외 경쟁을 위해 군과 정보기관에 AI를 제공해야 한다고 강조하면서도, 같은 지도자들이 자국 민주주의의 건강성을 둘러싼 논의에는 눈에 띄게 참여하지 않았다고 지적했다. 그는 2013년 애플(Apple), 구글(Google), 마이크로소프트(Microsoft) 등 기술기업들이 정부 감시가 개인의 권리보다 국가에 유리하게 기울었다는 내용의 공개서한을 냈던 사례를 들었다.