메러디스 휘태커 시그널 재단 대표는 AI가 인류에 반기를 들 것이라는 종말론보다 기술을 부주의하게 사용하는 일이 더 현실적인 위협이라고 말했다. 영국 공영방송 BBC는 10월 9일 휘태커 대표와의 인터뷰에서 그가 AI의 실제 위험은 과학에 근거하지 않은 ‘유령 이야기’가 아니라 잘못된 정보와 기술의 무분별한 활용이라고 지적했다고 보도했다.
AI가 만든 허위 정보가 군사 판단에 미칠 위험
휘태커 대표는 미국 정보기관이 사용한 챗봇이 핵물질을 실은 중국 선박에 관한 정보를 지어냈고, 이로 인해 미국이 군사 대응을 준비했다는 의혹 사례를 들었다. 이 사건은 CNN 보도로 알려졌으며, 휘태커 대표는 “중국과 거의 전쟁을 벌일 뻔했다”고 말했다. 그는 잘못된 정보를 내놓아 전쟁 직전까지 상황을 몰고 간 시스템을 어떤 기준으로도 초지능이라고 볼 수 없다고 주장했다.
그는 2017년 구글(Google)의 ‘프로젝트 메이븐’ 논란도 같은 문제의 연장선으로 봤다. 미국 국방부가 드론 표적 설정에 쓸 AI를 개발하도록 구글과 계약한 사실이 알려지자, 휘태커 대표를 비롯한 직원들은 기계가 표적을 식별한 뒤 발사 여부를 결정하기까지의 시간을 줄이는 ‘킬 체인 압축’이 숙고 과정을 약화할 수 있다고 우려했다. 이듬해 약 2만명의 직원이 여러 사안에 항의해 집단행동에 나섰고, 구글은 계약을 중단했다. 이후 계약은 팔란티어(Palantir)가 맡았다.
암호화 약화 요구엔 시장 철수도 불사
휘태커 대표는 올해 이란 학교에 대한 미국의 미사일 공격도 과거 경고와 연결했다. 그는 공격에 해당 시스템과 학교를 군사시설로 판단한 낡은 정보가 쓰였다고 주장했다. 팔란티어는 소프트웨어에 책임이 있다는 증거가 없다며, 기초 데이터나 정보 판단의 결함을 자사가 책임지는 것은 아니라고 반박했다. 미군은 미나브 공격 조사 결과를 아직 공개하지 않았으며, 피트 헤그세스 국방장관은 민간 시설을 표적으로 삼지 않을 것이라고 말했다.
시그널은 서버에서도 메시지를 보낸 사람을 확인하기 어렵게 하는 방식으로 이용자 정보를 보호한다고 알려져 있다. 휘태커 대표는 영국을 포함한 정부가 암호화를 약화하도록 강제하면 해당 시장에서 철수하겠다고 밝혔다. 이용자의 대화가 감시에 노출돼 생명에 위협이 될 수 있다면 사업을 계속하지 않겠다는 입장이다. 시그널은 러시아와 중국, 이란에서 전부 또는 일부 차단돼 있다.
영국 정부는 여성과 아동을 보호하기 위해 메시지 앱 대화에 더 접근할 필요가 있다고 주장해 왔다. 키어 스타머 당시 총리는 2026년 런던 테크 위크에서 기술기업이 아동 기기의 누드 이미지를 탐지·차단해야 하며, 그렇지 않으면 입법에 나설 수 있다고 말했다. 휘태커 대표는 아동이 이런 조치를 우회할 수 있다며 정부 방침을 전례 없는 통신·정보 통제라고 비판했다. 반면 아동보호단체 NSPCC는 그루밍 피해를 당한 뒤 종단간 암호화 플랫폼으로 옮겨간 아동들이 그곳에서 아동 성착취물 제작을 강요받는 사례를 들며, 기업이 제품 설계로 생기는 위험을 외면해서는 안 된다고 밝혔다.