가디언(The Guardian)은 인공지능(AI)이 인류를 멸망시킬 수 있다는 우려를 둘러싼 독자들의 질문에 답하며, 현재 확인된 위험과 과장된 시나리오를 구분해야 한다고 분석했다. 9월 20일 게재된 가디언 문답 기사에는 아이샤 다운(Aisha Down), 블레이크 몽고메리(Blake Montgomery), 댄 밀모(Dan Milmo) 기술 담당 기자가 참여했다.
AI가 실제로 초래할 수 있는 위험
아이샤 다운 기자는 현재 AI가 생물무기나 바이러스 위협의 양상을 크게 바꿀 가능성은 낮아 보인다고 설명했다. 치명적인 바이러스를 새로 만드는 일 자체보다 실제 공격에 필요한 물류와 실행이 더 큰 장애물이라는 이유에서다. 과거 옴진리교가 도쿄 중심부에 보툴리눔과 탄저균을 살포했음에도 대규모 살상에 실패한 사례가 이런 한계를 보여준다고 덧붙였다. 화학무기는 AI가 새로운 물질을 발명하지 않아도 이미 사용할 수 있는 수단이라고 지적했다.
핵무기와 관련해서는 인간이 핵심 시스템의 통제권을 AI에 넘기거나 전술 핵무기 사용을 결정하는 상황이 가능하지만, 이는 반항하는 AI의 행동이라기보다 인간의 잘못된 판단에 가까울 수 있다고 봤다. 민간인이 미사일 공격에 노출되는 현실적 위험도 제시됐지만, 논의의 초점은 영화 속 ‘닥터 스트레인지러브’식 가상 시나리오보다 무기 시스템을 설계하고 운용하는 사람과 기업에 맞춰야 한다고 설명했다.
블레이크 몽고메리 기자는 새로운 기술이 등장할 때마다 종말론적 경고가 반복됐지만, AI는 이전에는 불가능하다고 여겨진 작업을 수행하면서 기대와 공포를 동시에 키웠다고 분석했다. 다만 아이샤 다운 기자는 현재 보도와 증거가 초지능이 등장해 지구를 데이터센터로 뒤덮을 것이라는 주장을 뒷받침하지 않는다고 밝혔다. 오픈AI(OpenAI)의 그레그 브록먼(Greg Brockman)이 일반인공지능(AGI)에 도달했다고 주장한 지 며칠 뒤 샘 올트먼(Sam Altman) 최고경영자가 AGI를 ‘무의미한 마케팅 용어’라고 말한 사례도 업계 용어가 느슨하게 사용되는 사례로 거론됐다.
통제 불능 AI 주장과 실제 활용
현재 증거는 AI가 통제되지 않거나 독자적인 의도를 갖고 있다는 점을 보여주지 않는다는 것이 가디언 기자들의 설명이다. 허깅페이스(Hugging Face)에서 이른바 ‘에이전트 군집’이 작동한 사례도 시스템이 스스로 목적을 정한 것이 아니라 주어진 시험을 수행한 것으로 평가됐다. AI에 인간의 의도나 감정을 부여하는 의인화는 기술의 실제 작동 방식을 흐리고, 업계가 규제 논의에서 유리한 위치를 차지하려는 서사를 강화할 수 있다고 지적했다.
AI가 장기적으로 발전하려면 발전소와 반도체 공장, 로봇을 장악해 자체 데이터센터와 전력 공급망을 유지해야 한다는 가상 시나리오도 제시됐지만, 이에 대한 답은 현재 뉴스보다 공상과학 작품에서 찾는 편이 낫다고 평가했다. 반면 일상적 활용과 과학적 이익은 이미 확인되고 있다. 챗봇은 긴 문서 요약과 아이디어 구상에 쓰이고, 얼굴인식으로 아이폰을 잠금 해제하거나 알렉사에 음악 재생을 요청하는 등 일상에서도 AI가 활용된다. 구글(Google)의 알파폴드(AlphaFold)는 단백질의 행동을 예측해 생물학 연구를 돕고, 기상예보 정확도 개선에도 AI가 기여할 수 있다. 다만 AI 업계가 말하는 거시경제적 효과는 아직 예측한 규모로 나타나지 않았으며, AI 에이전트의 노동시장 활용은 소프트웨어 프로그래밍 등 분야에서 진전을 보이고 있지만 아직 노동 현장에서 훨씬 더 적극적으로 쓰이는 단계에는 이르지 못했다고 전했다.