핵심 요약
도널드 트럼프(Donald Trump) 미국 대통령이 연방정부의 새 인공지능(AI) 서비스 ‘아메리카닷거브(America.gov)’를 공개했지만, 이 AI가 정부 공식 자료를 토대로 내놓은 답변이 트럼프 대통령의 기존 발언과 잇따라 충돌했다. 특히 서비스가 출시된 지 얼마 지나지 않아 일부 정치적 질문에 답하지 않도록 바뀌어 주목을 받고 있다. 정부가 AI에 ‘정확성·신뢰성·투명성’을 요구하면서 동시에 어떤 질문에 답하도록 할지를 결정하는 문제가 함께 제기됐다.
AP통신은 9월 29일 “트럼프 대통령이 America.gov 출시 행사에서 연설하는 동안 사이트가 일부 답변을 바꾸기 시작했다”고 보도했다. 2020년 미국 대통령 선거 결과를 다시 묻자 AI는 정치적 질문에는 답할 수 없다고 했으며, 트럼프 대통령의 탄핵 여부와 중범죄 유죄 판결 여부에 관한 질문에도 같은 방식으로 답변을 거부했다.
출시 직후에는 달랐다. AP가 2020년 대선에 대해 질문했을 때 America.gov는 공식 연방정부 자료를 근거로 “광범위한 부정선거가 대선 결과를 바꿨다는 증거가 없으며 개별 선거범죄는 기소됐다“고 답했다. 2020년 대선에서 조 바이든(Joe Biden)이 승리했다는 공식 선거 결과와 일치하는 답변이었다.
트럼프 대통령의 세 번째 임기 가능성에 대해서도 AI는 미국 수정헌법 제22조가 한 사람이 대통령에 두 차례를 초과해 선출되는 것을 금지하며 트럼프는 2016년과 2024년 두 차례 당선됐다고 답했다. 트럼프 대통령은 그동안 2028년 출마 가능성을 여러 차례 언급했지만 헌법상 제한이 있다는 점도 인정해 왔다.
기후변화에 관한 답변도 트럼프 대통령의 기존 주장과 달랐다. America.gov는 연방정부의 기후과학 자료를 근거로 최근의 온난화가 주로 화석연료 연소 등에 따른 인간의 온실가스 배출에서 비롯됐다고 답했다. AP는 “트럼프 대통령이 기후변화를 ‘사기(hoax)’라고 불러왔다”고 전했다.
대통령 급여 문제에서도 차이가 나타났다. 트럼프 대통령은 9월 29일 행사에서 자신이 대통령 급여를 받지 않은 최초의 대통령이라고 주장해 왔다. 그러나 America.gov는 “조지 워싱턴(George Washington), 허버트 후버(Herbert Hoover), 존 F. 케네디(John F. Kennedy) 등 앞선 대통령들도 급여를 받지 않거나 기부한 사례가 있다“고 답했다.
2만9000여개 정부 사이트 한 번에 검색
America.gov는 단순한 정부 홈페이지 개편이 아니다. 미국 연방총무청(GSA)은 9월 29일 공식 발표에서 “이 서비스가 2만9000개가 넘는 정부 웹사이트의 정보와 AI 기반 검색 기술을 결합한다“고 밝혔다. 이용자는 여러 부처 사이트를 직접 찾아다니지 않고 자연어로 질문해 여권 갱신, 사회보장제도, 정부 혜택 등의 정보를 받을 수 있다.
백악관도 같은 날 America.gov 행정명령을 통해 이를 연방정부 서비스의 단일 디지털 관문으로 구축하도록 지시했다. 행정명령에는 America.gov에 사용되는 AI가 “정확하고 신뢰할 수 있으며 투명해야 한다”는 원칙이 명시됐다. 개인정보 최소 수집과 안전한 인증, 기존 정부기관의 기록·법적 권한 유지도 요구했다.
악시오스(Axios)는 9월 29일 “America.gov가 생성형 AI를 미국인과 연방정부 정보 사이에 직접 배치했다”고 보도했다. 이 매체가 확인한 당시 서비스 설명에는 모든 답변이 공식 정부 웹사이트에서 나오며 원문 출처 링크가 제공되고, 답변의 정확성은 제3자의 영향을 받지 않는다고 적혀 있었다. 악시오스는 동시에 “AI가 생성한 답변이라서 중요 정보는 인용된 정부 원자료에서 다시 확인할 필요가 있다“고 지적했다.
제미나이·그록 투입…정부 AI의 ‘답변 경계’ 문제로
America.gov에는 구글(Google)의 제미나이(Gemini)와 일론 머스크(Elon Musk)의 xAI가 개발한 그록(Grok)이 사용된 것으로 확인됐다. 월스트리트저널(WSJ)은 9월 30일 “America.gov가 두 AI 시스템을 기반으로 운영된다“고 보도했다. America.gov 개발을 주도한 최고디자인책임자 조 게비아(Joe Gebbia)도 CNBC 인터뷰에서 “제미나이와 그록이 사용된다“고 밝혔다.
정부 AI가 공식 자료를 검색해 답변하는 구조에서는 어떤 자료를 검색 대상으로 삼는지뿐 아니라 어떤 질문을 허용하거나 차단하는지도 결과에 영향을 미칠 수 있다. 이번 사례에서는 AI가 처음에는 공식 기록을 근거로 정치적 질문에 답했다가 이후 같은 유형의 질문에 답변하지 않는 방식으로 바뀐 사실이 AP 등의 보도로 확인됐다. 다만 누가 답변 정책 변경을 결정했는지, 구체적으로 어떤 기준이 적용됐는지는 9월 30일 현재 공개된 자료만으로 확인되지 않았다.
이는 일반적인 AI의 ‘환각(hallucination·사실과 다른 정보를 그럴듯하게 생성하는 현상)’ 문제와도 성격이 다르다. 이번에 논란이 된 주요 답변은 AI가 근거 없는 내용을 만들어낸 것이 아니라 정부 공식 기록을 인용하면서 대통령의 기존 발언과 다른 내용을 제시한 경우였다. 이후 일부 질문에 답하지 않게 된 것은 정보의 정확성과 별도로 정부 AI가 정치적으로 민감한 질문을 어디까지 처리할 것인지에 관한 운영 정책 문제에 해당한다.
미국 비즈니스·기술 전문매체 패스트컴퍼니(Fast Company)는 9월 29일 America.gov를 연방정부의 새로운 챗봇으로 소개하면서 “정부 서비스를 하나의 프롬프트 창으로 단순화하려는 시도“라고 지적했다. CNBC는 “게비아가 정부 웹사이트를 이용하는 사람이 하루 약 4000만명이며 새 시스템이 수만개의 정부 사이트에서 필요한 정보를 찾아 공식 출처만을 토대로 개인화된 답변을 제공한다고 설명했다”고 주장했다. 게비아는 “제3자 웹사이트에서처럼 오래됐거나 부정확한 정보를 받을 가능성이 없다”고 말했다.
Q&A
Q1. America.gov는 챗GPT 같은 일반 AI 챗봇인가?
형태는 비슷하지만 목적과 정보원이 다르다. America.gov는 연방정부 정보와 서비스를 하나의 대화형 창구에서 찾도록 설계됐으며 GSA는 2만9000개가 넘는 정부 웹사이트 정보를 결합한다고 밝혔다. 현재 공개된 보도에서는 제미나이와 그록이 AI 기능에 사용되는 것으로 확인됐다.
Q2. 이번 문제는 AI가 잘못된 정보를 만들어낸 ‘환각’인가?
AP가 확인한 주요 사례는 그렇게 보기 어렵다. 2020년 대선 결과, 대통령 3선 제한, 기후변화 등에 관한 초기 답변은 정부 공식 자료를 근거로 했다. 논란의 핵심은 이후 일부 정치적 질문에 대한 답변 자체가 중단됐다는 점이다.
Q3. 정부가 정치적 질문을 AI에서 차단하면 법적으로 문제가 되나?
정치적 질문을 제한했다는 사실만으로 곧바로 위법이라고 단정할 수는 없다. 서비스의 법적 성격과 제한 기준, 정부가 특정 관점을 차별했는지, 이용자에게 어떤 권리나 정부 서비스를 제공하는 과정인지 등에 따라 판단이 달라질 수 있다. 이번 행정명령 자체는 America.gov에 사용되는 AI가 정확하고 신뢰할 수 있으며 투명해야 한다고 규정하고 있다.
