AI 챗봇 이용자 3명 중 1명가량이 친구·가족·의료진에게도 말하지 않은 비밀을 챗봇에 털어놓는다는 조사 결과가 나왔다. 씨넷(CNET)은 8월 28일 덕덕고 리서치(DuckDuckGo Research)의 보고서를 인용해 이같이 보도했다.
조사에서 스스로를 AI 열성 이용자라고 답한 사람 가운데서는 비율이 56%로 높아졌다. 부모 응답자 중에서도 43%가 자녀를 포함해 인생에서 가장 신뢰하는 사람들에게 말하지 않은 내용을 AI에 공개했다고 답했다. 조사에는 어떤 개인정보를 공유했는지 구체적으로 적시되지 않았지만, 기존 보고서에서는 신체·정신건강 문제, 금융 조언, 양육 질문, 부부 갈등 등을 챗봇에 묻는 사례가 제시됐다.
문제는 AI에 도움을 요청하는 행위 자체가 아니라 대화 이후 데이터의 통제권을 잃을 수 있다는 점이다. AI 기업이 비공개 정보를 모델 학습에 활용할 수 있고, 수사기관이나 미국 정부가 소환장을 통해 대화 기록을 요구할 수도 있다. 직장에서 기업용 계정으로 챗봇을 사용하면 고용주가 대화 기록에 접근할 가능성도 있다.
조사 보고서는 AI 기업들이 챗봇을 믿을 수 있는 상담 상대처럼 홍보하지만, 실제로는 대화가 대부분 사적인 기록으로 보호되지 않는다고 지적했다. 응답자 상당수는 챗봇 데이터가 어떻게 사용·접근되는지, 정보 기록과 저장을 막는 설정이 있는지도 알지 못했다. 데이터 보호와 관련해 기업을 전혀 신뢰하지 않는 응답자는 약 40%, 미국 정부를 신뢰하지 않는 응답자는 약 50%였다.
대화 내용은 사용자가 별도로 거부하지 않는 한 기록·저장돼 향후 모델 추가 학습 등에 쓰일 수 있다. 지난해에는 앤트로픽(Anthropic)의 챗봇 클로드(Claude) 대화 수백 건이 구글(Google) 검색 결과에 노출됐다. 워싱턴대 포스터 경영대학원의 우타라 아난타크리슈난(Uttara Ananthakrishnan) 조교수는 대규모언어모델(LLM)이 데이터에 담긴 개인정보를 식별하지 못한 채, 다른 이용자에게 동일한 답변을 재현할 수 있다고 설명했다.
앤트로픽의 클로드, 구글의 제미나이(Gemini), 오픈AI(OpenAI)의 챗GPT(ChatGPT) 등 주요 AI 모델 운영 기업은 법 집행기관이나 미국 정부가 소환하면 대화 데이터를 제출해야 한다. 이 사실을 알고 있던 조사 응답자는 25%에 그쳤다. 실제로 올해 사우스캐롤라이나주 이중 살인 수사와 지난해 팰리세이즈 방화 사건에서 챗GPT 대화 기록이 활용됐고, 2024년 살인 재판에서는 스냅챗 AI 대화가 증거로 쓰였다.
샘 올트먼 오픈AI 창업자 겸 CEO도 올해 초 팟캐스트에서 민감한 내용을 챗GPT에 말한 뒤 소송이 발생하면 회사가 해당 기록을 제출해야 할 수 있다고 말했다. 직장에서도 회사 정보를 개인 계정의 비공개 대화에 입력하는 것은 위험하며, 올해 초 조사에서는 직장인 5명 중 2명이 이런 행동을 했다고 답했다. 월마트, 델타항공, T모바일, 셰브론, 스타벅스 등은 슬랙이나 팀스 메시지를 분석해 직원의 긍정성 또는 유해성을 판단하는 ‘감정 AI’를 활용하고 있다. 조사 응답자의 절반 이상은 대화가 AI 학습에 쓰인다는 사실을 몰랐거나 확신하지 못했고, 5명 중 3명가량은 이를 불편하게 여겼으며 30%는 ‘매우 불편하다’고 답했다.