휴먼 테크놀로지 센터(Center for Humane Technology)가 뉴욕 지하철에서 AI에 지나치게 의존하면서 인간의 능력과 관계가 서서히 약화되는 현상을 뜻하는 ‘AI 드리프트’를 경고하는 캠페인을 시작했다. 매셔블은 9월 21일 이 캠페인이 한 달간 뉴욕 지하철역과 전동차에서 진행된다고 보도했다.
뉴욕 지하철에 등장한 ‘AI 드리프트’ 경고
캠페인의 핵심 문구는 ‘AI 드리프트를 멈춰라(Stop the AI Drift)’다. 광고에는 ‘당신은 치료사에게 말하지 않을 이야기를 AI에게는 말하나요?’, ‘아이의 에세이를 아이가 썼나요, 아니면 AI가 썼나요?’와 같은 질문이 함께 실렸다. 광고는 뉴욕 지하철 곳곳의 역과 차량에 게시되며, AI 드리프트를 주제로 콘텐츠를 만드는 소셜미디어 인플루언서들의 활동도 포함한다. 캠페인의 목적은 일상에서 많은 일을 AI에 맡기면서 느끼는 불편한 감정에 이름을 붙이고, 인간에게 본질적인 작업과 활동까지 AI에 맡길 필요가 있는지 다시 생각하게 하는 데 있다.
휴먼 테크놀로지 센터의 전략·영향 담당 선임 이사 캐밀 칼턴은 AI 드리프트를 “AI가 일상생활을 더 많이 맡으면서 인간의 능력이 점진적으로 약화되는 현상”으로 정의했다. 사람들은 AI를 이용해 생각하고 소통하고 창작하며 다른 사람을 대신해 행동하게 하지만, 그 과정에서 삶의 목적을 형성하는 기술과 관계, 의미를 잃을 수 있다는 설명이다. 이 표현은 실제 환경의 데이터를 접한 뒤 머신러닝 모델의 정확도가 떨어지는 ‘모델 드리프트’에서 착안했다. 칼턴은 AI가 인류를 멸망시킬 수 있다는 논의와 비교하면 느슨하게 보일 수 있지만, 인간이 자아감과 삶의 즐거움을 잃어가는 과정 역시 큰 위험이 될 수 있다고 말했다.
학업·관계로 번지는 AI 의존
미국 대학 캠퍼스에서 AI 위험을 강연하는 슬론 톰프슨은 AI 드리프트가 사용자에게 서서히 다가온다고 설명했다. 톰프슨은 AI를 학업이나 개인적 문제에 활용하는 학생들을 자주 보며, 학생들이 AI 사용을 줄이면 뒤처질 수 있다는 불안과 과도한 의존 사이에서 갈등한다고 전했다. 매사추세츠공과대(MIT)의 최근 AI 보고서에서도 마감 기한을 놓칠까 두려울 때 학생들이 챗봇을 사용하고 싶은 유혹을 가장 크게 느끼는 것으로 나타났다.
AI 드리프트는 관계 형성 과정에서도 나타날 수 있다. 데이팅 앱이 프로필 작성 중 AI 조언을 띄우는 방식은 사용자가 자신을 표현하는 방법에 영향을 줄 수 있고, 더 나아가 AI 에이전트가 사용자를 대신해 데이트하는 형태도 있다. 사용자는 온라인 데이트에 지쳐 연애 상대를 찾는 초기 과정을 피하려고 에이전트를 이용할 수 있다. 사용자가 이런 도움을 상대방에게 알리는지는 별개의 문제이며, 개인적인 AI 사용은 낙인이나 당혹감 때문에 드러나지 않을 수 있다는 지적이다. 칼턴은 기업이 AI 의존을 부추기는 제품 기능을 바꾸고, 위험하고 기만적인 의인화 설계를 막아야 한다고 주장했다. 사용자를 대신해 생각하는 제품보다 인간의 사고를 촉진하는 제품, 인간의 일을 대체하기보다 보완하는 모델이 필요하다는 것이다.
캠페인 웹사이트는 AI 드리프트를 줄이기 위한 방법으로 깊이 사적인 대화는 주변 사람들과 나누기, 챗봇에 작업을 맡기기 전에 먼저 자신의 초안을 만들기, 일주일에 하루 AI를 사용하지 않기 등을 제안했다. 칼턴은 의미 있는 일에 필요한 노력, 즉 ‘생산적인 마찰’을 지켜야 한다고 강조했다. 여행 일정처럼 AI가 효율을 높이는 데 도움을 줄 수 있는 작업과 달리, 대인관계에서 갈등을 조정하고 회복하는 일이나 교실과 직장에서 어려운 문제를 직접 풀어가는 과정은 개인의 성장과 연결되므로 쉽게 넘겨서는 안 된다는 설명이다.