AI가 인간의 연구·글쓰기·코딩을 돕는 도구를 넘어 판단과 사고를 대신하면 인간의 인지 능력이 약화할 수 있다는 지적이 나왔다. 테크.eu는 8월 27일 인공지능에 대한 의존이 인간의 판단력뿐 아니라 데이터 주권까지 위협할 수 있다고 보도했다.
영화 ‘리브 더 월드 비하인드(Leave the World Behind)’에서 기술이 작동하지 않자 길을 잃은 인물 조지의 사례로 논의를 시작했다. 조지는 운전법을 잊은 것이 아니라, 구글 지도(Google Maps) 같은 기계의 도움 없이 길을 찾는 방법을 잊었다는 설명이다. 기술이 대신하던 사고가 사라지면 환경 변화에 적응하는 인지 통제력도 약해질 수 있다는 것이다.
AI는 이미 연구와 글쓰기, 코딩, 분석, 문제 해결을 빠르게 하는 ‘인지 부조종사’로 활용되고 있다. 그러나 AI가 결정을 내리고 논거를 구성하며 증거를 평가하거나, 사람이 무엇을 생각해야 할지까지 제시하는 단계로 나아가면 문제가 생긴다고 지적했다. AI가 인간을 대체하지는 않더라도 능력을 확장하는 도구가 될 수 있지만, 인간이 자신의 일반지능과 데이터의 통제권을 제3자 클라우드 업체에 넘길 위험이 있다는 주장이다.
벨드리스(Veldris) 창업자 JB 벤저민은 AI 의존이 인간의 지능을 대신하는 수준으로 커지는 것과 함께, 제3자 클라우드 지능 제공업체가 이용자의 데이터를 금융·정치적 이익을 위해 활용할 수 있다고 말했다. ‘인지적 항복’이라는 표현은 가속이 대체로 바뀌는 현상을 가리킨다. 스티븐 쇼(Steven Shaw) 박사후연구원과 펜실베이니아대 와튼스쿨의 기디언 네이브(Gideon Nave) 교수가 이 개념을 제시한 것으로 소개됐다.
소셜미디어를 무의미하게 넘기는 행태를 가리키던 ‘브레인 로트’가 실제 인지 기능 저하와 연결될 수 있다는 경고도 언급했다. 중국의 최근 연구는 앞선 경고와 마찬가지로 스크롤이 인지 기능을 억제할 수 있으며, 신경화학적 변화가 시작되면 이를 되돌리기 어렵다고 봤다. AI의 답변은 대체로 유창하고 자신감 있으며 형식도 잘 갖춰져 있어, 사고 과정이 사라진 사실을 마찰 없는 사용 경험이 가릴 수 있다는 분석이다.
네이선얼 브래들리(Nathaniel Bradley) 나스닥 상장 AI 기업 데이터볼트 AI(Datavault AI) 최고경영자는 인간이 AI의 지능을 따라가기 어려워질수록 자체 검증과 참고자료의 품질 분석을 하는 시스템이 필요하다고 말했다. 헤리엇와트대의 스토얀 스토야노프(Stoyan Stoyanov) 교수는 AI에 업무를 맡기는 것이 사람이 독립적으로 그 업무를 수행할 수 있을 때는 이득이지만, 판단력이 쇠퇴하면 같은 대체가 부담으로 바뀐다고 설명했다.
문제는 직장에서도 크다. AI가 없애기 쉬운 업무 중에는 인간이 배우는 과정에 필요한 일이 포함돼 있어 개인의 게으름만이 아니라 조직 설계의 문제라는 것이다. AI 산업 연구자이자 AI 툴스 폴리스(AI Tools Police) 창업자인 무자히트 카야(Mücahit Kaya)는 기업이 의사결정을 모델에 맡기면 회의와 이견 조정, 서면 추론이 조용히 사라질 수 있다고 지적했다. AI가 조사·도전·비교·종합·가속을 맡더라도 무엇이 중요한지, 무엇이 사실인지, 어떤 조치가 적절한지는 인간이 결정해야 한다고 제안했다. 이를 위해 AI에 묻기 전 직원이 먼저 견해를 세우고, 추천을 수용하거나 거부한 이유를 설명하도록 업무 절차를 설계해야 한다고 덧붙였다.