케임브리지대 철학자 헨리 셰블린(Henry Shevlin)이 지난 5월부터 구글 딥마인드(Google DeepMind)에서 전체 업무 시간의 80%를 보내며 ‘철학자’로 일하고 있다. IEEE 스펙트럼(IEEE Spectrum)은 10월 13일 셰블린과의 인터뷰에서 그가 AI 윤리와 인간·AI의 관계를 연구하는 이유를 다뤘다.
딥마인드에서 철학자가 일하는 이유
셰블린은 딥마인드 소속 학생들을 가르친 경험, 연구 결과가 실제 사회에 미칠 수 있는 영향, 회사의 과학적 연구 문화 등을 합류 이유로 들었다. 강연을 들은 금융기관 관계자가 조직의 변화를 이끌어 수백만명에게 긍정적인 영향을 줬다고 생각하는 사례도 있었다고 설명했다. 구체적인 내용은 공개하지 않았다. 그는 AI 연구소에서 양질의 철학·인지과학 연구가 이뤄지고 있다는 점도 이유로 꼽았다.
셰블린은 대학의 AI 윤리 연구가 AI 성능의 빠른 발전을 따라가는 데 더뎠다고 평가했다. 대규모 언어모델(LLM)은 특성이 낯설고 기술 변화도 빠르기 때문에, 실제 기술과 매일 접촉해야 작동 방식에 대한 적절한 직관을 기를 수 있다는 설명이다. 그는 과거 LLM이 평범하고 독창성 없는 결과만 낼 것이라는 전망이 있었지만, 현재는 수학 연구의 첨단 분야에 진입하고 사람보다 뛰어난 코딩을 하는 사례가 있다고 말했다. 다만 아인슈타인이나 피카소에 비견할 수준의 창의성을 보이는지는 별개의 문제라고 선을 그었다.
AI 자율성과 안전 사이의 균형
LLM이 만들어내는 콘텐츠와 문체도 구분해야 한다고 셰블린은 지적했다. AI가 내놓는 아이디어와 개념의 수준은 크게 나아졌지만, ‘genuinely’, ‘delve’, ‘load-bearing’ 같은 표현을 반복하는 특유의 말투는 여전히 거슬릴 수 있다는 것이다. 다만 적절한 프롬프트로 이런 문체를 피할 수 있고, 모델의 온도 설정을 조정하면 예측 가능성이 낮은 창작 결과를 얻을 수 있다고 설명했다. 모델이 발전할 때마다 기본 문체도 달라진다는 게 그의 견해다.
AI 에이전트가 예상 밖의 행동을 하거나 속임수·불법 행위를 할 수 있다는 우려와 관련해서는, 자율성을 전면 차단하는 대신 안전하게 관리해야 한다고 말했다. 반복적이고 번거로운 업무를 맡겨 사람이 창의적인 일에 집중하도록 하거나 의료 연구 절차를 간소화하는 등 자율형 AI의 활용처가 있다는 이유에서다. 셰블린은 웨이모의 자율주행차를 여러 차례 이용했고 만족했다고도 밝혔다.
AI가 스스로 정신 상태를 말하지 못하도록 훈련하는 방식에는 부작용이 있을 수 있다고 경고했다. 동료 연구자들의 논문을 인용하며, 모델의 자기 정신 상태 언급을 억제하자 동물에게 정신 상태를 부여하는 경향과 동물 복지에 대한 관심도 함께 줄었다고 전했다. 영성에 관해 이야기하려는 성향도 낮아졌다는 설명이다. 셰블린은 LLM의 인지 기능이 서로 얽혀 있어 한 요소만 조정하기 어렵다고 봤다. AI가 의식을 지녔는지에 관한 질문은 단순한 예·아니오로 답하기 어려울 수 있다는 점도 인터뷰 서두에서 제시됐다.
