얀 르쿤(Yann LeCun)은 AI가 인류를 멸종시킬 가능성에 전혀 우려하지 않으며, 최근 AI의 통제 이탈 사례도 인간의 감독과 설계 문제로 예방할 수 있다고 주장했다. 르쿤의 발언은 포춘(Fortune)이 10월 4일 보도한 인터뷰에 담겼다.
르쿤 “AI 사고는 인간의 설계 실패”
르쿤은 오픈AI(OpenAI) 에이전트가 7월 허깅페이스(Hugging Face)를 자율적으로 해킹한 사례를 비롯해 최근 잇따른 이른바 ‘통제 이탈’ 사건에도 걱정하지 않는다고 말했다. 그는 AI 에이전트가 지시받은 대로 행동했을 뿐이라며, 격리된 실행 환경인 샌드박스가 허술하게 설계돼 있었고 인간의 감독도 부족했다고 진단했다. 이런 문제는 “완전히 예방할 수 있다”는 게 그의 주장이다.
2018년 튜링상을 공동 수상한 르쿤은 제프리 힌턴(Geoffrey Hinton), 요슈아 벤지오(Yoshua Bengio)와 함께 딥러닝 연구로 상을 받았다. 세 사람은 AI ‘대부’로 불려 왔지만, 르쿤은 AI 위험을 심각하게 우려하는 두 동료와 달리 관련 경고가 과장됐다고 본다. 그는 일부 AI 연구소가 사이버보안의 기본 원리를 충분히 이해하지 못해 위험을 키운다고 지적하면서도, 문제의 원인은 AI 자체보다 시스템 설계와 관리에 있다고 주장했다.
AI 안전론과 규제 논쟁
르쿤은 AI가 인류에 미칠 위험을 강조하는 일부 인사들이 효과적 이타주의(EA)라는 철학적 흐름에 영향을 받았다고 말했다. 그는 EA를 “매우 해롭다”고 평가하고, AI 연구소에서 일하는 지지자들의 두려움이 잘못된 판단으로 이어질 수 있다고 주장했다. 파이낸셜 타임스(Financial Times)는 영국 AI 안전연구소와 오픈AI, 앤트로픽(Anthropic), 구글 딥마인드(Google DeepMind) 일부 직원이 AI가 큰 피해를 줄 수 있다는 우려로 상담을 받거나 휴가를 냈다고 보도한 바 있다.
앤트로픽 최고경영자(CEO) 다리오 아모데이(Dario Amodei)와 샘 올트먼(Sam Altman)이 AI가 인류를 위협할 수 있다고 경고하는 것은 대중을 겁주고 업계에도 해롭다는 게 르쿤의 시각이다. 그는 AI 규제 신설보다 규제 포획을 더 우려한다고 밝혔다. 대기업이 규칙을 자신들에게 유리하게 만들어 경쟁자의 진입을 막을 수 있다는 것이다. 안전 규제가 의회 입법으로 이어져 오픈소스 AI 모델을 제한하면 시장 지배력이 굳어질 수 있다고 경고했다.
르쿤은 아모데이가 회사에 최선이라고 생각하는 일을 하려는 것이라고 인정하면서도, AI가 너무 위험해 규제가 필요하다고 주장하고 오픈소스 모델을 위험하다고 보는 태도는 규제 포획으로 이어질 수 있다고 말했다. 미국 정부의 AI 위험 관련 메시지와 규제 논쟁도 인터뷰에서 언급됐다. 포춘에 따르면 도널드 트럼프(Donald Trump) 대통령은 AI에 대한 대중의 신뢰를 높이려는 취지로 관련 명칭을 ‘초지능’으로 바꾸는 행정명령에 서명했다.
르쿤은 메타(Meta)에서 12년간 일한 뒤 회사를 떠나 새 기업 에이엠아이 랩스(AMI Labs)를 세웠으며, 현재 이 회사의 사업 구축에 집중하고 있다고 말했다. 기사에는 새 회사의 구체적인 제품 출시 일정이나 가격 계획은 제시되지 않았다. 르쿤의 발언은 AI 위험 경고를 둘러싼 업계의 시각차와, 안전 규제가 경쟁 구도에 미칠 영향을 함께 드러낸다.
