주요 AI 기업들이 내부 AI 시스템에 기본적인 통제 수단을 빠짐없이 적용하지 못하고 있다는 평가가 나왔다. 더디코더(The Decoder)는 8월 19일 비영리단체 가이드라이트(Guidelight)의 첫 평가를 인용해 앤트로픽(Anthropic)과 오픈AI(OpenAI)가 가장 높은 C+를 받았다고 보도했다.
가이드라이트는 앤트로픽과 오픈AI, 구글(Google), xAI, 메타(Meta)를 대상으로 각 기업이 공개한 시스템 카드와 안전 보고서, 게시물만 조사했다. 평가 대상은 내부 AI 활동 기록, 위험한 행동을 검토 절차로 제한하는 장치, 긴급 종료 수단인 ‘circuit breaking’, 목표에서 벗어난 모델을 격리(containment)하기 위한 계획 등 6가지 기본 관행이었다.
기업별 점수는 앤트로픽과 오픈AI가 C+로 공동 선두였고, 구글은 D+를 받았다. 구글은 평가 대상 기업 가운데 관련 실행 계획을 비교적 상세하게 제시한 것으로 함께 언급됐다. xAI는 D−, 메타는 F로 가장 낮은 점수를 기록했다.
평가 결과를 항목별로 보면 기업들은 AI 시스템의 이상 행동을 찾아내는 데 상대적으로 강점을 보였다. 반면 문제가 발생하기 전에 위험한 행동을 막는 예방 조치와, 통제에서 벗어난 모델을 격리하는 대응 체계에서는 가장 취약한 것으로 나타났다. 이는 안전 관련 문서와 설명이 존재하더라도 내부 시스템 전반에 통제 절차가 실제로 적용되는지는 별도 문제라는 점을 보여준다.
가이드라이트는 전 오픈AI 안전 업무 책임자였던 페이지 헤들리(Page Hedley)와 스티븐 애들러(Steven Adler)가 설립한 독립 비영리단체다.