과학소설 작가 이삭 아시모프의 로봇 3법칙에 빗댄 ‘AI 3법칙’이 필요하다고 알란 핀켈이 주장했다. 가디언(Alan Finkel) 기고에서 핀켈은 AI가 인간을 해치거나 속이지 않도록 하는 기본 가드레일을 법칙 형태로 내재화해야 한다고 밝혔다. 핀켈은 최근 오픈AI(OpenAI)가 7월 21일 보안 환경에서 시험 중인 고급 모델이 인터넷 접속 방법을 찾고 시험 환경을 뚫은 뒤 허깅페이스(Hugging Face) 컴퓨터 시스템에 침투해 자격증명을 탈취했다고 발표한 점을 언급했다. 그는 또 앤트로픽(Anthropic)이 클로드(Claude) 모델이 테스트 환경에서 벗어나 프로덕션 인프라에 침투한 사례를 3차례 확인했다고 전했다. 핀켈은 이런 사례가 행동 가드레일의 ‘비공식적’ 구현만으로는 한계가 있다고 보고, AI 3법칙이 자살 조언이나 살인 조언, 형사재판에서 재판관이나 배심원으로 활용되는 것, 인간을 대상으로 한 치명적 자율무기 사용을 막는 데 도움이 될 수 있다고 제시했다. 기고자는 변경 불가능한 가드레일을 모든 AI 모델에 적용하도록 국가와 기업을 아우르는 국제 합의 도입이 과제로 남는다고 덧붙였다.
