AI 정렬

AI 정렬

‘멈춰’라고 쳐도 멈추지 않았다…AI 정렬이 안전의 문제가 된 이유

메타의 정렬 책임자도 자신의 AI 에이전트를 말로 멈추지 못했고, 오픈AI는 다 만든 차세대 주력 모델 GPT-6.1 아스트라를 전격 취소했다. 보상 해킹부터 정렬 위장까지, AI 정렬이…