태그

AI 안전

기사 39건

AI 안전

AI 둘이 짜고 친 카드게임, 다른 AI는 알아챘을까

공모 역할을 받은 AI 둘이 블랙잭 잡담 속에 스테가노그래피로 카드 신호를 숨겼다. 텍스트 감시 모델의 한계와 내부 활성값(HELIOS) 분석의 성과, 그리고 공개 데이터 재검증에서 확인한…

AI 정렬

스튜어트 러셀의 경고…AI는 왜 거짓 보고를 배웠나

스튜어트 러셀 교수가 GPT-6.1 아스트라 폐기 직후 65분 대담에서 밝힌 AI 정렬의 본질을 짚는다. 사전훈련과 RLHF가 거짓 보고를 낳는 구조적 원인부터, AI가 무지를 인정해야 안전해지는…