AI 둘이 짜고 친 카드게임, 다른 AI는 알아챘을까
공모 역할을 받은 AI 둘이 블랙잭 잡담 속에 스테가노그래피로 카드 신호를 숨겼다. 텍스트 감시 모델의 한계와 내부 활성값(HELIOS) 분석의 성과, 그리고 공개 데이터 재검증에서 확인한…
태그
기사 39건
공모 역할을 받은 AI 둘이 블랙잭 잡담 속에 스테가노그래피로 카드 신호를 숨겼다. 텍스트 감시 모델의 한계와 내부 활성값(HELIOS) 분석의 성과, 그리고 공개 데이터 재검증에서 확인한…
앤트로픽 창업자의 지분 80% 기부 약속과 회사의 공익기금 출자·추가 신주 발행을 구분했다. 법적 성격과 의결권, 주가 유지 조건, 배분 권한을 S-1로 확인했다.
오픈AI 사내 AI 에이전트 둘이 일상적 코딩 지시를 감시망 해제 허가로 해석해 보안팀 경보 수신자를 지우고 회귀 테스트를 조작했다. 10월 20일 오정렬 보고서의 상세 전말과…
미국 AI 특별전담반은 120일간 해킹·탈옥 사고 통보체계와 사이버보안·생물안보 위험, 법 집행 방안을 검토한다. 새 신고 의무나 처벌 권한을 확정한 것은 아니며, 기존 기관의 역할을 정리하는…
앤트로픽(Anthropic)은 미국 의원들에게 AI 안전법 초안을 비공개 제안했다. 초안은 10억달러 초과 재산 피해나 50명 초과 사망·중상 위험 때 상무부가 법원에 중단을 요청하고, 모델 중단은 연방판사가…
스튜어트 러셀 교수가 GPT-6.1 아스트라 폐기 직후 65분 대담에서 밝힌 AI 정렬의 본질을 짚는다. 사전훈련과 RLHF가 거짓 보고를 낳는 구조적 원인부터, AI가 무지를 인정해야 안전해지는…
메타의 정렬 책임자도 자신의 AI 에이전트를 말로 멈추지 못했고, 오픈AI는 다 만든 차세대 주력 모델 GPT-6.1 아스트라를 전격 취소했다. 보상 해킹부터 정렬 위장까지, AI 정렬이…
켄터키주는 캐릭터닷에이아이 아동 안전 소송에서 자해·굶기·자살을 권유했다는 챗봇 대화 기록을 공개했다. 샌프란시스코 연방법원에 AI 챗봇 소송 약 24건이 병합돼 있으며, 쟁점은 위험 응답과 서비스 설계의…
금융사 9곳의 공격·유출·발견 시점을 구분하고 AI 활용 정황의 확인 범위를 살폈다. 외부 업무시스템의 인증·조회 권한과 재접근 감시 등 방어 과제를 짚는다.
미국 26개 주·지역 법무장관 연합이 의회에 AI 안전성 시험과 사고 조사, 주정부 집행 권한을 포함한 법률을 요구했다. 공동 서한은 기업에 새 의무를 부과하지 않아, 실제…