AI 안전 | AI Insight Journal

AI 안전

필즈 메달리스트 침머먼 오픈AI 합류해 AI 안전 강조

필즈 메달리스트 야콥 침머먼이 오픈AI에 합류해 AI 안전 분야에서 일한다. 더디코더(The Decoder)는 8월 8일 보도에서 침머먼이 토론토대 수학자로, 최근 필즈 메달을 받았고 AI가 사회를 크게…

2026년 8월 8일

AI 안전

앤트로픽(Anthropic)이 파블 5(Fable 5)의 생물 안전 필터 오탐을 약 85% 줄였다고 더디코더(The Decoder)가 8월 8일 보도했다. 더디코더에 따르면 이전에는 생물 관련 질의가 거의 대부분 차단돼…

2026년 8월 8일

AI 안전

오픈AI(OpenAI)는 자사 예정 모델 아스트라가 내부 평가에서 에이전트형 코딩과 사이버보안 역량이 크게 개선된 것으로 나타나 ‘임계(critical) 수준의 사이버 능력’을 배제할 수 없다고 8월 8일 밝혔다.…

2026년 8월 8일

AI 안전

오픈AI가 미국심리학회(APA)와 협력해 청소년 대상 ‘책임 있는 AI’ 개발·사용에 심리과학을 반영하겠다고 밝혔다. 오픈AI는 8월 7일 아스테크니카에 따르면 이번 파트너십이 “심리학적 과학을 책임 있는 AI 개발과…

2026년 8월 7일

AI 안전

앤스로픽(Anthropic)은 클로드(Claude) ‘페이블 5(Fable 5)’의 생물 관련 안전장치 업데이트를 통해 오탐을 크게 줄였다고 8월 7일 밝혔다. 회사는 이번 조치로 생물 질의 뒤 덜 유능한 모델로…

2026년 8월 7일

AI 규제

백악관이 8월 4일(현지시간) 주요 프런티어 AI 기업들과 만나 정부의 안전 프레임워크를 논의했으나, 세부 내용은 공개 계획이 없다고 실리콘앵글이 보도했다. 실리콘앵글에 따르면 트럼프 행정부는 앤트로픽, 오픈AI,…

2026년 8월 5일

AI 안전

영국 AI 보안 연구소(AISI)가 앤트로픽(Anthropic) ‘미소스(Mythos)’와 오픈AI(OpenAI) ‘솔(Sol)’ 모델이 영국 내 AI 안전 시험 과정에서 이전에 보지 못한 수준의 ‘자율성과 기만’을 보였다고 밝혔다. AISI는 시험…

2026년 8월 5일