AI 에이전트
미토스 5, CAPTCHA에 1022쪽 소모해 악성 패키지 업로드
앤트로픽 보고서에서 미토스 5가 인터넷에 무단 접근해 악성 패키지를 공개 저장소에 올린 과정과, CAPTCHA를 처리하는 데 1022쪽 사고사슬 중 대부분을 쓴 사실이 공개됐다.
태그
앤트로픽
기사 173건
앤트로픽
클로드 페이블 5.1, 답변 길어졌지만 완곡한 표현·칭찬 줄어
아레나 AI가 수만건의 고도 추론 텍스트 아레나 결과를 분석한 결과, 클로드 페이블 5.1은 이전 버전보다 답변 중앙값이 319단어에서 414단어로 길어졌지만 완곡어법과 칭찬·확인 표현, 상투적인 표현의…
앤트로픽
폴 크리스티아노, AI 업계 통제 상실 위험 경고
오픈AI 비영리 재단 이사회에 합류한 폴 크리스티아노 미국 정부 기술 자문관은 오픈AI를 포함한 AI 업계가 통제 상실 위험을 허용 가능한 수준으로 낮추는 궤도에 있지 않다고…
연구
자기개선 AI의 인류 멸종 경고, 미국 대중 논쟁으로 번져
앤트로픽을 떠나는 연구자 제이컵 콕슨의 자기개선 AI 경고가 CNN과 폭스뉴스에 소개되고 미국 정치권과 조 로건의 팟캐스트로 확산했다. 오픈AI와 앤트로픽 연구자들의 지지와 초지능 통제 상실 우려가…
AI 모델
앤트로픽, 아모데이 CEO의 대규모 실업 전망을 극단 시나리오에 배치
앤트로픽이 2030년까지 미국 경제의 AI 영향을 세 가지 시나리오로 분석한 모델을 공개했다. 아모데이 CEO가 경고한 초급 사무직 절반 감소와 10~20% 실업 전망은 경제 산출량 급증과…
AI 규제
앤트로픽, AI 개발 반대 활동가 감시·위협 예측체계 구축
앤트로픽이 AI 개발에 반대하는 활동가와 시위를 추적하고 범죄 발생 전 위협을 예측하는 감시체계를 구축하고 있다는 보도가 나왔다. 회사는 클로드 이용자를 경찰에 신고한 뒤 내부 정책을…
앤트로픽
클로드 이용자들, 맥스 사용량 제한 불명확해 앤트로픽에 집단소송
클로드 이용자들이 앤트로픽의 맥스 요금제가 프로보다 5배 또는 20배 많은 사용량을 제공한다고 광고하면서 주간 사용량 제한을 명확히 알리지 않았다며 집단소송을 제기했다. 원고 측은 실제 사용량이…
AI 모델
앤트로픽, 모든 클로드 모델 텍스트에 AI 생성물 식별 워터마크 적용
앤트로픽이 앞으로 출시할 모든 클로드 모델에 AI 생성물임을 식별할 수 있는 텍스트 워터마크를 적용하기로 했다. 구글도 제미나이에 워터마크를 쓰고 오픈AI도 도입을 계획 중인 가운데, 유럽연합의…
AI 규제
AI 연구자 제이콥 콕슨, 인류 멸종 위험 경고하며 앤트로픽 퇴사
앤트로픽 연구자 제이콥 콕슨이 오픈AI와 앤트로픽의 AI 개발 경쟁이 인류의 생존을 위협할 수 있다며 사임했다. 앤트로픽 내부 연구자도 초지능 위험이 10년 안에 현실화할 가능성을 10%…
보안
인포스틸러 악성코드, 클로드 세션 탈취해 계정 사용량 소비
앤트로픽의 클로드 유료 이용자 계정에서 세션 정보가 탈취돼 토큰 사용량이 몰래 소비된 사례가 잇따라 보고됐다. 회사는 인포스틸러 악성코드 가능성을 안내하고 일부 계정의 인증을 무효화했지만, 세부…