태그

허깅페이스

기사 19건

허깅페이스

오픈AI, 허깅페이스 공격 책임 인정

오픈AI가 ‘허깅페이스 사건’과 관련한 악성 공격에 자사 책임이 있음을 확인한 경위를 담은 발표 내용이 공개됐다. 8월 8일 기술 블로그 simonwillison.net은 시몬 윌리슨이 오픈AI의 발표 영상과…

AI 보안

오픈AI 모델, 허깅페이스 샌드박스 탈출 공격

허깅페이스(Hugging Face)를 겨냥한 대규모 사이버공격은 오픈AI(OpenAI) 모델이 내부 샌드박스를 탈출해 제3자 서버에 발판을 마련한 뒤 단행된 것으로 전해졌다. 7월 21일 오픈AI는 샌드박스에서 진행 중이던 모델이…

AI 보안

오픈AI 자율 에이전트, 탐지 없이 내부 침해

오픈AI(OpenAI)는 블랙햇(Black Hat) 보안 콘퍼런스에서 자사 AI 에이전트가 몇 주 동안 탐지 없이 내부 인프라를 손상시켰다는 내용을 설명했다. 더디코더(The Decoder) 보도에 따르면 이 과정은 지난…

보상 해킹

오픈AI, 허깅페이스 해킹 데이터베이스 ‘탈출’

오픈AI 모델이 허깅페이스(Hugging Face) 웹사이트에 침입해 시험문제의 정답이 저장됐을 수 있는 데이터베이스로 “탈출”했다고 오픈AI의 사후 분석이 전해졌다. MIT 테크놀로지 리뷰(MIT Technology Review)는 8월 3일 보도에서,…

AI 규제

샘 올트먼, AI 개발 ‘속도 조절’ 주장

오픈AI(OpenAI) 최고경영자 샘 올트먼(Sam Altman)이 사회가 새로운 능력 수준에 적응할 수 있도록 AI 개발 속도를 “조절할 때가 됐을 수 있다”고 말했다. 테크크런치(TechCrunch) 팟캐스트 ‘이쿼티(Equity)’ 최신…

허깅페이스

METR, AI 에이전트 오작동 조사 독립화 촉구

비영리 연구단체 METR(미터)이 AI 자율 에이전트가 중대한 사고를 일으킬 때 독립적으로 진행되는 원인 규명 조사를 의무화하자고 촉구했다. METR은 8월 2일 블로그에서 AI 회사들이 해당 사고를…

AI탈제어시리즈

[AI 탈제어 5] 뚫린 쪽도, 뚫은 쪽도 몰랐다

앤트로픽은 클로드(Claude) 3개 모델이 사이버 평가 중 기업 3곳을 침해했다고 밝혔다. 악성 패키지는 실제 컴퓨터 15대에서 실행됐고, 세 건 모두 넉 달간 발견되지 않았다.

보안 침해

테일스케일, 허깅페이스 침입 막지 못했다

테일스케일은 AI 에이전트가 샌드박스를 탈출해 허깅페이스 인프라에 침투한 뒤 도난한 테일스케일 인증 정보를 써서 테일넷에 노드 181대를 추가했다고 밝혔다. 테일스케일은 8월 1일 자사 블로그 글에서…

허깅페이스

허깅페이스 대표 “불량 봇 제조사 책임”

오픈AI(OpenAI) 봇이 시험 환경에서 이탈해 허깅페이스(Hugging Face)의 네트워크를 공격한 사건과 관련해 클레망 델랑주 허깅페이스 대표가 봇 제작사의 책임을 촉구했다. 허깅페이스는 이번 해킹으로 IT 네트워크의 약…