오픈 시큐어 AI 얼라이언스, 작업반 SAFE 제안 공개

엔비디아(Nvidia)가 주도한 오픈 시큐어 AI 얼라이언스(OSAA)가 발족 1주 만에 작업반 ‘세이프(SAFE, Shared AI Findings Exchange)’를 꾸리고 제안을 공개 의견 수렴에 부치고 있다. 테크크런치(TechCrunch)에 따르면 OSAA는 120개사 이상으로 늘었고, 이 작업반에서 나온 제안은 리눅스재단(Linux Foundation)이 운영·관리하고 있다. 제안은 AI 보안 사고를 기밀로 보고한 뒤 영향을 받는 당사자에게 알리고, 책임 추궁 없는 분석으로 학습을 공유하는 내용을 담는다. OSAA 회원들은 블랙햇(Black Hat) 행사에서 논의를 진행하는 한편 각사가 보유한 오픈소스 기반 기술도 정리하고 있으며, 시간이 지나면 기업이 AI 에이전트를 보안하거나 ‘악성 AI 공격자’를 막는 오픈소스 수단으로 결집할 수 있다고 전해졌다. 테크크런치는 엔비디아가 오픈 모델 패밀리와 LLM 취약점 스캐너 ‘가락(Garak)’을 제시하고, 옥타는 에이전트 정체성 기술을, 레드햇(Red Hat)은 거버넌스를 개발 중이며, 아마존(Amazon)은 에이전트 빌딩 도구와 권한 부여 언어를 기여했다고 소개했다. OSAA에는 어도비(Adobe)·블랙록(BlackRock)·시스코(Cisco)·인텔(Intel)·마이크로소프트(Microsoft)·비자(Visa) 등이 참여하지만, 앤트로픽(Anthropic)·오픈AI(OpenAI)·구글(Google)은 명단에 빠져 있다고 테크크런치는 밝혔다.

원문 보기 (techcrunch.com)