과학기술정보통신부와 인공지능안전연구소가 국민 모니터링단 ‘AI 안전 지킴이’ 80명을 위촉하고 생성형 AI의 오류·위험 사례를 상시 제보받는 체계를 마련했다. 과기정통부는 12일 서울 여의도 글래드호텔에서 발대식을 열고, 보도자료를 통해 운영 계획을 공개했다.
생성형 AI 오류·위험 사례 4개 분야 감시
모니터링단은 사실 왜곡, 편향·차별, 보안 취약점, 기술적 결함 등 생성형 AI의 4개 분야를 살핀다. 잘못된 사실이나 수치, 날짜, 인물 정보를 사실처럼 답하는 경우가 사실 왜곡에 해당한다. 특정 집단에 대한 고정관념이나 불공정한 판단, 안전장치 우회와 개인정보 노출 위험도 제보 대상이다.
기술적 결함에는 답변하지 않거나 요청한 형식과 다른 내용을 내놓는 사례, 같은 답변을 반복하는 경우 등이 포함된다. 과기정통부와 인공지능안전연구소는 오류 사례를 한시적으로 모으는 데 그치지 않고, 국민이 일상에서 직접 발견한 문제를 계속 제보하도록 모니터링단을 구성했다. 활동 기간은 2026년 9월부터 2027년 8월까지다.
80명 제보 사례 검증해 평가 자료로 활용
모니터링단은 지난 8월과 9월 두 차례 공개 모집에 지원한 138명 가운데 최종 선발된 80명으로 구성됐다. 대학생과 직장인뿐 아니라 가사종사자, 프리랜서, 자영업자 등 다양한 직업군이 참여하며, 연령대는 10대 고등학생부터 60대 이상까지다.
접수한 사례는 정확성, 위험도, 재현 가능성, 활용 가능성 등을 기준으로 유효성을 검증한 뒤 확정한다. 확정 사례는 AI 안전성 평가와 위험 연구의 기초 자료로 활용될 예정이다. 과기정통부와 연구소는 관련 기업에도 사례를 공유하고 지속적으로 소통할 계획이라고 밝혔다.
발대식에는 엄열 과기정통부 인공지능정책실장과 김명주 인공지능안전연구소장, 모니터링단원 등 50여명이 참석했다. 행사는 위촉장 수여와 운영 계획 안내, 대표 단원의 소감 발표 순으로 진행됐고, 이후 오류 사례를 찾는 방법과 제보 기준에 대한 교육이 이어졌다. 앞서 과기정통부와 연구소는 2025년 12월부터 30여일간 ‘정보 오류 없는 찐 AI 챌린지’를 진행해 625건을 접수했고, 이 가운데 464건을 유효한 오류 사례로 확인했다.
엄열 실장은 AI가 남녀노소 누구나 사용하는 일상이 된 만큼 안전한 이용 환경은 모두가 함께 만들어야 한다며, 단원들이 찾아낸 오류가 더 안전한 AI를 만드는 밑거름이 될 것이라고 말했다.
