오픈AI(OpenAI)가 민주적 정부의 AI 감독기관에 향후 1년간 500만 달러 상당의 교육·기술 지원과 자사 서비스 이용 크레딧을 제공하기로 했다. 국가안보 분야에서 AI 활용이 확대되는 만큼 이를 감시하는 제도와 기관의 역량도 함께 강화해야 한다는 취지다.
회사는 8월 19일 자사 블로그에서 국가안보 활동에 대한 AI 활용을 감독기관이 더 빠르고 체계적으로 점검할 수 있도록 지원하겠다고 밝혔다. 다만 정부를 감독하는 역할은 오픈AI가 맡지 않으며, 선출직 공직자와 법률에 따라 설치된 공공기관에 그 책임이 있다고 선을 그었다.
오픈AI는 국가안보 분야에서 AI가 사이버 공격 차단, 핵심 기반시설 보호, 위협 조기 탐지, 위기 상황의 정보 분석 등에 도움을 줄 수 있다고 설명했다. 반면 AI가 누락되거나 오래된 맥락, 잘못 설정된 목표, 서로 어긋난 가정을 바탕으로 작동할 경우 실수가 빠른 속도와 큰 규모로 확산돼 사람이 사전에 찾아내기 어려울 수 있다고 지적했다. 기밀성과 고위험 의사결정이 수반되는 국가안보 업무에서는 감독이 특히 중요하다는 것이다.
이번 지원은 세 가지 원칙에 따라 추진된다. AI는 인간과 기관의 판단을 대체하지 않고 보강해야 하며, 정부 행위의 적법성과 적절성에 대한 판단은 권한을 부여받은 기관과 법정 감독기구가 내려야 한다. 또 감독 담당자가 AI가 의사결정에 어떤 영향을 미쳤는지 이해할 수 있도록 입력값·출력값·도구 사용 내역을 추적 가능하고 이해하기 쉬운 형태로 남겨야 한다. 이 과정에서 기밀·개인정보·보안 민감 정보는 보호해야 한다.
오픈AI는 감독기관과 함께 AI가 보조한 정부 의사결정의 기록을 검토하는 도구를 시범 운영할 계획이다. 가능한 경우 특정 모델에 종속되지 않고 서로 연동되는 방식으로 개발하며, 증거와 결과물, 조사 결과는 오픈AI가 아니라 참여 기관이 통제하고 권한 있는 정부 관계자만 이용하도록 할 방침이다. 시민사회와 기술 전문가의 의견도 도구 설계와 관련 책임 논의에 반영한다.
회사는 자체적으로도 배포 전 고도화 모델을 점검하고 배포 후 모니터링과 사건 검토를 이어가는 ‘준비 프레임워크(Preparedness Framework)’를 적용하고 있다고 덧붙였다. 이번 구상이 실제 감독 담당자의 의무 이행 능력을 높이고 정부의 AI 활용에 대한 국민의 신뢰를 강화하는지 여부로 성과를 판단하겠다고 밝혔다.