영국 정부가 인공지능(AI) 시스템의 안전성과 신뢰성을 독립적으로 검사하는 ‘AI 보증(AI assurance)’을 하나의 전문직으로 육성하기 위한 제도 구축에 착수했다. 회계사가 기업 재무제표를 감사하듯 AI의 성능과 위험, 관리 체계를 외부 전문가가 평가하는 시장을 만들겠다는 구상이다.
영국 과학혁신기술부(Department for Science, Innovation and Technology·DSIT)가 지난해 9월3일 공개한 ‘신뢰할 수 있는 제3자 AI 보증 로드맵’에 따르면 영국 정부는 AI 보증 전문직의 기반으로 ▲자발적 전문직 윤리강령 ▲기술·역량 체계 ▲AI 평가에 필요한 정보 접근 요건 등을 마련하기로 했다.
실제 컨소시엄은 로드맵 발표 직후가 아니라 올해 들어 본격 출범했다. 영국 정부는 지난 6월 AI 보증 이해관계자 컨소시엄(AI Assurance Stakeholder Consortium) 출범을 발표했고, 영국 정보기술 전문기관인 비시에스(BCS·The Chartered Institute for IT)가 이를 이끌고 있다.
AI 감사할 사람의 윤리·실력부터 표준화
AI 보증은 AI 시스템이 안전하고 신뢰할 수 있으며 의도한 대로 작동하는지를 측정·평가하고 그 결과를 설명하는 일련의 활동을 말한다. 모델의 성능 시험뿐 아니라 개발·배포 과정, 위험관리와 거버넌스까지 평가 대상이 될 수 있다.
BCS가 공개한 컨소시엄 계획에 따르면 첫해 작업은 여러 분야로 나뉜다.
핵심은 AI 보증 업무를 누가 어떤 기준으로 수행할지를 정하는 것이다. 컨소시엄은 AI 보증 전문가에게 적용할 전문직 윤리·행동강령(Code of Ethics and Conduct)과 업무 수행에 필요한 기술·역량 체계(skills and competencies framework)를 개발한다.
참여 기관도 기존 인증·표준 체계와 연결돼 있다. 영국 국가기관인 영국인정서비스(UK Accreditation Service·UKAS), 국가표준기관 영국표준협회(British Standards Institution·BSI), 국가측정표준기관 국립물리연구소(National Physical Laboratory·NPL), 에이다 러브레이스 연구소(Ada Lovelace Institute), 공인품질협회(Chartered Quality Institute·CQI) 등이 창립 구성원이다. 사우샘프턴대의 웬디 홀(Dame Wendy Hall) 교수 등도 독립 전문가로 참여한다.
산업계와 컨소시엄을 연결하는 산업자문그룹은 영국 기술산업협회 테크UK(techUK)가 이끈다. 테크UK가 공개한 계획에 따르면 첫해 작업은 향후 AI 보증 전문가 인증제도의 토대가 되며, AI 감사(AI auditing)가 전문 인증을 도입하는 첫 분야가 될 가능성이 있다.
즉 AI 보증을 단순한 기업 컨설팅 서비스에서 일정한 윤리·능력 기준과 장기적으로는 자격·등록제도까지 갖춘 전문 영역으로 발전시키려는 것이다.
AI 기업, 학습데이터까지 감사기관에 보여줘야 하나
또 다른 핵심 쟁점은 AI 기업이 외부 검증기관에 어디까지 내부 정보를 공개해야 하는가다.
영국 정부 로드맵은 AI 보증기관이 평가 과정에서 필요로 할 수 있는 정보로 AI 시스템의 기능과 사용 범위, 입력·출력 데이터, 학습데이터, 모델을 만드는 알고리즘과 파라미터, 배포 이후 모니터링·수정 절차, AI 관리·거버넌스 문서 등을 들었다.
그러나 AI 개발사 입장에서는 학습데이터나 모델 내부 정보가 영업비밀과 보안에 직결될 수 있다. 반대로 외부 감사기관이 충분한 정보에 접근하지 못하면 검증의 신뢰성이 떨어진다.
이에 따라 컨소시엄은 AI 보증 서비스별로 검증기관에 필요한 정보 접근 요건을 먼저 파악(mapping)하기로 했다. 이를 바탕으로 향후 AI 개발·사용 기업과 보증기관 사이의 정보 공유에 관한 모범실무 지침을 만드는 것이 정부의 구상이다.
영국 AI 보증시장, 2035년 35조원 규모 전망
영국이 AI 보증을 전문직으로 만들려는 배경에는 산업정책도 있다.
DSIT의 AI 보증 로드맵에 따르면 영국 AI 보증 시장의 2024년 총부가가치(GVA)는 약 10억1000만파운드(약 1조8830억원)로 추산됐다. 정부는 AI 도입을 가로막는 장애물이 해소될 경우 2035년에는 188억파운드(약 35조원) 이상으로 커질 가능성이 있다고 봤다. 원화 환산에는 8월28일 파운드당 약 1864원을 적용했다.
정부는 기술 개발에도 돈을 투입한다. AI 보증 혁신기금(AI Assurance Innovation Fund)에 1100만파운드(약 205억원)를 투입해 고성능 AI의 위험을 찾아내고 평가할 새로운 검증 기술과 서비스를 지원한다.
지난해 로드맵과 올해 1월 정부의 AI 기회 행동계획 1년 평가에 따르면, 첫 번째 지원 신청은 2026년 봄(Spring 2026)에 열겠다고 명시한 바 있다. 정부는 지난 4월 의회에 제출한 답변에서 “NPL이 혁신기금 집행을 지원한다”고 설명했다.
당장 기업에 적용되는 새 규제는 아니다
AI 개발사들이 특히 구분해야 할 점은 이 로드맵이 새로운 AI 규제법은 아니라는 것이다.
현재 추진되는 윤리강령과 역량 체계 역시 그 자체로 AI 기업에 법적 의무나 과징금을 부과하는 규정이 아니다. 정부는 우선 시장과 전문기관이 참여하는 방식으로 AI 보증 시장의 품질과 전문성을 높이는 방식을 택했다.
그러나 장기적으로는 AI 보증 서비스가 기업의 AI 위험관리에서 차지하는 비중이 커질 가능성이 있다. 특히 전문직 인증제도가 만들어지고 AI 감사를 수행할 전문가의 자격과 평가 방법, 기업이 제공해야 할 정보의 범위가 표준화되면 기업이 ‘AI를 안전하게 만들었다’고 스스로 주장하는 것과 독립된 외부기관의 검증을 받는 것 사이의 차이가 커질 수 있다.
영국 정부가 AI 보증을 단순한 안전정책이 아니라 산업으로 보는 것도 특징이다. AI 모델 자체를 규제하는 것에 그치지 않고 AI를 검사하고 평가하며 인증하는 새로운 전문서비스 시장을 먼저 키우겠다는 전략이다.
Q&A
Q1. AI 보증은 AI 규제와 같은 것인가.
아니다. 규제는 법률이나 감독기관이 의무를 부과하는 것이지만 AI 보증은 AI가 안전하고 신뢰할 수 있는지 시험·평가하고 그 결과를 제시하는 활동이다. 다만 향후 규제 준수 여부를 검증하는 수단으로 활용될 수 있다.
Q2. 영국에서 AI 보증 전문가라는 국가자격이 이미 생긴 것인가.
아니다. 현재는 전문직화를 위한 기반을 만드는 단계다. 윤리강령과 역량 체계를 만들고 향후 인증 또는 등록제도로 발전시키는 방안을 검토한다.
Q3. AI 기업은 앞으로 학습데이터를 외부 감사기관에 공개해야 하나.
아직 그런 일반적 법적 의무가 만들어진 것은 아니다. 정부는 학습데이터를 포함해 검증에 필요한 정보가 무엇인지 서비스별로 파악하고 정보 공유 모범실무를 만드는 방안을 추진하고 있다.
Q4. 9월3일에 윤리강령과 역량 체계가 발표되는가.
현재 확인되는 영국 정부와 BCS 자료에는 2026년 9월3일을 이들 문서의 발표 또는 제출 시한으로 정한 내용이 없다. 지난해 로드맵이 9월3일 발표됐다는 사실과 컨소시엄의 ‘첫해’ 과제가 결합돼 잘못 해석됐을 가능성이 있다.
Q5. 왜 영국 정부가 이 시장을 키우려 하나.
AI의 안전성을 높이는 동시에 새로운 전문서비스 산업을 만들려는 목적이다. 영국 정부는 AI 보증 시장의 총부가가치가 2035년 188억파운드(약 35조원)를 넘을 잠재력이 있다고 보고 있다.
인용 자료 및 출처
Regulations.ai / UK AI Assurance: Consortium Deliverables Due Next Week / 8월29일
제공된 원문은 영국의 ‘신뢰할 수 있는 제3자 AI 보증 로드맵’에 따라 컨소시엄이 자발적 윤리강령, AI 보증 전문가 기술 체계, 정보 공유 체계를 마련하고 있으며 이를 9월3일까지 제출할 예정이라고 설명했다. 또 1100만파운드 규모 AI 보증 혁신기금의 첫 지원 라운드가 3월31일 시작됐다고 전했다. 그러나 영국 정부와 컨소시엄 공식 자료를 대조한 결과 9월3일 제출 시한과 3월31일 기금 개시일은 확인되지 않았다. 따라서 이 두 내용은 기사 사실관계에서 제외·수정했다.
영국 과학혁신기술부 / Trusted third-party AI assurance roadmap / 2025년 9월3일 / 영국 정부 로드맵
AI 보증 전문직화를 위해 컨소시엄을 구성하고 자발적 전문직 윤리강령, 기술·역량 체계, AI 보증기관의 정보 접근 요구사항 파악 등을 추진한다. AI 보증 혁신기금 규모는 1100만파운드이며 첫 지원은 2026년 봄 개시할 계획이라고 명시했다.
BCS / AI Assurance: Leading a new profession responsibly / 2026년 / BCS 컨소시엄 계획
DSIT가 구성하고 BCS가 이끄는 AI 보증 이해관계자 컨소시엄의 구성과 업무를 공개했다. UKAS·BSI·NPL·에이다 러브레이스 연구소·CQI 등이 창립 구성원으로 참여하며 윤리강령과 기술·역량 체계 등을 개발한다.
영국 정부 / Government to partner with tech companies… / 6월 / DSIT 발표
정부가 BCS와 함께 AI 보증 이해관계자 컨소시엄을 출범시킨 사실을 확인했다. AI 보증 시장의 2035년 총부가가치 잠재력을 188억파운드 이상으로 제시했다.
techUK / Chancellor’s AI Adoption Summit and Government’s AI Adoption Package / 6월 / techUK 분석
컨소시엄 첫해 임무가 자발적 윤리강령, 기술·역량 체계, 보증기관의 정보 접근 요건 파악이며 향후 전문 인증제도로 발전시키는 기반이라고 설명했다. AI 감사가 초기 전문 인증 분야가 될 가능성도 제시했다.
