핵심 요약
영국에서 인공지능(AI)을 이용한 채용이 늘어나면서 알고리즘이 여성과 고령자 등 특정 집단을 차별할 수 있다는 우려가 규제 쟁점으로 떠올랐다.
영국 정부는 9월 15일 의회 공식 발표를 통해 “기존 전문 규제기관들이 AI 시스템의 사용을 감독하고 있으며, 영국 정보위원회(Information Commissioner’s Office·ICO)가 자동화된 의사결정과 프로파일링에 관한 지침 초안을 놓고 의견수렴을 진행하고 있다“고 밝혔다. 정부는 “기업이 채용용 AI를 구매·도입할 때 적용할 ‘책임 있는 채용 AI(Responsible AI in Recruitment)’ 지침도 마련했다“고 설명했다.
이 발표는 영국 상원의 존 테일러(Lord Taylor of Warwick) 의원이 AI를 채용에 사용하는 고용주가 여성과 고령 근로자를 차별하지 않도록 정부가 어떤 조치를 취하고 있는지 질의한 데 대한 답변이다.
영국은 올해 2월 자동화된 의사결정(Automated Decision-Making·ADM) 허용 범위를 확대했다. 9월에는 의회에서 AI 채용의 차별 방지 대책이 제기됐고, 감독당국은 관련 지침을 정비하고 있다.
영국은 AI 자동결정 허용 범위 넓혀
영국의 AI 채용 규제를 이해하려면 올해 개정, 시행된 개인정보 규제를 살펴볼 필요가 있다.
기존 규정에서는 법적 효과가 발생하거나 이에 준하는 중대한 영향을 미치는 순수 자동결정을 원칙적으로 제한했다. 계약 이행에 필요하거나 법률이 허용하거나 당사자가 명시적으로 동의한 경우 등에만 예외적으로 허용했다.
개정법은 특별범주 개인정보를 사용하지 않는 경우 이러한 제한을 완화했다. 기업은 정당한 이익(legitimate interests)을 비롯한 적법한 개인정보 처리 근거를 충족하면 중대한 영향을 미치는 자동결정을 이전보다 폭넓게 사용할 수 있게 됐다.
반면 인종·민족, 정치적 견해, 종교, 건강정보와 개인을 고유하게 식별하기 위한 생체정보 등 특별범주 개인정보를 사용하는 중대한 자동결정에는 강화된 제한이 유지된다.
개정법은 당사자 보호조치도 규정하고 있다. 법적 효과 또는 이에 준하는 중대한 영향을 미치는 순수 자동결정을 내릴 경우 당사자에게 관련 정보를 제공하고 의견을 제출할 기회를 보장해야 한다. 당사자는 사람의 개입을 요구하고 결정에 이의를 제기할 수도 있다.
법률은 순수 자동결정을 ‘의미 있는 인간의 개입(meaningful human involvement)’ 없이 이뤄지는 결정으로 규정한다. 따라서 AI가 지원자를 평가해 탈락자를 선정한 뒤 담당자가 결과를 형식적으로 승인하는 방식이 실제 인간 개입에 해당하는지는 구체적인 검토가 필요하다.
AI 얼굴인식 오류, 영국서 차별 소송으로 이어져
영국에선 자동화된 신원 확인 시스템의 오류가 차별 소송으로 이어진 사례도 있다.
2021년 영국 고용심판소에 제기된 파 에드리사 만장 대 우버 이츠 UK 등 사건(P A Edrissa Manjang v Uber Eats UK Ltd & Others, Case No. 3206212/2021)에서 흑인 배달기사 파 에드리사 만장(P A Edrissa Manjang)은 얼굴인식 시스템이 자신의 신원을 반복적으로 확인하지 못한 뒤 계정이 정지되자 인종차별 등을 주장하며 소송을 냈다.
영국 고용심판소 기록에 따르면 만장은 우버 이츠 UK(Uber Eats UK) 등을 상대로 간접 인종차별과 괴롭힘 등을 주장했다.
영국 평등인권위원회(Equality and Human Rights Commission·EHRC)는 2024년 3월 26일 사건 결과를 발표하고 만장이 얼굴 확인 과정에서 반복적으로 ‘불일치’ 판정을 받은 뒤 자동화된 절차를 거쳐 플랫폼에서 제외됐다고 밝혔다. 시스템에는 마이크로소프트(Microsoft)의 얼굴인식 기술이 사용됐다.
다만 법원이 해당 시스템의 인종차별 여부를 본안에서 최종 판단한 것은 아니다. 사건은 2024년 3월 금전 지급을 포함한 합의로 종결됐으며, 합의가 우버의 법적 책임을 인정한 것은 아니다.
ICO, 30곳 넘는 고용주 조사…16곳에 개선 요구
영국 개인정보 감독당국은 AI 채용 현장의 자동화된 의사결정 실태도 조사했다.
ICO는 3월 31일 발표한 ‘Recruitment Rewired’ 조사 결과에서 2025년 3월부터 올해 1월까지 30곳이 넘는 고용주와 접촉해 자동화된 채용 실태를 살펴봤다고 밝혔다.
ICO는 조사 과정에서 투명성과 보호조치, 인간 개입의 일관성, 편향 점검 관행에 개선이 필요하다고 판단했다. 이에 지원자에 대한 자동결정을 사용할 가능성이 있는 16개 조직에 개선을 권고했고, 이들은 권고에 따라 조치하기로 했다.
특히 규제기관은 채용 AI가 특정 집단에 불리한 결과를 내는지를 정기적으로 검사하도록 요구했다. 외부 업체에서 AI 채용 도구를 구입하는 기업에는 공급업체가 어떤 편향 검사를 수행했는지도 확인하도록 권고했다.
지원자에게 AI 사용 사실과 작동 방식을 설명하고, 잘못된 결과라고 판단할 경우 이의를 제기하거나 사람에게 재검토를 요구할 수 있는 절차도 필요하다고 ICO는 밝혔다.
ICO 규제위험·혁신 담당 이사 윌리엄 말콤(William Malcolm)은 3월 31일 AI 채용 조사 결과를 발표하면서 “AI와 자동화를 채용 과정에서 어떻게 사용하는지 투명하게 공개하는 것이 사람들에게 신뢰를 준다”고 말했다.
Q&A
Q1. 영국에서는 AI가 채용 지원자를 자동으로 탈락시켜도 되는가?
일정한 조건에서는 가능하다. DUAA는 일반 개인정보를 이용한 자동결정의 허용 범위를 확대했다. 다만 법적 효과 또는 이에 준하는 중대한 영향을 미치는 순수 자동결정에는 정보 제공, 의견 제출, 인간 개입 요구, 이의제기 등 보호조치가 적용된다.
Q2. AI 채용에서 ‘의미 있는 인간의 개입’이란 무엇인가?
담당자가 AI의 평가 결과를 실질적으로 검토하고 판단에 관여하는 것을 말한다. 단순히 AI가 작성한 탈락자 명단을 승인하는 것과는 구별된다. 실제로 의미 있는 개입이 있었는지는 담당자의 검토 수준과 결정 변경 권한 등을 고려해야 한다.
Q3. 영국의 AI 채용 규제와 미국 워크데이 소송은 어떤 관계인가?
직접적인 법적 관계는 없다. 워크데이 사건은 미국의 고용차별 관련 법률에 따라 AI 채용 시스템 공급업체의 책임을 다투는 소송이다. 영국에서는 별도로 개인정보보호법과 평등법을 통해 AI 채용의 자동결정과 차별 문제를 규율하고 있다.
