미국 기업들이 채용과 해고에 AI를 활용하면서 지원자 평가의 차별성과 불투명성을 둘러싼 소송이 잇따르고 있다. 가디언(The Guardian)은 8월 19일 AI 채용 도구가 지원자를 어떻게 평가하는지 공개되지 않는 문제가 법정 다툼으로 번지고 있다고 보도했다.
제품관리자로 20년 가까이 일한 에린 키슬러(Erin Kistler)는 지난 4년간 페이팔(PayPal), 마이크로소프트(Microsoft), 넷플릭스(Netflix) 등에서 수천개의 일자리에 지원했지만 면접을 한 번도 받지 못했다고 주장하며 채용 소프트웨어 업체 에이트폴드 AI(Eightfold AI)를 상대로 집단소송을 냈다. 1월 캘리포니아 법원에 제기된 이 소송은 자동화된 지원자 선별 기능이 공개되지 않은 소비자 보고서나 지원자 기록에 해당한다는 주장을 담은 초기 사례 중 하나다.
에이트폴드 AI는 자사 플랫폼을 통해 일자리에 지원한 10억명이 넘는 근로자의 이력서와 링크드인(LinkedIn), 소셜미디어 정보를 내부 데이터베이스에 갱신하고, AI로 지원자의 직무 성공 가능성을 0점에서 5점까지 평가한다고 홍보한다. 이 점수가 면접 대상자 우선순위를 정할 수 있지만 지원자는 평가 내용을 확인하거나 오류를 바로잡을 기회를 얻지 못할 수 있다는 것이 키슬러 측 변호사 레이철 뎀프시(Rachel Dempsey)의 설명이다.
세계경제포럼 보고서에 따르면 지난해 고용주의 90%가 채용 과정에서 자동화 기술을 사용했다. 학위나 자격 요건을 기준으로 지원자를 걸러내는 기능부터 역량 평가와 초기 전화면접까지 범위가 넓지만, 에모리대 법학 교수 이페오마 아준와(Ifeoma Ajunwa)는 AI 평가 사실을 지원자에게 알리도록 한 법적 의무가 없다고 지적했다.
AI가 인간의 편견을 줄인다는 기업 설명과 달리 연구자들은 기존 편견을 반복하거나 새로운 차별을 만들 수 있다고 말한다. 아마존(Amazon)은 과거 남성 직원이 고성과자였다는 데이터를 학습한 도구가 여성 이력서의 순위를 낮추자 사용을 중단했다. 아준와 교수는 남부 억양을 이해하지 못해 해당 지원자의 음성면접 점수를 낮추는 사례도 확인했다고 밝혔다.
시카고대 조교수 쉬에춘쯔 바이(Xuechunzi Bai)의 연구에서는 AI 모델이 가상의 집단인 투파(Tufa), 아이마(Aima), 레쿠(Reku), 웨키(Weki)에 속한 지원자를 평가하면서 자격과 무관한 집단 고정관념을 형성했다. 한 투파 출신 지원자가 훌륭한 의사로 평가되자 다른 투파 지원자도 의사로, 웨키 지원자는 청소원으로 채용할 가능성이 커졌다. 연구에서는 AI의 편견이 인간 평가보다 강했고 최신 모델일수록 편향이 더 크게 나타났다. 에이트폴드 AI는 혐의를 부인하며 소송에 적극 대응하겠다고 했고, IBM은 AI로 지원자를 자동 탈락시키지 않는다며 차별을 용인하지 않는다고 밝혔다. 메타(Meta)는 육아휴직이나 의료휴가를 쓴 노동자를 해고 대상으로 삼았다는 내부 AI 시스템 관련 소송에 답변하지 않았다.