이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
캘리포니아주가 AI에만 의존해 직원을 해고하거나 징계하는 것을 제한하는 법을 제정했다. 개빈 뉴섬(Gavin Newsom) 주지사가 지난주 서명한 SB 947은 ‘노 로보 보스 법(No Robo Bosses Act)’으로 불리며, 미국에서 이와 같은 내용을 담은 첫 법이라고 매셔블이 10월 8일 보도했다.
AI가 해고 판단의 주된 도구일 때
법에 따라 캘리포니아주 고용주는 자동화 의사결정 시스템(ADS)에만 의존해 직원의 고용 유지 여부나 징계 여부를 결정할 수 없다. AI를 이런 판단의 ‘주된 도구’로 사용하는 것도 제한된다. AI를 의사결정에 활용할 경우 해당 직원에게 이를 알리고, 회사 조치의 근거를 마련하기 위해 모델에 입력한 개인정보가 무엇인지도 공개해야 한다.
AI 도구가 해고 결정의 ‘주요 요소’였다면 고용주는 직원과 함께 결정을 검토할 사람 검토자를 둬야 한다. 검토자는 결정을 직원과 함께 살펴보고, 인사평가와 징계 기록, 목격자 진술 등 판단을 뒷받침하는 추가 자료를 제시해야 한다. 따라서 AI가 내놓은 점수나 권고만으로 해고를 확정하는 방식은 법이 요구하는 사람의 검토와 근거 자료를 갖추기 어렵다.
모든 고용주에 적용…2027년 시행
주법상 ADS는 머신러닝, 통계 모델링, 데이터 분석 또는 AI에서 나온 계산 절차로, 점수·분류·권고 등 간소화된 결과를 내고 사람의 재량 판단을 돕거나 대체해 개인에게 중대한 영향을 주는 시스템을 뜻한다. 적용 대상은 고용주 규모와 관계없이 캘리포니아주의 모든 고용주다. 법은 ADS 사용이 주 고용법이나 직원의 보호 대상 지위를 침해할 수 있는 경우, 또는 사람이 뒷받침할 수 없는 결정을 내리는 경우에도 이를 제한한다.
캘리포니아 노동위원회가 법 위반이나 법에 따른 권리를 행사한 직원에 대한 보복을 확인하면 고용주에게 민사상 제재가 내려질 수 있다. 다만 법은 긱 노동자를 적용 대상에서 제외했다. 뉴섬 주지사는 2025년 이전 법안에 거부권을 행사했으며, 당시에는 통지 의무가 지나치게 광범위하다는 우려를 들었다. 이후 법안에서 사전 통지 의무 조항이 빠졌다.
SB 947은 2027년 7월 1일부터 시행된다. 법은 AI 활용 자체를 전면 금지하기보다 고용·징계 판단에서 AI만으로 결론을 내리지 못하게 하고, 직원에게 사용 사실과 입력 개인정보를 알리도록 했다. 해고 결정에 AI가 주요하게 관여하면 사람 검토와 추가 근거 자료까지 요구하는 것이 핵심이다.