뉴질랜드에서 응답자 10명 중 8명이 AI 규제가 필요하다고 본다는 조사 결과가 나온 가운데, 정부는 별도 규제보다 자율 지침을 중심으로 한 ‘가벼운 접근’을 택하고 있어 선거를 앞두고 보호 장치를 논의해야 한다는 지적이 나왔다. 더컨버세이션은 10월 14일 논평에서 정부의 AI 정책과 여론, 공공 부문의 자동화 위험을 짚으며 뉴질랜드가 AI를 어떻게 관리할지 진지하게 논의해야 한다고 밝혔다.
AI 규제 필요성 커졌지만 정부는 자율 지침 중심
뉴질랜드 정부의 2025년 AI 전략은 AI 도입을 장려하면서 기존 법률로 위험을 관리하는 방향이다. 별도의 AI 규제를 만들기보다 기관들이 따르도록 권고하는 지침과 체계에 의존한다. 그러나 조사에서는 뉴질랜드인 10명 중 8명이 AI 규제가 필요하다고 답했고, 다른 조사에서는 정부가 AI를 책임 있게 활용할 것이라고 강하게 확신한 응답자가 5%에 그쳤다. 뉴질랜드인의 절반 이상은 AI 도구를 적어도 일주일에 한 번 사용하고 있다. 환경 부담과 창작 산업에 미칠 영향을 우려해 사용을 줄이려는 사람도 있지만, 검색 엔진과 광고, 온라인 콘텐츠에 AI가 퍼지면서 이용을 완전히 피하기는 어려워지고 있다.
자동 의사결정 시스템 대부분은 생성형 AI보다 앞선 머신러닝 기법을 기반으로 구축됐다. 제대로 작동하면 환자가 일반의 진료를 마치기 전에 사고보상청(ACC) 청구를 자동 승인하거나, 납세자가 따로 신청하지 않아도 세금 환급을 처리할 수 있다. 반면 2018년 뉴질랜드 이민 당국은 체류 기간을 넘긴 사람을 찾아 추방 대상으로 검토하는 데 자동화 모델을 사용해 인종 차별적 선별이라는 비판을 받았다. 호주에서는 복지 수급자에게 위법한 채무를 통보한 로보데트 사태로 정부가 7억2100만호주달러를 돌려줘야 했다. 뉴질랜드의 정보공개·개인정보 보호 관련 법률은 자동화 시스템에 대한 감독이 제한적이라는 지적도 나온다.
공공 서비스와 데이터의 통제권도 쟁점
최신 생성형 AI 시스템은 더욱 복잡한 모델을 사용해 편향이나 차별 문제를 찾아내기 어렵고, 그 피해가 마오리족과 장애인에게 더 크게 돌아갈 수 있다는 우려가 제기됐다. 뉴질랜드 의회는 최근 사회개발부가 복지급여 결정을 자동화할 수 있도록 하는 법을 통과시켰으며, 법률위원회는 정부 전반의 자동 의사결정 시스템을 관리할 체계를 마련하고 있다. 캐나다가 약 7년 전부터 정부 기관에 자동화 시스템의 영향을 평가하도록 한 것과 비교하면 대응이 늦었다는 지적이다.
AI 규제와 함께 누가 시스템을 통제하고 그 경제적 이익을 얻는지도 논의 대상이다. 자동 의사결정 시스템을 포함한 많은 AI 기술은 해외에서 개발·운영돼 개인정보와 지식재산 보호, 공공 서비스에 대한 뉴질랜드의 통제력에 영향을 줄 수 있다. 저작권이 있는 자료를 AI 학습에 쓰는 문제는 창작자 보상 논란으로 이어졌고, AI 서비스 지출이 해외 기술기업으로 흘러가는 상황에서 향후 수익에 세금을 어떻게 매길지도 과제로 꼽혔다. 전력 사용과 환경 영향을 둘러싸고 사우스랜드 데이터센터 건설안도 관심을 받았지만, 데이터센터만이 AI의 경제·사회적 이익을 따지는 논의의 전부는 아니라는 설명이다.
호주는 AI 안전 연구소를 세웠고, 유럽연합(EU)은 위험도에 따른 AI 규제를 도입했으며, 캐나다는 정부 기관에 자동화 결정의 영향을 평가하도록 하고 있다. 뉴질랜드도 해외 사례를 참고하되 자국의 의무와 테 티리티 오 와이탕이(와이탕이 조약)를 고려해야 한다. 특히 마오리족의 권리와 이해관계, AI 시스템 설계·운영 과정의 참여, 마오리 데이터에 대한 공동체의 통제권과 데이터에서 발생하는 이익의 배분을 정책에 반영해야 한다는 것이 논평의 핵심이다.