미국에서 어린이와 청소년을 AI 챗봇의 위험으로부터 보호하기 위한 주(州) 법률이 잇따라 만들어지고 있다. 그러나 AI 안전규제를 지지해 온 구글(Google)이 입법 과정에서 정작 제미나이(Gemini) 등 자사 서비스가 규제에서 빠질 수 있는 예외조항을 지지했다는 논란이 불거졌다.
미국 공영 라디오 방송 NPR은 9월 18일 “구글이 여러 주의 AI 챗봇 안전법 입법에 관여하면서 구글의 일부 서비스를 포함한 주요 AI 제품이 규제 대상에서 제외될 수 있는 예외조항을 지지했다”고 보도했다. NPR이 각 주 법안과 로비 기록을 조사한 결과, 올해 최소 10개 주에서 비슷하거나 거의 동일한 문구를 담은 챗봇 법안이 발의됐다.
논란의 핵심은 규제 대상 기업이 법안의 적용 범위를 결정하는 ‘AI 챗봇의 정의’와 예외조항에도 관여했다는 점이다. 겉으로는 AI 챗봇 안전규제를 강화하면서 검색엔진이나 기존 소프트웨어에 통합된 AI 등을 법 적용 대상에서 빼면 같은 생성형 AI라도 서비스 형태에 따라 규제 여부가 달라질 수 있다.
“다른 소프트웨어 안의 기능”이면 제외
NPR은 “아이다호·네브래스카·뉴저지·오클라호마 등 최소 8개 주 법안에서 ‘다른 소프트웨어 애플리케이션, 웹 인터페이스 또는 컴퓨터 프로그램 안의 기능(a feature within another software application, web interface, or computer program)’을 규제 대상에서 제외하는 동일하거나 유사한 문구가 발견됐다”고 보도했다.
이 문구는 법의 실질적인 적용 범위를 크게 바꿀 수 있다고 매체는 전했다. 독립된 AI 동반자 앱은 규제하면서 검색엔진이나 소셜미디어, 기존 소프트웨어에 AI가 하나의 기능으로 들어가 있으면 규제 대상에서 제외될 여지가 생기기 때문이다.
NPR이 취재한 전문가들은 “이런 예외가 엑스(X)에 통합된 그록(Grok) 같은 AI 서비스 등에 적용될 가능성이 있다”고 지적했다. 일부 법안은 보호 대상을 미성년 ‘계정 보유자(account holder)’로 규정해 별도 계정 없이 이용할 수 있는 챗봇에는 의무가 적용되지 않을 가능성도 제기됐다.
음성비서도 비슷하다. NPR에 따르면, 5개 주 법안에는 소비자 전자기기의 ‘스피커 및 음성 명령 인터페이스 또는 음성 작동 가상비서’를 제외하는 동일한 문구가 들어갔고, 다른 10개 주에서도 이를 변형한 예외가 발견됐다. 이 경우 아마존 알렉사(Alexa) 같은 서비스가 법 적용에서 제외될 수 있다.
결국 법의 이름이 ‘AI 챗봇 안전법’이라고 해도 어떤 서비스를 ‘챗봇’으로 정의하느냐에 따라 실제 규제 대상은 크게 달라진다는 뜻이다.
“구글이 법안 틀 제공”…최종법에선 수정
구글의 입법 관여가 가장 구체적으로 드러난 곳은 하와이다. 하와이주 하원의원 트리시 라 치카(Trish La Chica)는 NPR에 “구글 측 로비스트들이 자신에게 챗봇 안전법안의 후원을 요청했으며 해당 법안의 틀이 구글에서 제공된 것으로 이해했다”고 말했다.
라 치카 의원은 NPR에 “회기 초기에 구글이 그 틀을 제공했다(The framework had been provided by Google early on during the beginning of the session)”고 했다. 그는 법안을 검토한 뒤 다른 애플리케이션이나 웹사이트, 컴퓨터 프로그램 안에 포함된 챗봇을 제외하는 조항 등이 구글 서비스에도 적용될 수 있다고 판단해 법안을 후원하지 않았다.
최종 제정법은 초안과 달라졌다. 하와이주 의회의 상원법안 3001(SB 3001) 최종안은 규제 대상을 포괄적인 ‘대화형 AI 서비스’에서 지속적인 인간 또는 인간과 유사한 관계를 모방하도록 설계된 ‘AI 동반자(AI companion)’ 중심으로 바꿨다.
하와이주 의회 회의위원회 보고서를 보면 최종 협상 과정에서 ‘대화형 인공지능 서비스(conversational artificial intelligence services)’라는 용어를 ‘AI 동반자’로 교체하고 ‘계정 보유자(account holder)’라는 표현도 삭제했다. 규제 범위를 둘러싼 정의 자체가 입법 과정에서 수정된 것이다.
이 법은 7월 14일 ‘Act 248’로 확정됐다. AI 동반자가 사람으로 오인될 가능성이 있을 경우 이용자에게 AI라는 사실을 고지하도록 하고, 자살이나 자해 관련 대화에 대응하는 프로토콜을 마련하도록 했다. 미성년 이용자를 위한 별도의 보호조치도 규정했다. 위반 행위는 불공정·기만적 행위로 취급된다.
미국 각 주로 번지는 AI 챗봇 규제
논란은 미국에서 AI 챗봇 규제가 빠르게 확산되는 가운데 불거졌다. 특히 어린이와 청소년이 AI와 정서적 관계를 형성하거나 자살·자해, 성적 콘텐츠 등에 노출될 위험이 규제 쟁점으로 떠올랐다.
캘리포니아는 규제 범위를 더욱 넓혔다. 로이터는 9월 11일 “캘리포니아가 어린이를 유해한 기술로부터 보호하기 위한 13개 법안을 제정했으며 AI 챗봇을 탑재한 장난감의 제조·판매 금지와 챗봇에 대한 부모 통제 및 안전성 평가 의무 등이 포함됐다”고 보도했다.
이런 움직임은 미국만의 현상도 아니다. 유럽연합(EU) 집행위원회가 9월 17일 내놓은 아동 온라인 안전법안인 ‘EU 키즈법(EU KIDS Act)’도 AI 챗봇을 직접 겨냥한다. 로이터는 9월 17일 “법안은 어린이 계정에서 AI 동반자와 챗봇을 기본적으로 꺼진 상태로 두도록 하고 플랫폼에 연령 확인과 아동 보호 의무를 부과한다”고 전했다. 법안은 EU 회원국과 유럽의회 협상을 거쳐야 한다.
미국에서는 연방 차원의 포괄적인 AI 규제가 만들어지기 전에 각 주가 먼저 움직이면서 기업이 서로 다른 법률을 동시에 상대해야 하는 구조도 형성되고 있다. 따라서 각 주에서 만들어지는 ‘AI 챗봇’과 ‘AI 동반자’의 정의는 단순한 법률 용어가 아니라 어떤 기업과 서비스가 규제를 받는지를 결정하는 핵심 조항이 된다.
구글 “소비자 보호하면서 혁신 촉진하는 법안 지지”
구글은 안전규제를 지지하면서 자사에 유리한 규제 구조를 만들려 한다는 해석에는 선을 그었다.
구글은 NPR에 “소비자를 보호하면서 혁신을 촉진하는 신중하고 효과적인 AI 입법을 지원하는 데 전념하고 있으며, 안전하고 신뢰할 수 있고 유익한 AI 도구를 위한 정책 틀을 만들고자 의원과 업계, 지역사회 단체들과 협력하고 있다”고 주장했다.
그러나 이번 논란은 AI 규제에서 “안전 의무를 둘 것인가” 못지않게 “누구에게 그 의무를 적용할 것인가”가 중요하다는 점을 드러낸다고 전문가들은 지적했다 . 캘리포니아의 AI 규제 전문 변호사는 “독립형 AI 동반자는 규제하면서 검색엔진에 들어간 AI, 기존 플랫폼에 통합된 AI, 계정 없이 사용하는 AI, 음성비서 등을 정의 단계에서 제외한다면 동일하거나 유사한 위험을 가진 서비스라도 법적 의무가 달라질 수 있다”고 지적했다.
NPR에 따르면 청소년 문제 비영리단체 영피플스얼라이언스(Young People’s Alliance)의 공동창립자 믹 토빈(Mick Tobin)은 여러 주의 법안을 추적하면서 구글의 관여를 의심하게 된 이유에 대해 “서로 다른 주에서 활동하고 있는데 정확히 같은 문구가 나타났고, 구글도 통상 그 법안을 지지하기 위해 나타났기 때문에 의심하기 시작했다(We were suspicious because we were working in different states and we saw the exact same language, and Google would typically show up to lobby for the bills as well)”고 말했다.
Q&A
Q. 구글이 직접 ‘AI 안전법’을 만들었다는 뜻인가?
그렇게 단정할 수는 없다. NPR 보도는 구글이 여러 주의 챗봇 안전법 입법에 관여하고 법안을 지지했으며, 하와이에서는 구글 측 로비스트가 의원에게 법안 후원을 요청했고 해당 의원이 법안의 틀이 구글에서 제공된 것으로 이해했다고 밝힌 내용을 담고 있다. 따라서 ‘구글이 미는 AI 안전법’은 가능하지만 ‘구글이 만든 법’이라고 단정하면 확인된 사실보다 의미가 넓어진다.
Q. 정말 제미나이가 규제 대상에서 빠지는가?
모든 법에서 제미나이가 자동으로 제외된다는 뜻은 아니다. 쟁점은 일부 법안의 예외조항을 적용하면 검색이나 기존 소프트웨어에 통합된 AI 기능 등 구글의 일부 서비스가 규제 대상에서 벗어날 가능성이 있다는 것이다. 따라서 제목의 “제미나이는 빼고?”는 확정된 법적 결론이 아니라 이번 로비 논란의 핵심을 압축한 표현이다.
Q. 왜 ‘AI 챗봇’의 정의가 그렇게 중요한가?
규제 대상을 결정하기 때문이다. 독립형 챗봇만 포함하고 검색엔진·소셜미디어·업무용 소프트웨어 등에 들어간 AI를 제외하면 비슷한 대화 기능을 제공해도 법적 의무가 달라질 수 있다. 하와이에서도 입법 과정에서 ‘대화형 AI 서비스’를 ‘AI 동반자’로 바꾸는 등 적용 대상의 정의가 수정됐다.
Q. 미국의 AI 챗봇 안전규제는 연방법인가?
이번 논란의 중심은 주법이다. 하와이와 캘리포니아를 비롯한 여러 주가 미성년자 보호와 AI 동반자 규제를 각각 추진하고 있다. 주마다 AI 챗봇의 정의와 예외, 사업자의 의무가 달라 같은 AI 서비스라도 적용되는 규제가 달라질 수 있다.
