미국 증권거래위원회(SEC)와 법무부(DOJ)가 기업과 금융회사의 인공지능(AI) 관련 허위·과장 표현을 증권사기와 컴플라이언스(법규 준수) 문제로 다루면서 ‘AI 워싱(AI washing·실제보다 AI 기술이나 활용 능력을 과장하는 행위)’이 미국 기업의 새로운 법률 리스크로 떠오르고 있다.
기업이 투자자에게 AI 기술을 실제보다 부풀려 설명하거나 AI를 활용하지 않으면서 투자·서비스 과정에 AI를 사용한다고 홍보할 경우 SEC 조사와 민·형사 책임으로 이어질 수 있다는 것이다. 이런 AI 관련 증권 집행과 규제 동향을 다룬 전문 교육 프로그램을 미국 법률 전문 매체 Law.com이 공개했다.
이 프로그램은 증권 규제 전문 교육기관 ‘시큐리티스 도켓(Securities Docket)‘이 제공하는 고급 과정이다. 데이비드 우드콕, 커트 울프, 팸 파리젝, 브라이언 코왈스키, 알로 데블린-브라운 등 증권 집행·기업 조사 전문가들이 강사로 참여한다. 수강료는 85달러(약 11만8000원)다.
핵심 쟁점은 기업이 AI를 실제로 사용하는지 여부뿐 아니라 투자자에게 AI의 능력과 역할을 어떻게 설명했느냐다. AI 기술을 투자 결정에 이용한다고 주장하면서 실제 시스템이 그런 기능을 갖추지 못했거나, AI의 자동화 수준과 성능을 부풀리는 행위가 대표적이다.
“AI 쓴다”는 말도 증권 공시가 됐다
AI 워싱은 친환경성을 실제보다 부풀리는 ‘그린워싱(greenwashing)’에서 파생된 표현이다. 기업이 제품이나 투자전략에 AI가 사용되는 정도, AI의 성능 또는 자체 기술 보유 수준을 실제보다 과장하는 행위를 가리킨다.
SEC는 이미 이 문제를 기존 증권법으로 처리할 수 있다는 입장을 분명히 해왔다. SEC는 2024년 투자자문사 델피아(Delphia USA)와 글로벌 프레딕션스(Global Predictions)가 AI를 투자 과정에 사용하는 방법을 허위 또는 오해를 일으킬 수 있게 설명했다며 제재했다. 당시 SEC는 AI를 사용한다고 주장한다면 실제 투자 과정이 그 설명과 일치해야 한다고 밝혔다.
AI 워싱의 범위도 넓어지고 있다. 기업이 AI를 사용한다는 사실 자체를 허위로 밝히는 경우뿐 아니라 AI의 자율성이나 성능을 과장하거나 제3자 AI 모델을 이용하면서 자체 기술인 것처럼 표현하는 행위도 문제가 될 수 있다. 지난 5월 미국 ㄷ 대형 로펌 데비보이스앤드플림턴은 AI 워싱이 규제기관뿐 아니라 민간 소송에서도 법적 책임으로 이어질 수 있다고 분석한 바 있다.
이 로펌은 AI를 이용한다는 기업의 주장이 고객과 투자자를 끌어들이거나 기업가치를 높이는 수단으로 사용되면서 허위광고와 증권법 리스크가 동시에 커지고 있다고 분석했다. 특히 “AI 기반(AI-powered)”이나 “머신러닝 기반(machine-learning driven)” 같은 표현도 이를 뒷받침할 기술적 근거가 있는지 확인할 필요가 있다는 것이다.
생성형 AI 사용 기록도 컴플라이언스 대상
규제 위험은 기업의 대외 홍보에 그치지 않는다. 금융회사가 내부적으로 AI를 사용하는 과정에서 어떤 자료를 보존해야 하는지도 새로운 쟁점으로 부상했다.
미국 결제·금융 전문매체 PYMNTS는 8월12일 “금융서비스 기업들이 AI를 컴플라이언스와 고객 커뮤니케이션 등에 빠르게 도입하면서 AI가 생성하거나 처리한 기록의 보존 의무가 중요한 규제 문제로 떠올랐다”고 주목한 바 있다.
SEC와 미국 금융산업규제국(FINRA)이 AI만을 대상으로 한 별도의 기록 보존 규칙을 마련하지 않았더라도 기존 감독·통신·기록보존·이해충돌 규정은 그대로 적용될 수 있다는 것이다. 사람이 수행하던 업무를 AI가 대신한다고 해서 기존 금융규제가 사라지는 것은 아니라는 의미다.
예를 들어 AI가 고객과 통신하거나 투자 관련 자료를 작성하면 금융회사는 그 과정과 결과를 어느 수준까지 기록해야 하는지 판단해야 한다. 생성형 AI(Generative AI·학습한 데이터를 토대로 새로운 텍스트·이미지 등을 만들어내는 AI)는 동일한 질문에도 다른 답변을 생성할 수 있어 기존의 정형화된 소프트웨어보다 감사와 기록 관리가 어렵다.
증권소송에 ‘AI 워싱’ 본격 등장
AI는 증권소송의 쟁점도 바꾸고 있다. 기업의 AI 기술 관련 설명이 과장됐다는 주장이 투자자 소송에 등장하는 동시에 기업이나 변호사가 생성형 AI를 이용해 작성한 자료에 변호사·의뢰인 비밀특권(attorney-client privilege·변호사와 의뢰인 사이의 비밀 의사소통을 공개하지 않을 수 있는 법적 보호)이 인정될 수 있는지도 논란이 되고 있다.
일례로 미국 로펌 트라우트먼 페퍼 로크(Troutman Pepper Locke)는 8월 증권 집행 보고서에서 “공개기업들이 실적 발표에서 ‘AI 기반 전략’을 일상적으로 언급하면서 AI 워싱과 AI 사용에 따른 비밀특권 문제가 증권사건의 주요 쟁점으로 등장했다”고 분석했다.
이 로펌은 “기업 이사회에서도 AI 위험이 사이버보안이나 ESG(환경·사회·지배구조)와 함께 주요 관리 대상으로 다뤄지고 있다”고 설명했다. 기업과 로펌이 AI를 공시자료 작성, 문서 요약, 소송 준비 등에 사용하면서 AI 도구에 입력한 기밀정보가 기존 비밀특권으로 보호되는지도 새로운 법률 문제로 떠오르고 있다는 것이다.
AI 도입보다 ‘무엇이라고 말했는가’가 문제
SEC의 AI 집행에서 중요한 원칙은 새로운 AI 전용 증권법이 있어야만 처벌할 수 있는 것은 아니라는 점이다. 기존 증권법상 사기방지 규정과 투자자문사의 광고·마케팅 규정만으로도 허위 AI 주장을 제재할 수 있다.
SEC는 2024년 델피아와 글로벌 프레딕션스 사건에서 이런 접근법을 처음 명확히 보여줬다. 델피아는 고객 데이터를 이용해 AI와 머신러닝 모델을 학습하고 이를 투자 의사결정에 활용한다고 설명했지만 SEC는 이런 주장을 뒷받침할 근거가 없다고 판단했다. 글로벌 프레딕션스도 자신을 AI 기반 금융자문 서비스로 홍보한 표현이 문제가 됐다.
따라서 기업의 법무·컴플라이언스 조직에는 AI 기술 자체를 이해하는 능력뿐 아니라 회사가 외부에 사용하는 AI 관련 표현을 기술적으로 검증하는 절차가 중요해지고 있다. 마케팅 부서가 ‘AI 기반’이라고 표현한 기능이 실제 제품에 존재하는지, 투자자 설명자료와 공시 내용이 실제 AI 활용 방식과 일치하는지 확인해야 한다는 것이다.
AI 규제의 초점이 ‘AI를 사용할 수 있는가’에서 ‘AI에 대해 무엇을 주장했고 그 주장을 입증할 수 있는가’로 이동하고 있는 셈이다.
Q&A
Q1. AI 워싱이란 무엇인가.
기업이나 금융회사가 실제보다 AI 사용 정도나 기술 성능을 과장하거나 존재하지 않는 AI 기능을 갖고 있다고 홍보하는 행위다. 투자자의 판단에 영향을 줄 정도라면 증권법상 허위·오도 표시 문제가 될 수 있다.
Q2. 미국에 AI 워싱을 금지하는 별도 증권법이 있는가.
AI 전용 증권법이 없어도 SEC는 기존 증권법의 사기방지 규정과 투자자문사 관련 규정을 적용할 수 있다. 델피아와 글로벌 프레딕션스 사건이 대표적인 사례다.
Q3. 실제로 AI를 사용한다면 ‘AI 기반’이라고 홍보해도 되는가.
AI를 일부 사용한다는 사실만으로 모든 표현이 정당화되는 것은 아니다. AI가 수행하는 기능과 자동화 수준, 자체 기술 여부 등을 실제보다 부풀리면 문제가 될 수 있다.
Q4. 금융회사가 생성형 AI를 내부적으로 사용하는 것도 규제 대상인가.
그렇다. 기존 기록보존, 감독, 고객 커뮤니케이션, 이해충돌 및 수탁자 의무 등이 AI를 이용한 업무에도 적용될 수 있다.
Q5. 기업이 가장 먼저 준비해야 할 것은 무엇인가.
공시·마케팅·투자자 설명자료에 포함된 AI 관련 주장을 기술 부서와 법무·컴플라이언스 부서가 함께 검증하고 이를 뒷받침하는 자료를 보존하는 내부 통제 절차를 마련할 필요가 있다.
