미국 전자프런티어재단(EFF)은 온라인 스포츠 베팅업체 드래프트킹스(DraftKings)가 AI로 돈을 잃을 가능성이 큰 도박 이용자를 찾아내 재방문을 유도하는 맞춤형 광고를 보낸다고 주장했다. EFF는 9월 30일 전자프런티어재단(EFF)에 게재한 이런 광고가 이용자의 취약성을 이용한다며 행동 기반 광고를 금지해야 한다고 촉구했다.
베팅 기록으로 손실 가능성 큰 이용자 찾아
뉴욕타임스(New York Times) 보도에 따르면 드래프트킹스는 고객의 베팅 기록으로 머신러닝 모델을 훈련해 돈을 잃는 이용자를 찾아낸다. 회사는 이들에게 다시 사이트에 들어와 베팅하도록 유도하는 광고를 보내며, EFF는 광고 대상이 된 이용자들이 또 손실을 볼 것으로 회사가 판단한 사람들이라고 설명했다. EFF는 반복적인 도박으로 본인과 재정, 인간관계에 피해를 보면서도 도박을 멈추지 못하는 ‘문제 도박자’가 이런 모델의 표적이 될 가능성이 크다고 주장했다.
행동 기반 광고는 기업이 이용자에 관해 수집한 데이터를 바탕으로 개인별 광고를 보여주는 방식이다. EFF는 맞춤형 광고를 만들기 위해 더 많은 데이터가 수집되고, AI가 도입되면 모델을 훈련하고 개선할 데이터도 늘어난다고 지적했다. AI 모델은 어떤 데이터가 결과에 영향을 미치는지 사람이 미리 예측하기 어려운 ‘블랙박스’ 특성이 있어 기업이 계속 데이터를 모으게 된다는 설명이다. 또 AI는 방대한 데이터를 더 빠르게 처리해 이용자별 광고를 정교하게 만들 수 있다고 덧붙였다.
광고 데이터, 감시 산업에도 흘러갈 수 있어
EFF는 맞춤 광고를 위해 모은 데이터가 광고업계에만 머물지 않는다고 지적했다. 해당 데이터가 보험사와 은행, 세관국경보호국(CBP) 등 주·연방 법 집행기관에 판매되고 있다는 것이다. 미 이민세관단속국(ICE)은 올해 초 상업용 빅데이터·광고기술 제공업체가 수사 활동을 직접 지원할 수 있는 방안을 파악하기 위한 정보요청서를 냈다고 EFF는 전했다.
드래프트킹스는 외부에서 데이터를 사들이기보다 이용자에게서 직접 수집한 ‘퍼스트파티 데이터’만 광고 표적화에 쓰는 것으로 보인다고 EFF는 밝혔다. 이에 따라 제3자 간 데이터 공유와 판매만 제한하는 정책으로는 이런 광고를 막기 어렵다는 게 재단의 주장이다. EFF는 온라인 행동 기반 광고 자체를 금지해야 기업의 행동 데이터 수집 유인도 줄어든다고 강조했다. 이용자가 앱과 웹사이트에서 데이터를 보호하는 방법으로는 EFF의 ‘서베일런스 셀프 디펜스’ 자료 등을 소개했다.