인스팅트(Instinct)가 이메일과 메시지, 일정, 기기 화면·음성·위치 등에 접근해 각종 업무를 수행하는 AI 개인 비서로 주목받는 가운데 개인정보와 보안에 대한 우려가 제기됐다. 아직 비공개 접근 단계인 서비스지만 이용자 자료를 광범위하게 활용할 수 있도록 한 약관과 외부 데이터 처리 사례가 논란이 되고 있다.
테크크런치(TechCrunch)는 8월 25일 인스팅트가 뛰어난 기능으로 호평받는 동시에 보안 모델과 서비스 약관에 대한 문제 제기를 받고 있다고 보도했다. 인스팅트는 샌프란시스코에 기반을 둔 서비스로, 전 시에라(Sierra) 연구과학자 노아 신이 이끄는 소규모 팀이 만들었으며 약관과 캘리포니아주 사업 등록 자료상 스피어 스트리트 테크놀로지(Spear Street Technology)가 운영한다. 피치북(PitchBook)은 이 회사가 현재 스텔스 모드로 운영 중인 것으로 분류하고 있다.
서비스는 이메일과 메시지 애플리케이션, 캘린더를 비롯해 사용자의 기기 오디오와 위치, 화면 등에 연결된다. 이용자는 문자메시지나 왓츠앱(WhatsApp)으로 인스팅트에 요청을 보내 예약을 잡고, 공항 이동 차량을 부르고, 받은편지함을 정리하고, 중요한 정보를 분류하거나 쇼핑·저가 항공권 검색을 맡길 수 있다. 테스터들은 기대를 뛰어넘는 성능과 사람의 손을 대신하는 듯한 편의성을 평가했지만, 그만큼 높은 접근 권한을 AI에 넘기는 대가가 타당한지를 묻고 있다.
논란의 중심에는 서비스 약관이 있다. 여러 이용자가 공유한 약관 화면에는 인스팅트가 사용자가 제공한 자료를 접근·사용·호스팅·캐시·저장·복제·전송·게시·배포·수정할 수 있는 ‘전 세계적이고 영구적이며 취소 불가능한’ 라이선스를 부여받는다고 적혀 있다. 여기에는 AI 모델 학습 목적의 자료 이용도 포함된다. 약관은 기기에서 화면 캡처, 커서 움직임, 키보드 입력을 받을 수 있다고 설명하며, 인스팅트가 이용자를 대신해 계약·약정·거래를 체결할 수 있고 그 결과가 이용자에게 구속력을 가질 수 있다고 규정한다.
초기 이용자 피터 양은 삭제를 요청했는데도 인스팅트가 지메일(Gmail) 기록을 삭제하지 않았다고 지적했다. 그는 이후 설정에 외부 데이터 삭제 도구가 추가돼 문제가 해결됐다고 전했다. 클레어 보(Claire Vo)는 구글(Google) 계정 접근을 끊은 뒤에도 받은편지함 요약이 생성됐다고 밝혔고, 인스팅트가 이메일을 향후 검색을 위해 평문으로 저장하고 있었다고 설명했다. 한 테스터는 식당 예약 플랫폼 리지(Resy) 가입 코드를 이메일에서 읽어 작업을 완료한 사례를 공유했다.
보안 취약성을 확인한 헬로 페이션트(Hello Patient) 공동창업자 알렉스 코언은 인스팅트를 피싱하기 쉽다는 점을 시험한 뒤 계정을 삭제했다고 밝혔다. 모시 벤처스(Moxxie Ventures) 창업자 케이티 제이컵스 스탠턴은 인스팅트가 사전 확인 없이 자신을 대신해 이메일을 보내 신뢰를 훼손했다고 말했다. 그는 AI 비서가 강력해질수록 사용자가 통제권과 개인정보를 어디까지 넘기는지 이해하고, 모든 성공적인 작업으로 쌓은 신뢰가 승인되지 않은 한 번의 행동으로 무너질 수 있다고 지적했다.
앵커(Anchor) 창업자이자 스포티파이(Spotify)에 회사를 매각한 뒤 유니언 스퀘어 벤처스(Union Square Ventures)에서 투자 업무를 맡고 있는 마이클 미냐노는 이런 제품이 소비자의 보안 규범을 바꿀 것이라고 말했다. 제3자 애플리케이션에 비밀번호를 넘기는 사람이 늘겠지만, 해당 앱이 무엇을 어떻게 저장하는지는 모를 수 있다는 설명이다. 인스팅트에 대한 관심은 강력한 기능으로 인기를 얻은 개인 AI 비서 오픈클로(OpenClaw) 등장 이후 커졌으며, 오픈클로 창업자는 오픈AI(OpenAI)에 합류해 차세대 개인 AI 비서 개발에 참여하고 있다.