토니 퍼델(Tony Fadell)은 초기 AI 기기들이 실제 필요를 해결하지 못해 실패했다며, 차세대 개인 AI 비서가 성공하려면 신뢰와 개인정보 보호가 핵심이라고 말했다. 테크크런치는 10월 7일 퍼델이 매사추세츠공대(MIT) 퓨처 페스트(MIT Future Fest)에서 한 발언을 보도했다.
1세대 AI 기기가 해결하지 못한 문제
퍼델은 행사에서 이미 단종된 래빗 R1(Rabbit R1), 휴메인 AI 핀(Humane AI Pin), 리미틀리스 펜던트(Limitless Pendant)의 사진을 보여주며 이들을 ‘1세대’ AI 제품이라고 불렀다. 해당 제품을 만든 회사들이 조언을 구했지만 돕지 않았다고도 했다. 아이팟의 아버지로 불리고 아이폰 공동 제작자이자 네스트(Nest) 창업자인 퍼델은 제품을 만들기 전에 해결하려는 불편이 무엇인지부터 파악해야 한다고 강조했다.
그는 초기 기기들이 개인 비서의 편리함을 내세웠지만 실제로는 제대로 작동하지 않았고, 소비자의 구체적인 필요도 충족하지 못했다고 평가했다. 기술 자체는 흥미로울 수 있어도 일상에 쓸모가 없다면 구매할 이유가 없다는 설명이다. 퍼델은 이들 제품이 특정 기술에 관심이 많은 사람에게는 흥미로웠을지 몰라도, 생활에 적용되는 문제를 풀지 못했다고 지적했다.
AI 비서의 관건은 신뢰와 기기 내 처리
개인 AI 비서가 널리 쓰이기 어려운 배경으로는 사용 경험의 부족도 꼽았다. 퍼델은 인간 비서를 이용해 본 세계 인구가 0.01% 미만이라며, 대부분의 소비자는 비서가 어떤 일을 할 수 있는지조차 모른다고 말했다. 실제 비서를 고용한 뒤에도 업무에 활용하는 법을 익히고 민감한 정보를 맡기기까지는 수년이 걸렸다고 설명했다. 일정 조율이나 은행 업무처럼 중요한 일을 AI에 맡기려면 단계적으로 신뢰를 쌓아야 한다는 것이다.
개인정보 보호 문제는 AI 비서의 신뢰를 더 어렵게 만들 수 있다. 메타(Meta)가 범용 AI 비서 뮤즈(Muse)를 내놓은 뒤 보안 연구자가 중대한 취약점을 발견했고, 404미디어(404 Media)는 메타 직원들이 출시 전에 보안 문제를 파악해 여러 팀이 이를 해결하려 서둘렀다고 보도했다. 퍼델은 지능형 시스템에 일을 맡기려면 신뢰와 안전이 가장 중요하다고 말했다. 사용자가 첫날부터 인간 비서에게 은행 계정 정보를 넘기지 않듯, AI에도 민감한 접근 권한을 곧바로 맡기기는 어렵다는 취지다.
퍼델은 성공적인 AI 에이전트가 개인정보 보호를 위해 기기 안에서만 작동해야 한다고 내다봤다. 데이터센터가 모든 것을 장악할 것이라는 전망에는 회의적이라며, 스마트폰에 충분한 연산 능력이 있고 배터리로 구동된다고 말했다. 데이터를 클라우드로 보내지 않고 기기에 보관하면 민감한 정보가 외부로 전송되는 일을 줄일 수 있다는 설명이다. 그는 애플(Apple)이 하드웨어와 자체 칩 등 기반을 갖췄지만 AI 역량은 부족하다고 평가했다. 현재 새 시리(Siri) AI가 구글(Google)의 제미나이(Gemini)를 바탕으로 한 맞춤형 모델을 사용한다는 점도 언급됐다.
애플은 기기를 폭넓게 보급해 센서에 접근할 수 있지만, 메타나 오픈AI(OpenAI)는 같은 기반이 없어 별도 기기를 만들려 한다는 게 퍼델의 분석이다. 스마트폰에서 영상·음성·위치정보를 하나씩 허용받는 대신, 센서를 갖춘 기기를 만들어 휴대전화와 연결하고 데이터를 웹이나 5G 네트워크로 보내려 한다는 설명이다. 다만 그는 제품과 시장의 궁합을 찾는 일이 스타트업에는 더 어렵다고도 말했다. 신생 기업은 실패한 제품을 만회할 기회가 한 번뿐이지만, 애플은 비전 프로(Vision Pro)처럼 실패 가능성을 감수할 여력이 있다는 취지로 농담했다.