로봇 안전성 평가 스타트업 세이프월드(Safeworld)가 생성형 AI 기반 로봇 제어 시스템을 시뮬레이션으로 검증하는 사업을 위해 시드 투자로 1200만달러 이상을 유치했다. 테크크런치는 10월 5일 세이프월드가 비공개 상태를 끝내고 사업을 공개했다고 보도했다.
현실 환경의 로봇 안전성 검증
투자는 샤인캐피털(Shine Capital)과 에이식스틴즈 스피드런(a16z Speedrun)이 주도했고, 박스그룹(Box Group), 카네기멜런대 기금(Carnegie Mellon University Endowment), 이노베이션 엔데버스(Innovation Endeavors), 에스브이앤젤(SV Angel)이 추가로 참여했다. 세이프월드는 카네기멜런대 세이프 AI 연구소를 이끄는 딩 자오(Ding Zhao) 박사와 스타트업 경영자 카일 웡(Kyle Wong), 머신러닝 엔지니어 시모 라치디(Simo Rachidi)가 설립했다.
회사는 사람을 사실적으로 구현한 시뮬레이션에서 로봇 제어 시스템을 평가한다. 공장 내 사각지대에서 작업자가 상자를 들고 지나갈 때 로봇이 이를 감지하는지, 충돌을 막으려면 로봇의 속도와 제동 거리를 어떻게 설정해야 하는지 등을 시험하는 방식이다. 세이프월드는 제네시스(Genesis)나 무조코(MuJoCo) 같은 모델에 현장의 사각지대를 구현하고, 실제 소프트웨어로 작동하는 로봇을 넣어 사람과 마주치는 수천 가지 상황을 실행할 계획이다. 사람이 넘어지거나 자세를 바꾸는 경우도 시험할 수 있어 실제 현장에서 반복하기 어려운 상황을 검증할 수 있다고 웡은 설명했다.
제3자 검증과 현장 적용
자오 창업자는 생성형 AI 시스템은 기존 알고리즘처럼 동작을 예측하기 어렵다며, 확률적으로 작동하는 시스템의 위험을 평가하는 일과 로봇을 현장에 투입할 신뢰를 확보하는 일이 모두 필요하다고 말했다. 그는 로봇이 시연 환경에서 어떻게 움직이는지가 아니라, 로봇을 다뤄본 적 없는 사람도 있는 곳에 대규모로 배치됐을 때의 예외 상황을 해결하는 것이 과제라고 덧붙였다.
태양광 발전소에서 작업자의 패널 설치를 돕는 로봇을 개발하는 그릿 로보틱스(Gritt Robotics)는 세이프월드와 안전 시뮬레이션을 개발하고 있다. 최고기술책임자 비샬 두가르(Vishal Dugar)는 수학적 증명만으로 시스템의 안전성을 입증하기 어려워 실제 상황을 바탕으로 검증해야 한다고 말했다. 로봇 팔이 작업자를 치지 않는지 확인하려면 사람이 서거나 무릎을 꿇는 자세뿐 아니라 넘어지거나 달리는 경우도 고려해야 한다. 체격과 키, 피부색, 옷차림 등 사람의 외형 차이도 시험 조건에 포함된다고 두가르는 설명했다.
세이프월드는 외부 고객이 이용하는 플랫폼으로 사업을 운영할지, 안전 검증 서비스를 제공할지 아직 정하지 않았다. 에이식스틴즈 스피드런의 조너선 라이(Jonathan Lai) 파트너는 로봇이 가정에 보급돼 안전사고가 난 뒤가 아니라 설계·배치 단계에서 업계 안전 기준을 마련해야 한다고 말했다. 자오는 로봇을 배치하려는 기업은 안전 문제 해결을 위해 세이프월드에 비용을 지불할 것이라며 이 분야에서 수익을 내는 첫 회사가 될 수 있다고 내다봤다.