아르티 가그 아베바(AVEVA) 최고기술자는 산업 현장에서 AI 자율화가 확대되더라도 안전과 신뢰성을 위해 사람이 핵심 의사결정에 계속 관여해야 한다고 강조했다. MIT 테크놀로지 리뷰는 10월 8일 가그와의 인터뷰를 담은 팟캐스트 산업 AI의 안전한 도입과 지속가능성을 다뤘다.
산업 AI, 예측 분석에서 자율 시스템으로
산업계에서 AI 활용은 새로운 일이 아니지만, 최근 몇 년 사이 기반 모델과 물리 AI, 에이전트형(agentic) AI가 등장하면서 적용 범위가 달라지고 있다. 가그 최고기술자는 아베바가 산업 분야에서 AI 활용을 20년 넘게 연구해 왔다며, 범용 기반 모델은 더 많은 사람이 고도화된 AI 기술을 활용할 수 있게 했다고 설명했다. 로봇과 자율 시스템의 능력을 높이는 물리 AI, 소프트웨어 업무 자동화를 돕는 에이전트형 AI도 확산하고 있다는 것이다.
가그 최고기술자는 산업 분야의 AI 도입이 최근 2년 동안 약 78% 증가했다는 연구 결과도 언급했다. 다만 해당 연구의 조사 대상과 산출 방식은 인터뷰에서 구체적으로 제시되지 않았다. 산업 현장은 발전 시스템이나 설비처럼 안전과 안정적 운영이 중요한 환경인 만큼, 예측하기 어렵고 설명하기도 까다로운 AI를 도입할 때 위험을 통제하는 방안이 필요하다고 그는 말했다.
산업 시스템에는 설비 원격측정 데이터, 정비 기록, 엔지니어링 문서 등 서로 다른 형태의 정보가 흩어져 있다. 새로운 AI 기술은 이 자료들을 더 빠르게 연결·분석해 작업자가 문제를 진단할 때 실시간으로 참고할 정보를 제공할 수 있다. AI 로봇은 위험한 장소에서 정보를 수집해 사람이 직접 들어가야 하는 상황을 줄이는 데 쓰일 수 있다. 그러나 자동화 범위가 커질수록 시스템이 어떤 상황에서 직접 행동할지, 언제 사람에게 판단을 맡길지 정하는 관리 체계도 중요해진다.
안전장치·지속가능성 갖춰야 자율화 가능
아베바의 책임 있는 AI 원칙은 보안과 효율성, 인간의 안전 및 감독을 강조한다. 가그 최고기술자는 AI가 중요한 의사결정 과정에서 사람을 대체하기보다 지원해야 한다고 말했다. 자동 시스템의 권한과 사람의 책임 범위를 안전장치로 구분하고, 중요한 판단에는 현장 담당자가 계속 관여해야 한다는 설명이다. 산업 AI는 디지털 환경에서만 작동하는 AI와 달리 물리 시스템과 직접 상호작용하며, 예상치 못한 결정은 안전과 신뢰성, 핵심 인프라에 영향을 미칠 수 있다.
지속가능성도 과제로 꼽혔다. 재생에너지 발전 비중이 커지는 상황에서 AI는 복잡해지는 전력 시스템 운영을 지원할 수 있지만, AI 자체가 쓰는 전력과 에너지·자원·물, 배출 탄소의 영향도 측정해야 한다는 것이다. 가그 최고기술자는 이 영향을 평가할 표준 방법론을 마련하기 위해 IEEE 작업반에 참여하고 있다고 밝혔다. 기사에는 표준의 완성 시점이나 구체적인 측정 결과는 제시되지 않았다.
앞으로 산업 현장에서는 자율 로봇과 드론, 분야별 전문가가 AI 지원 코딩으로 새 응용 프로그램을 만드는 방식 등이 활용될 수 있다. 가그 최고기술자는 로봇과 드론이 공장, 전력 시스템, 광산 현장의 작업 방식을 바꿔 효율과 생산성을 높이고 작업자 안전에도 기여할 수 있다고 내다봤다. 다만 새 기술을 배치하는 것만으로는 충분하지 않으며, 조직이 업무 절차를 다시 살피고 적절한 안전장치를 마련해야 한다고 강조했다. 경험 많은 노동자가 전문성을 새 방식으로 발휘할 수 있도록 하는 것도 책임 있는 자동화의 조건으로 제시됐다.