코히어(Cohere)가 기업용 AI 에이전트 플랫폼을 전면 개편한 ‘노스 2(North 2)’를 공개했다. IT 전문매체 실리콘앵글(SiliconANGLE)은 10월 5일 이같이 보도했다.
업무 자동화와 토큰 지출 관리 강화
노스 2는 여러 단계로 이뤄진 에이전트 작업을 조율하는 기능을 손보고, 토큰 사용량을 제한하는 관리 도구를 추가한 플랫폼이다. 코히어는 기업이 에이전트를 도입하면서 보안, 기능, 비용 통제 중 하나를 포기해야 했던 상황을 바꾸는 데 초점을 맞췄다고 설명했다. 기존 노스는 2025년 8월부터 일반에 제공됐으며, 금융업부터 공공 부문까지 대규모 운영 환경에서 얻은 경험이 이번 개편에 반영됐다.
에이전트는 다단계 작업을 수행하다 승인이나 판단이 필요한 단계에서 사람에게 넘길 수 있다. 간단한 프롬프트로 만든 에이전트를 사내에 공유해 다른 팀이 같은 업무 흐름을 다시 구축하지 않도록 하고, 에이전트별로 세션이 끝난 뒤에도 기억을 유지하는 기능을 제공한다. 반복해서 쓰는 처리 절차는 ‘스킬’로 묶을 수 있으며, 여러 에이전트가 함께 접근해야 하는 문서와 자료는 공유 라이브러리에 보관한다. 자연어 요청으로 슬라이드 자료나 대시보드, 간단한 앱을 만들고 채팅창 안에서 시제품을 확인하는 기능도 포함됐다.
보안·비용 통제와 기업 적용 사례
정기적으로 반복되는 업무에는 미리 만든 템플릿과 드래그 앤드 드롭 방식의 워크플로 빌더를 쓸 수 있다. 빌더는 작업 성과를 실시간으로 보여준다. 연결 기능은 슬랙(Slack), 깃허브(GitHub), 마이크로소프트(Microsoft)의 셰어포인트(SharePoint)와 원드라이브(OneDrive)를 지원하며, 코히어는 피치북(PitchBook), S&P 글로벌(S&P Global), 팩트셋(FactSet) 등 금융 데이터 제공업체와의 연결도 계획하고 있다.
관리 콘솔 ‘노스 어드민’에서는 사용자와 에이전트별 토큰 사용량을 추적하고, 사용자나 그룹에 요청량·토큰 사용량 기준을 설정할 수 있다. 조직 전체 사용 한도를 정하거나 한도 도달 전에 알림을 보내는 것도 가능하다. 관리자는 팀마다 사용할 모델을 지정할 수 있으며, 외부에서 가져온 모델도 선택할 수 있다. 보안 기능은 프롬프트와 응답에 포함된 개인 식별 정보, 프롬프트 인젝션(prompt injection) 시도를 검사하고, 에이전트가 허가된 작업만 하도록 제한한다.
코히어는 엔비디아(Nvidia)의 블랙웰과 호퍼 GPU에서 자사 모델이 노드당 초당 더 많은 토큰을 생성해 노스 운영 비용을 낮출 수 있다고 밝혔다. 엔비디아의 생성형 AI 담당 부사장 카리 브리스키(Kari Briski)는 이 협력이 노스 2에서 더 적은 비용으로 더 많은 토큰을 처리하는 데 도움이 된다고 말했다. 플랫폼은 고객사 자체 데이터센터나 가상 사설 클라우드에서 운영할 수 있고, 외부 연결을 차단한 환경에도 설치할 수 있다.
캐나다 통신사 벨 캐나다(Bell Canada)의 보안 사업부 벨 사이버(Bell Cyber)는 보안 운영에 노스를 사용하고 있다. 벨 사이버의 최고기술·AI 책임자 자웨드 아흐마드는 고객이 요구하는 통제와 데이터 주권을 갖춘 에이전트형 AI를 운영할 수 있다고 말했다. 국내 IT 서비스 기업 LG CNS도 내부 업무와 국내 고객사 대상 서비스에 노스를 활용한다. 코히어 초기 투자자인 래디컬 벤처스(Radical Ventures)는 창업자와의 통화 전 읽을 브리핑 자료를 준비하는 자동화 업무에 플랫폼을 적용했다. 이번 공개는 코히어가 독일 AI 개발사 알레프 알파(Aleph Alpha)와 합병 계약을 체결한 지 3주가 채 지나지 않은 시점에 이뤄졌다.