엔비디아(Nvidia)의 젠슨 황(Jensen Huang)이 AI 기업이 새 기술의 출시 여부와 안전성을 스스로 판단해야 하며 새로운 법이나 규제는 필요하지 않다고 밝혔다. 영국 BBC는 9월 16일 황이 미국 샌프란시스코 세일즈포스 콘퍼런스에서 AI의 잠재적 위험에 대해 이같이 말했다고 보도했다.
젠슨 황 “안전은 엔지니어링 문제”
황은 혁신과 속도, 안전한 제품이 서로 양립할 수 없다는 주장은 잘못됐다며 “새로운 법이나 규제가 필요하지 않다”고 말했다. 그는 AI 기업의 리더가 제품에 확신이 없다면 출시하지 않아야 하며, 조직이 기술을 통제하고 있지 않다고 느끼는 순간에는 개발을 멈춰야 한다고 설명했다.
엔비디아는 AI 연산용 칩 수요가 급증하면서 이익이 크게 늘어난 기업으로, 현재 기업가치 기준 세계 최대 기업으로 평가된다. 황은 최근 AI의 발전을 “새로운 산업혁명”이라고 표현하면서도 안전을 최우선으로 삼아야 한다고 강조했지만, 산업 전체를 외부 규제로 통제하기보다는 기업의 공학적 판단에 맡겨야 한다는 입장을 내놨다.
AI 업계에서는 자율 규제에 이견
황의 발언은 AI가 인류에 미칠 위험을 우려하며 규제를 요구해온 업계 인사들의 주장과 대비된다. 앤트로픽(Anthropic)을 퇴사한 한 AI 연구자는 통제되지 않은 AI가 10년 안에 인류 전체를 사망에 이르게 할 수 있다는 취지의 글을 올렸고, 온라인에서 큰 반향을 일으켰다. 앤트로픽 최고경영자 다리오 아모데이는 AI 개발 속도를 늦추고 각국 정부가 산업을 규제해야 한다고 촉구했다.
이 글에는 오픈AI(OpenAI) 최고경영자 샘 올트먼(Sam Altman), 구글 딥마인드(Google DeepMind) 공동창업자 데미스 허사비스, X와 AI 비서 그록(Grok)을 소유한 일론 머스크 등이 호응했다. 반면 일부 업계 관계자들은 위험론이 과장됐거나 산업에 대한 관심을 끌기 위한 홍보에 이용되고 있다고 지적했다. 앤트로픽 공동창업자 잭 클라크는 AI를 완전히 규제하지 않는 것은 엄청난 위험을 걸고 주사위를 던지는 일이라고 BBC에 말했다.
AI 기업들이 공공의 이익을 위해 스스로 행동할 것이라는 전망에도 회의론이 제기됐다. 논리컬 인텔리전스의 최고사업책임자 패트릭 힐먼은 미국인들이 워싱턴 정치권보다 실리콘밸리를 더 신뢰하지 않을 수도 있다며, 기업이 자신들이 만드는 기술을 위험하다고 본다면 무엇을 중단할 준비가 돼 있는지 보여줘야 한다고 말했다.
오픈AI와 앤트로픽은 정부 지원 여부와 관계없이 AI 안전 기준을 마련하기 위한 업계 차원의 자율적 협의를 추진하고 있다. 아모데이는 앤트로픽이 다른 AI 기업들과 더 나은 안전 기준과 AI 도구 점검 방안을 논의하고 있다고 밝혔고, 오픈AI 임원 크리스 레헤인은 앤트로픽과 구글 딥마인드를 포함한 연구소들과 프런티어 AI(frontier AI) 기준을 마련하는 자율 협력을 진행 중이라고 설명했다. 다만 AI 기업의 자체 판단에 맡길지, 정부 규제를 도입할지를 둘러싼 논쟁은 계속될 전망이다.