인공지능, 정말 인류를 파괴할까?

2004년 개봉한 영화 《아이, 로봇(I, Robot)》에는 인간을 보호하기 위해 만들어진 인공지능 ‘VIKI’가 등장한다. VIKI가 내린 결론은 섬뜩하다. 인류 전체를 보호하려면 일부 인간의 자유를 희생해야 한다는 것이다. VIKI는 그 결론을 실제로 실행한다.

영화 속 이야기라고만 생각했던 장면이 이제는 조금 다르게 보인다. 최근 인공지능을 개발해 온 연구자들이 잇따라 AI의 위험성을 경고하고, 일부는 개발 현장을 떠나기까지 했다. 인공지능의 발전 속도가 너무 빠르고, 그에 비해 안전을 확보하기 위한 준비가 충분하지 않다는 우려 때문이다.

그렇다면 인공지능은 정말 인류를 파괴할 것인가. 아직 누구도 이 질문에 확실히 답할 수는 없을 것이다. 하지만 이 질문보다 먼저 생각해볼 것이 있다. 인공지능은 인간에게 어떤 존재인가.

인간의 한계를 보완해 온 기술

인간은 언제나 자신의 한계를 기술로 보완해 왔다. 교통수단의 발전은 인간이 이동할 수 있는 범위를 넓혔고, 기계의 발전은 인간이 발휘할 수 있는 육체적 능력을 확장했다. 컴퓨터는 인간이 처리할 수 있는 계산의 규모와 속도를 증가시켰고, 인터넷은 인간이 정보를 접하고 주고받을 수 있는 영역을 확대했다. 기술은 인간의 신체적 한계를 보완했고, 그 결과 인간이 자신의 삶을 스스로 생각하고 판단하고 결정할 수 있는 가능성도 넓혀 왔다. 인간의 자율성을 확대해 온 인권의 역사에서 기술은 단순한 편의의 수단이 아니라, 인간이 자신의 삶을 형성할 수 있는 실질적 조건을 넓혀 온 중요한 도구였다.

기술이 보완하기 시작한 인간의 한계는 이제 신체를 넘어 정신적 영역, 그중에서도 특히 인지의 영역으로 향하고 있다. 인간은 아무리 많은 정보를 접하더라도 그것을 모두 기억하고 비교하고 분석할 수는 없다. 수많은 가능성을 동시에 검토하거나, 방대한 데이터 속에서 일정한 패턴을 찾아내거나, 복잡한 정보를 바탕으로 결과를 예측하는 데에도 한계가 있다. 인공지능은 인간이 감당하기 어려운 정보의 양과 복잡성을 처리하고, 그 안에서 일정한 패턴과 가능성을 찾아낸다. 그 결과 인간이 일일이 찾아보고 비교하고 판단해야 했던 과정의 일부를 기술이 대신할 수 있게 된 것이다.

우리 법도 인공지능을 단순한 계산기 정도로 보지 않는다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 인공지능기본법은 인공지능을 학습·추론·지각·판단·언어의 이해 등 인간의 지적 능력을 전자적 방법으로 구현한 것으로 정의한다. 그리고 인공지능시스템은 다양한 수준의 자율성과 적응성을 가지고 실제 및 가상환경에 영향을 미치는 예측·추천·결정 등의 결과물을 추론하는 시스템으로 규정한다. 여기에서 주목할 것은 인공지능이 인간의 손발만 대신하는 기술이 아니라는 점이다. 인공지능은 지금까지 인간이 수행해 온 정보의 수집과 비교, 판단의 과정에까지 관여할 수 있는 기술인 것이다.

그렇다고 인간이 누구의 도움도 받지 않고 혼자 정보를 수집하고, 비교해서 판단, 결정을 내렸다는 것은 아니다. 우리는 중요한 결정을 앞두고 전문가의 조언을 구하고, 책을 읽고, 다른 사람의 의견을 듣는다. 의사의 설명을 듣고 치료 방법을 선택하고, 변호사의 조언을 들은 뒤 법적 대응을 결정하기도 한다. 타인의 지식과 경험을 활용하더라도 자신의 의사에 따라 판단하고 선택한다면, 그 결정은 여전히 자신의 결정이다. 결국 중요한 것은 자신에게 필요한 정보를 접하고, 여러 가능성을 판단하며, 자신의 의사에 따라 실질적으로 선택할 수 있었는가에 있다.

하지만 AI의 도움은 기존의 도움과는 다른 문제를 제기한다. AI는 단순히 정보를 전달하는 데 그치지 않고, 방대한 정보 가운데 무엇을 보여줄 것인지, 어떤 가능성을 제시할 것인지, 나아가 어떤 선택이 적절한지까지 분석해 제시할 수 있기 때문이다. 인간은 AI가 제시한 정보를 바탕으로 판단하고 선택하지만, 그 판단에 앞서 마주하게 되는 정보와 선택지 자체가 AI의 분석에 의해 구성될 수 있는 것이다.

형식적 최종 결정과 실질적 선택의 알고리즘 개입

“문제는 AI가 인간의 결정을 대신하느냐가 아니다. 인간이 결정을 내리기 전에 마주하는 정보와 선택지에 AI가 어느 정도까지 관여할 수 있느냐이다.”

문제는 AI가 인간의 결정을 대신하느냐가 아니다. 인간이 결정을 내리기 전에 마주하는 정보와 선택지에 AI가 어느 정도까지 관여할 수 있느냐이다. 가령 채용 담당자가 수많은 지원자의 이력서를 검토한다고 생각해보자. 1만명의 지원자 가운데 AI가 경력과 역량, 직무 적합성 등을 분석해 100명을 추려낸 뒤 담당자에게 제시할 수 있다. 담당자는 그 100명의 지원자를 직접 검토하고 최종적으로 한 사람을 선택한다. 형식적으로 보자면, 최종적으로 한 사람을 선택한 것은 담당자이다. AI가 특정 지원자를 채용하라고 결정한 것도 아니고, 담당자의 선택을 강제한 것도 아니다. 그러나 담당자가 실제로 검토한 대상은 1만명 전체가 아니라 AI가 먼저 추려낸 100명이었다. 인간의 결정은 그대로 남아 있지만, 그 결정에 이르기까지 마주하게 되는 선택의 범위에는 이미 AI의 판단이 개입되어 있는 것이다.

그렇다면 인간이 최종적인 선택을 스스로 했더라도, 그 선택에 앞서 무엇을 보고 무엇을 비교할 것인지가 이미 정해져 있다면 인간의 판단은 이전과 같은 방식으로 이루어진다고 말할 수 있을까.

법도 이 지점을 들여다보기 시작했다. 인공지능기본법은 채용이나 대출 심사처럼 개인의 권리·의무 관계에 중대한 영향을 미치는 판단이나 평가에 쓰이는 인공지능을 ‘고영향 인공지능’으로 따로 분류한다. 개인정보 보호법은 2024년 3월부터 ‘완전히 자동화된 시스템’으로 이루어진 결정이 자신의 권리나 의무에 중대한 영향을 미치면 그 결정을 거부하거나 설명을 요구할 수 있는 권리를 인정하고 있다. 그런데 앞의 사례처럼 최종 선택을 사람이 했다면, 그 결정을 ‘완전히 자동화된’ 결정이라고 할 수 있을까. AI가 걸러낸 9900명에게는 그 선별이 사실상 최종 결정이었지만, 형식적으로 결정을 내린 것은 사람이었다. 누가 마지막에 결정했는가만 따진다면, 결정에 이르는 과정에서 일어난 AI의 개입은 법의 시야에서 벗어날 수 있다.

AI는 인간의 판단을 없애는 것이 아니라, 인간의 판단 과정에 새로운 변화를 가져오고 있다. 지금까지 기술이 인간이 할 수 있는 일의 범위를 넓혀 왔다면, AI는 한 걸음 더 나아가 인간이 무엇을 보고, 무엇을 비교하고, 무엇을 선택할 것인지에 영향을 미치는 단계까지 들어오고 있는 것이다.

이 문제는 채용과 같은 특정한 상황에만 머물지 않는다. 우리가 검색을 통해 정보를 얻고, 영화를 고르고, 상품을 구매하고, 금융상품을 선택하는 일상적인 순간에도 AI는 무엇을 보여주고 무엇을 추천할 것인지 관여하고 있다. 우리는 스스로 선택한다고 생각하지만, 그 선택에 앞서 제공되는 정보와 선택지는 점점 더 알고리즘에 의해 구성되고 있다.

그렇다고 AI의 추천을 모두 배제해야 한다는 뜻은 아니다. 인간은 기술의 도움을 받아 더 많은 정보를 얻고, 더 나은 판단을 할 수도 있다. 문제는 AI의 도움을 받는 것 자체가 아니라, 그 도움을 받는 과정에서도 인간이 자신의 판단을 형성하고 선택할 실질적인 가능성을 가지고 있는가에 있다.

AI 시대, 헌법의 자기결정권이 마주한 새로운 질문

결국 AI 시대에 우리가 다시 물어야 할 것은 인간이 AI 없이 결정할 수 있는가가 아니다. 인간은 앞으로도 AI의 도움을 받으며 살아갈 가능성이 높다. 오히려 중요한 질문은 AI의 도움을 받으면서도 인간의 판단과 선택이 여전히 인간의 것으로 남을 수 있는가이다. 인공지능이 정말 인류를 파괴할 것인지는 아직 알 수 없다. 그러나 분명한 변화 하나는 이미 시작됐다. 인간이 결정을 내리는 방식이 달라지고 있다는 것이다.

“AI의 도움을 받으면서도 인간의 판단과 선택이 여전히 인간의 것으로 남을 수 있는가. AI가 인간의 삶에 개입하는 방식이 달라지는 만큼, 헌법의 기본권은 새로운 질문 앞에 서게 된다.”

헌법재판소는 헌법 제10조의 인격권과 행복추구권에서 개인이 자기 삶의 중요한 사항을 스스로 결정할 권리, 곧 자기결정권을 이끌어내 왔다. 인권의 역사에서 인간이 스스로 생각하고 판단하고 결정할 수 있는 영역을 넓혀 온 것이 중요한 의미를 가졌다면, 이제 헌법은 새로운 질문을 마주하게 된다. AI가 인간의 생각과 판단에 관여하는 시대에도, 인간은 여전히 자신의 삶을 스스로 결정하는 주체로 남아 있을 수 있는가. 이 질문은 하나의 기본권에만 머물지 않는다. AI가 인간의 삶에 개입하는 방식이 달라지는 만큼, 인간의 자유와 권리를 보장하는 헌법의 여러 기본권은 새로운 질문 앞에 서게 될 것이다.