핵심 요약
분명한 것은 기술의 발전이 인간의 삶을 더 나은 방향으로 이끌기 위한 수단이라는 점이다. 여기에서 ‘더 나은 삶’이란 단순히 편리하고 풍요로운 삶만을 의미하지 않는다. 인간이 외부의 강요나 제약 없이 자유롭게 생각하고, 스스로 판단하며, 자신의 의사에 따라 삶을 선택하고 살아갈 수 있는 자유로운 삶을 의미한다.
지금까지의 기술 발전은 인간이 할 수 있는 영역을 점차 넓혀왔다. 기계의 발전은 육체적 능력의 범위를 확장해 노동 환경을 바꿨고, 교통수단의 발전은 이동 범위를 넓혀 거주와 직업, 교육 등 삶의 선택 가능성을 확대했다. 이러한 변화는 인간의 행동 범위를 확장함으로써, 자신의 삶을 스스로 선택하고 영위할 조건을 넓혀 온 과정이었다.
그런데 문제는 바로 여기에서 시작된다. 지금까지의 기술 발전이 인간의 행동 범위를 확장해 왔다면, 인공지능(AI)은 행동에 앞서 무엇을 보고, 무엇을 생각하고, 무엇을 비교하며, 무엇을 판단할 것인지에까지 관여할 수 있기 때문이다. 나아가 어떤 선택을 할지, 어떻게 행동할지에도 영향을 미칠 수 있다. 즉, AI는 인간의 손발을 대신하는 데서 멈추지 않고 정보의 탐색과 판단에서 선택과 실행에 이르는 과정에 관여할 수 있다.
그렇다면 AI가 인간의 판단과 선택 과정에 관여하기 시작한 오늘날, 인간의 자유로운 판단과 선택은 무엇을 의미하는가. 인간은 여전히 자신의 의사에 따라 판단하고 선택할 수 있는가. AI 기술의 발전은 인간의 삶을 더 나은 방향으로 이끌기 위한 수단이 맞는가.
선택의 환경을 먼저 구성하는 알고리즘
사실 AI 이전에도 인간이 모든 것을 혼자서 판단하고 결정해 온 것은 아니다. 의사의 설명을 듣고 치료 방법을 선택하고, 변호사의 조언을 듣고 법적 대응을 결정한다. 책을 읽거나 대화를 통해 타인의 의견을 듣기도 한다. 그렇다고 이러한 선택이 타인의 것이 되지는 않는다. 누구의 설명을 듣고 어떤 정보를 얻을지 스스로 정하고, 그 내용을 바탕으로 자신의 의사에 따라 선택하기 때문이다.
반면 AI는 행동 이전의 판단과 선택이 이루어지는 환경에 관여한다. 수많은 정보 중 무엇을 보여줄지, 어떤 가능성을 비교하게 할지 등을 선별하고 제시하는 것이다. 결국 인간은 AI가 제시한 가능성을 중심으로 판단하고 선택하게 될 수 있다. 반면 AI가 제시하지 않은 가능성은 검토할 기회조차 얻지 못한 채 판단 대상에서 빠질 수도 있다.
가령 채용 과정에서 AI가 지원자 일부를 선별해 담당자에게 제시한다고 하자. 담당자는 제시된 지원자들을 검토한 뒤 한 사람을 선택한다. 형식적으로는 인간이 판단하고 선택하지만, AI가 선별 과정에서 제외한 지원자는 애초에 인간의 판단 대상조차 되지 못할 수 있다.
더 큰 문제는 이러한 현상이 채용에만 국한되지 않는다는 점이다. 정보를 검색하고, 뉴스를 읽고, 영화를 고르고, 상품을 구매하고, 금융상품을 선택하는 일상적인 순간에도 AI는 이미 무엇을 보여주고 무엇을 추천할지에 관여하고 있다. 우리는 여전히 스스로 선택한다고 생각하지만, 마주하는 정보와 선택지의 상당 부분은 이미 AI에 의해 선별되고 구성될 수 있다.
인간의 판단에 AI가 관여한다는 것
그렇다면 우리는 왜 AI를 두려워하는가. AI가 인간보다 더 많은 정보를 알고, 더 빠르게 계산하기 때문만은 아니다. 정작 우리가 두려워하는 것은, 인간이 스스로 판단하고 선택해 온 영역에 AI가 관여할 수 있게 되었다는 사실일지 모른다. AI는 선택을 직접 대신하지 않더라도, 그 선택에 이르기까지 무엇을 보고 어떤 가능성을 검토할 것인지에 영향을 미칠 수 있다. 결국 문제는 인간이 여전히 선택하고 있느냐가 아니라, AI가 그 선택에 어디까지 관여할 수 있는가에 있다.
“결국 문제는 인간이 여전히 선택하고 있느냐가 아니라, AI가 그 선택에 어디까지 관여할 수 있는가에 있다.”
이 질문은 결국 인간이 판단과 선택의 주체로 남을 수 있는가라는 문제로 이어진다. 인간은 기술의 도움을 받으면서도 삶의 중요한 사항을 스스로 결정하는 주체로 이해되어 왔다. 그렇다면 AI가 판단 과정에 깊숙이 관여하게 될 때에도 인간은 여전히 그 주체라고 할 수 있는가. 그리고 이러한 질문은 인간의 존엄과 자기결정이라는 헌법적 가치와 맞닿아 있다.
인간을 판단의 객체로 만들지 않기 위해
그렇다면 AI 시대의 인간의 존엄은 무엇을 의미하는가. 그것이 AI보다 인간이 더 많은 정보를 가져야 한다거나, 모든 판단과 선택을 직접 해야 한다는 뜻은 아닐 것이다. 중요한 것은 AI의 도움을 받더라도 인간이 자신의 삶에 관한 중요한 판단과 선택의 주체로 남아 있는 것이다.
특히 인간의 존엄과 생명에 직접적으로 관련되는 중대한 사안에서는 무엇을 할 것인지에 대한 판단과 선택은 물론, 그에 따른 실행까지 AI에 맡겨서는 안 된다. 고문이나 인신매매, 대량살상과 같이 인간의 존엄과 생명을 직접적으로 침해하는 행위가 그 예다. AI가 이러한 위험을 탐지하거나 예방을 지원할 수는 있지만, 인간에 대한 중대한 침해 여부를 최종적으로 판단하고, 그 행위를 선택하고, 직접 실행하는 것까지 AI에 맡겨서는 안 된다.
“AI를 이용하면서도 인간을 판단의 객체로 전락시키지 않는 것. 그것이 AI 시대에 인간의 존엄을 지키고, 개별 기본권을 보장하기 위한 헌법적 과제가 아닐까.”
그 밖의 영역에서도 AI의 판단이 아무런 제한 없이 허용되는 것은 아니다. 개인의 권리와 의무에 영향을 미치는 판단에 대해서도, 기본권 침해가 발생했을 때 이를 다투고 필요한 경우 인간의 판단과 개입을 받을 수 있는 절차가 필요하다. 우리나라 「개인정보 보호법」이 일정한 자동화된 결정에 대해 거부와 설명 등을 요구할 권리를 인정하고, 필요한 경우 인적 개입에 의한 재처리를 규정하고 있는 것도 이러한 문제의식과 맞닿아 있다.
AI의 판단을 사전에 완벽하게 통제하기 어렵다면, 개인이 그 판단에 대해 설명을 요구하고 이의를 제기하며, 필요한 경우 인간의 개입에 의한 재검토를 받을 수 있는 절차는 기본권 보호를 위한 중요한 안전장치이자 최후의 보루가 될 수 있다.
결국 중요한 것은 AI를 인간의 삶에서 배제하는 것이 아니다. AI를 이용하면서도 인간을 판단의 객체로 전락시키지 않는 것. 그것이 AI 시대에 인간의 존엄을 지키고, 개별 기본권을 보장하기 위한 헌법적 과제가 아닐까.
고려대학교 헌법학 박사로, 2023년부터 방송통신대학교 대학원에서 「정보사회인권」을 강의하고 있다. 정보사회와 인권을 중심으로 헌법과 기본권의 문제를 살펴보며, AI 시대의 헌법적 쟁점을 이야기한다.
