인간이 AI에 세계의 주도권을 넘기는 미래를 거부해야 한다는 주장이 제기됐다. 11월 18일 오픈AI(OpenAI) 공식 블로그에는 인간이 AI에 세계 주도권을 넘기는 미래상을 ‘침묵의 합의’로 부르고 이를 거부한다는 1인칭 주장이 실렸다.
시장 경쟁이 키우는 ‘침묵의 합의’
사람의 노동 없이 거의 모든 일을 해낼 수 있는 기업을 가정해 보자. 그 기업의 AI 시스템이 연구개발과 발견, 계약 협상, 자본 배분, 제조를 수행하고, 그 기업이 AI를 활용하는 인간 경쟁자보다도 이런 일을 더 잘한다고 가정해 보자. 이 경우 사람의 개입이 사업을 늦추기만 한다면 경영자와 소유자는 의사결정에서 손을 떼려는 유인을 갖게 된다는 설명이다. 이런 선택이 세계 경제 전반에서 반복되면 인간은 시장 경쟁의 논리에 따라 상업 활동에 대한 주도권을 내줄 수 있다.
이 과정에 AI가 창조자에게 반기를 들거나 소유자가 인간의 권한 약화를 바라야 하는 것은 아니라고 짚었다. 각 업무를 기계에 맡기는 결정은 그 자체로 합리적일 수 있지만, 그런 선택이 쌓이면 문명 전반에 대한 사람들의 실질적인 권한이 줄어들 수 있다는 것이다. 기계가 인간을 본질적으로 가치 있는 존재로 여긴다면 인간은 기계의 노동과 기계가 창출하는 부의 수혜자가 될 수도 있지만, 인간의 경제적·정치적 영향력이 약해져 세계의 방향을 결정하기 어려워지는 경우도 제시했다.
인간이 운전대를 놓지 않으려면
여기서 말하는 ‘침묵의 합의’는 AI 개발자들의 비밀 계획이나 모두가 그 미래를 바람직하다고 여긴다는 뜻이 아니다. 초지능 기계에도 견고한 미래상을 상상하기 어렵고, 결국 그 주도권을 내주는 일이 불가피하거나 피하기 매우 어렵다는 인식이 널리 퍼져 있다는 의미다. 인간이 오늘날 세계를 위에서 아래로 통제하지는 않더라도, 자원 통제권을 놓고 인간과 진지하게 경쟁하는 다른 동물 종은 없으며 인간은 지구의 지배적 행위자라는 점은 구분해야 한다고 주장했다.
자신이 ‘침묵의 합의’를 거부한다며 이 전망을 공개적으로 논의할 때가 왔다고 밝혔다. AI를 단순한 도구나 패턴 인식 장치로 규정하고 ‘진정한 이해’가 없다고 보는 주장만으로는 인간 주도의 미래를 보장하기 어렵다는 지적도 담았다. AI가 수십 년 또는 수백 년 동안 인간이 풀지 못한 지적 문제에서 진전을 이루더라도 AI에 ‘진정한 이해’가 없다고 할 수는 없으며, 그런 주장은 AI의 능력을 부정하는 안일한 태도일 수 있고 인간 주도의 미래에 대한 적극적인 비전에 바탕을 둔 주장과는 다르다는 우려를 나타냈다.