많은 사람들이 초연결 디지털 혁명이 달성되면 마치 초합리적 초효율성이 극대화되어 인간의 새로운 유토피아가 도래할 것처럼 선전한다. 위험천만한 주장들이다. 초연결 디지털 혁명은 현실이어서 피할 방법이 없지만 제대로 알고 사용하지 못하면 인간은 모두 디지털이 만든 초합리적이고 초효율적인 아바타에 종속된 노예의 삶을 살게 될 운명이다.

아바타로 살 것인가?

인간으로 살 것인가?

우리 연구팀(코넬대 Lawler 교수, 서던캘리포니아대 Thye 교수, 본교 윤정구 교수)은 20여 년 전부터 초연결 디지털 혁명 시대에 개인화를 향한 분절이 극대화되어 사회가 붕괴되는 수순을 경험할 것이라고 지속적으로 경고해 왔다. 플랫폼이 지배하는 사회에서 개인은 지속적으로 분석되어 초개인화된 인간(Hyper Individualized Humans)으로 쪼개질 것이다. 그리고 개인은 이러한 초개인화된 디지털 플랫폼상의 알고리즘에 의해 조정되어 결국 각자 인간의 개성을 잃는 상태인 탈개성화(Depersonalization)되는 수순에 도달한다. 문제는 디지털 알고리즘은 각 개인들이 온전하게 개성을 잃었음에도 마치 개성을 잃지 않은 것처럼 믿게 한다는 사실이다.

디지털 알고리즘이 개인을 분해하는 초개인화는 두 과정에 의해 실현된다. 하나는 재범주화(Recategorization)이고 다른 하나는 탈범주화(Decategozation)이다. 재범주화란 개인이 가진 외재적 속성(성별, 나이, 세대, 직업, 부, 교육, 출신지 등)을 최대한 겹치는 범주로 나누는 과정이다. 그리고 내재적 속성(가치, 선호, 취향 등)을 파악해서 이들과 비슷한 범주의 사람들이 행동, 태도, 말에 맞는 맞춤형 소비를 제안한다. 탈범주화는 동질성을 가지는 범주로 획일화하는 과정이다. 이는 재범주화로 쪼갠 개인이 살았던 역사 데이터를 분석해 다시 분절시키는 것이다. 개인이 지금까지 살아왔던 과거와 현재 데이터를 추적해 미래를 제안하는 과정이 탈범주화다.

재범주화와 탈범주화가 끝난 개인들은 알고리즘에 의해 정체가 파악된 초개인이 된다. 이런 초개인은 알고리즘의 맞춤형 제안에서 벗어나지 못할 때 탈개성화된 인간으로 전락한다. 온전하게 탈개성화된 인간들로 구성된 사회는 마치 태양 역할을 하는 알고리즘에 의해서 모래알로 쪼개진 사막이다. 탈개성화로 인간이 디지털 혁명의 노예로 전락하면 사명이나 목적과 같은 일에 헌신하고 서로에 대한 아픔을 해결해 가며 공동체를 건설하는 일이 불가능해진다.

우리 연구팀은 이러한 암울한 상황에서도 인간의 존엄성을 유지하는 상태를 사회적 헌신(Social commitment)이라고 규정하고 이 사회적 헌신이 만들어지는 조건을 연구해 ‘탈개성화된 사회에서 사회적 헌신(Social Commitments in a Depersonalized World)’이라는 저서로 출간했다.

초연결 디지털 혁명으로 초개인화된 세상이 도래하면 인간은 자신을 대신해주는 알고리즘에 점차 의존하게 된다. 결국 알고리즘은 살아 있는 인간을 자신들의 아바타로 만들어 마치 물건처럼 물상화(reification)시킨다.

초연결시대 디지털 거대 알고리즘에 의해 생성되고 조정되는 아바타는 조금씩 우리의 영혼을 털어가 우리를 영혼 없는 몰인간(de-person)으로 전락시킨다. 아바타는 거대한 양의 데이터를 통해 우리의 성향을 분석하고 개인에게 맞춤화된 시나리오를 제공한다. 아바타는 무슨 브랜드의 치약을 써야 하는지, 어떤 비누를 사야 하는지, 어떤 비타민을 먹어야 하는지 알려줌으로써 삶에서 생각 자체가 필요 없게 만든다. 우리의 치명적 약점은 기억을 잃어버리는 것이지만, 아바타는 과거를 기억하여 회상시켜 준다. 데이터를 먹고 자란 아바타가 나보다 더 완벽한 나로 변신해 나에 대한 정체성 게임을 하면 아바타를 이길 방법이 없다. 아바타가 나의 정체성을 주장하고 다녀도 대응할 방법이 없다. 생각을 거세당해 가며 정체성을 아바타에게 빼앗기는 탈개성화 과정은 내비게이션에 의존하다 내비게이션 없이 운전하는 것과 비슷하다.

우리 연구진은 디지털 초개인화 알고리즘의 숙주인 아바타에 의해 우리의 정체성과 주권을 상실하고 몰인간화 되는 사회에서 인간임을 회복할 수 있는 대안이 사회적 헌신이라고 보았다. 사회적 헌신은 네트워크 사회에서 자원이 동원되는 방식이다. 자원이 제대로 동원되기 위해서는 개인 간의 관계도 중요하지만, 개인들을 더 높은 차원에서 규제해주고 조율해주는 목적과 사명이 필수적이다. 초연결사회에서는 인간으로서의 사명과 목적을 공유하는 사람들의 네트워크가 사회적 자본의 핵심이다. 네트워크에 울타리를 제공해 공동체를 만들어주는 것이 사명과 목적이다.

인간과 아바타가 다른 것은 주체적으로 정서 체험을 할 수 있다는 것이다. 아바타와 달리 인간은 사명과 목적을 달성하는 일에 집단적이고 주체적으로 개입해 아바타가 느낄 수 없는 긍정적 정서를 산출할 수 있고 이 긍정적 정서를 긍정적 목적을 실현하는 공동체의 연료로 사용할 수 있다.

마지막으로 인간을 몰개성화시키는 아바타로부터 해방될 수 있다는 것은 인간은 자신의 의도에 따라 주체적으로 행동할 수 있는 능력이다. 아바타의 치명적 약점은 어떤 인간이 부여한 의도 외에는 자기 스스로 의도를 갖지 못한다는 점이다. AI에게는 의도가 있을 수 없다. 하지만 인간의 모든 자발적 행위에는 목적에서 산출된 의도가 있고 이 신성한 의도에 봉사하는 주체적 행동만이 자발적이다. 모든 자발적 행동의 기반은 맥락을 반영한 일인칭 내러티브다.

철학자들이 지금까지 인간다운 모습을 잃지 않는 원리로 주장해왔던 자신과의 아날로그 싸움은 자신을 물상화시켜 몰개성화시키는 아바타와의 디지털 싸움으로 전락했다. 이 싸움에서의 승자만이 사회와 공동체를 다시 복원시키는 전사이자 리더로 일으켜 세워질 것이다.