10.

이제 본 책 『호모 데우스』 마지막 3장에 이르렀다. 끝장의 제목은 ‘호모 사피엔스 지배력을 잃다’로 되어 있다. 생명공학과 인공지능이 종교가 된 인본주의 자체를 위협, 소멸시킬 수 있는 탓이다. 이들이 인본주의(인간)의 가장 큰 적이 된 것이다. 포스트 휴먼, 곧 기계인간의 등장은 호모 사피엔스를 지금 동물처럼 열등한 존재로 전락시킬 수 있다.

그렇다면 이 경우 종교는 어떻게 변할 것인가? 저자는 어떤 새로운 종교가 인본주의를 대신할 것인지를 탐색한다. 주지하듯 자유주의적 인본주의자들은 평등보다 자유, 집단보다 개인에 가치를 두며 시장을 지배해 왔다. 하지만 이들이 우선하는 ‘자유’, 혹은 ‘자유의지’는 ‘영혼’처럼 상상 속 이야기일 뿐 실재하지 않는다. 자연선택을 말하는 진화론이 이런 ‘자유’를 완전히 실종시켰다. 인간의 특정 욕망은 자유의지가 아니라 ‘뇌’ 속 생화학적 과정들의 작용이라 본 탓이다.

그렇기에 저자는 ‘자유의지’에 대한 신학적 논변을 낡고 의미 없다 여겼다. 신학영역에서는 아직도 중히 다루는 논제임에도 말이다. 하지만 작금의 현실은 약물, 유전공학, 뇌 조작 등을 통해 유기체의 욕망을 얼마든지 조작, 통제할 수 있다. 실제로 뇌의 적소를 자극해 사랑, 분노, 두려움, 우울 등의 감정을 생기게도, 없앨 수도 있을 것이다. 외상 후 스트레스 증후군에 대한 치료법도 개발 중이다.

이제 호모 사피엔스는 자유만이 지배하는 세상에서 자신들 목표달성을 위해 뇌 회로를 적극 조작하려 들 것이다. 그럴수록 자유의지, 곧 욕망은 구매할 수 있는 상품처럼 취급될 수 있다. 이처럼 과학은 ‘자유’(주의)뿐 아니라 ‘개인’(주의)에 대한 확신도 소멸시킨다. 자유주의와 개인주의는 본래 동전의 양면처럼 하나였다. 자아 없이 자유주의 또한 성립될 수 없기 때문이다.

그런데 과학은 개인을 구성하는 자아를 부정했다. 고유한 자아가 항존 하는 것이 아니라 나뉠 수 있는 존재라는 것이다. 좌/우뇌의 구별을 통해 인간은 실제로 전혀 다른 존재가 될 수 있다. 인간의 모든 결정은 이들 좌/우뇌의 줄다리기에서 비롯될 뿐이다.

저자는 이것을 ‘경험하는 자아’와 ‘이야기 하는 자아’로서 대별, 설명했다. 예컨대 코르티솔과 베탈 엔돌핀의 분비가 출산고통을 긍정적 기억(환희)으로 바꿔 주기에 산모는 출산을 거듭 계획할 수 있다. 여기서 출산의 고통을 느끼는 주체를 ‘경험적 자아’로, 고양, 충족을 느끼는 주체를 ‘이야기 하는 자아’라 말할 수 있겠다. 아무리 압도적 경험일지라도 기억 못하면 관심에서 멀어진다. 인생의 중대사는 대개 이야기하는 자아의 몫일 수밖에 없다. 흔히 자아(나)라고 말할 때 경험보다는 머릿속 기억, 곧 이야기를 적시한다. 자기 경험을 근거로 일관된 이야기를 만드는 내부 시스템과 자신을 동일시하는 것이다.

하지만 ‘이야기 하는 자아’ 역시 국가, 신 그리고 돈처럼 상상 속 허구일 수밖에 없다. 사실적 경험들을 버리고 골라서 자신의 존재의미를 일관되게 지어내는 까닭이다. 이야기를 만드는 자아가 삶의 혼돈에 질서를 부여해 왔을 뿐이다. 중세의 神이나 근대의 자유의지가 결코 삶의 의미부여자가 아니었다는 말이다. 향후 神, 자유의지를 무용지물로 만드는 더 많은 장치들이 의당 생겨날 수 있을 것이다.

11.

저자는 이런 과학의 발전으로 자유주의(인본주의)를 흔드는 세 가지 상황이 도래할 것을 예견했다. 경제, 군사적으로 쓸모없는 인간, 개인으로서의 인간의 무가치성 그리고 초인간(기계인간)으로 업그레이드 된 엘리트 집단의 출현이 그것이다. 지금껏 자유주의가 힘을 얻은 것은 그것이 정치, 경제, 군사적으로 유용, 타당했던 까닭이다. 개인에게 정치 권리를 부여한 이유는 독재국가보다 민주국가의 노동자들의 결과물이 크고 많았기 때문이었다.

하지만 생산물에 있어 21세기는 이들 수준을 아주 초라하게 만들었다. 사이버 전쟁의 위력 역시 종래의 군사력과 어찌 비견할 것인가? 지능을 인간의식에서 분리시켜, 달리 말하면 비(非)의식적 지능(알고리즘)개발을 통해 인간의식을 압도한 결과이다. 여기선 의식보다 지능이 우선 가치가 된다. 의식과 주관적 경험이 무용지물로 여겨졌다. 성능을 높일 수 없는 인간 또한 제거될 수밖에 없다. 초고속 컴퓨터들이 엄청난 돈(주식)을 단순 간에 관리, 조작할 수 있으니 수많은 호모 사피엔스들이 졸지에 해고될 것이다. 의사, 변호사들, 심지어 트럭 운전사들까지 예외 없이 이런 알고리즘의 표적이 된다.

▲ 유발 하라리 ⓒGetty Image

이런 맥락에서 21세기의 가장 중요한 물음은 ‘이 모든 영역에서의 잉여인간, 그는 도대체 무엇인가?’ 하는 것이겠다. 지능을 앞세운 비(非)의식적 알고리즘의 등장으로 인간이 왜소해 진 결과이다. 육체능력과 인지능력을 모두 빼앗긴 인간의 미래가 한없이 걱정스럽다. 역으로 가상현실에 빠져 시간 보내는 게으름뱅이들의 양산도 염려할 부분이다. 수천 년 전의 상상적 神들이 세상의 주인이었듯이 지금은 과학기술이 만든 알고리즘이 세상을 소유, 통치하기에 이르렀다. 예술분야도 예외가 아닐 것이다. 이 모두는 ‘이야기꾼’인 호모 사피엔스가 만든 세상이었으니 말이다. 과거의 神이 알고리즘으로 대치되었으나 그 중심에 상상력, 이야기가 자리했던 것이다.

그러나 인공지능이 인간 지능을 능가할 경우, 인류 미래는 위태로울 수밖에 없다. 인간보다 인간을 더 잘 이해하는 시스템 탓에 개인의 자유가 박탈되기 때문이다. 알고리즘이 개인(주의)에 대한 믿음 자체를 붕괴시키고 말았다. 개인을 네트워크로 얽혀진 알고리즘의 관리체계 하의 생화학적 기제들의 집합쯤으로 여길 뿐이다. 여기선 유전자와 환경에 의한 결정론(지금까지는 87%의 확률)이 더 크게 영향력을 미칠 것이다. 현재 습관을 근거로 향후 몇 년을 더 살 것인 지를 알리는 자가 측정 ‘앱’도 상용화 될 것이기 때문이다. 자기를 알기 위해 생체 데이터를 수집하여 알고리즘에게 분석을 맡길 지경에 이른 것이다.

명상이나 관상이 아니라 숫자를 통한 자기 이해가 대세이다. 미국 여배우 앤젤리나 졸리가 그랬듯 설령 아무 증세가 없으나 유전자 속의 시한폭탄을 인지해 사전조치를 취하는 시대를 살고 있다. 결혼 역시도 쌍방 간 유전자 검사 확인서를 제시해야 가능한 시대가 되었다. 이처럼 인생의 중대사 마다 시스템에 의존해야 할 미래에서 개인은 분명 사라져 버릴 것이다.

이런 현실에서 호모 사피엔스의 본질인 ‘이야기꾼’의 역할은 실종된다. 시간이 흐를수록 데이터베이스는 커지고 통계는 정확할 것이며 알고리즘은 100%의 완벽성을 지향할 것이다. ‘좋아요’를 누르는 순간 우리들 데이터가 더 많이 축적되는 까닭이다. 이쯤 되면 통용되는 구글과 페이스북 여타의 알고리즘들이 신탁(神託)의 대상을 넘어 전지(全知)한 주권자가 될 수 있다.

모두가 동일한 신탁을 이용하고 믿을 때 그 신탁은 주권자로 변할 수 있다. 이런 주권자가 인간을 조정하는 순간도 거의 임박해 있다. 사생활과 개별성을 더 이상 주장할 수 없는 지경에 이르렀다. 전지, 전능한 네트워크와 한시도 단절되어 존재할 수 없는 상태가 될 때-단절이 곧 죽음으로 인지될 경우-내 몸을 지배하는 알고리즘은 유/무기물 장벽을 허물고 기계/생물의 틈을 부수게 될 것이다.

이런 과정을 통해 인간 자신으로부터 알고리즘에로의 권한 이동이 도처에서 무저항적으로 발생한다. 개별성의 붕괴가 자기 밖이 아니라 내부로부터 급속하게 시작되고 있는 것이다. 조지 오엘이 상상했듯 ‘빅브라더’가 조정하는 경찰국가의 도래가 멀지 않았다. 그러나 이런 상황은 불평등의 업그레이드를 초래 할 수밖에 없다. 소규모 아주 특별한 특수집단이 생겨날 것이기 때문이다. 알고리즘으로 무장된 포스트 휴먼, 곧 기계인간의 등장으로 생물학적 계급이 생겨나 자유주의 이념을 파괴시킬 수 있다.

지금껏 자유주의가 사회적 불평등을 해결한 방식은 다음과 같았다. 경험의 방식을 동일하게 만든 것이 아니라 각기 다른 경험에 평등한 가치를 부여하는 방식으로 말이다. 하지만 생물학적 차이로 빈부가 나뉘는 것을 자유주의는 용납할 수 없을 것이다. 비싼 유전자 비용의 소유 여부에 따라 초인간과 자연인이 나뉘는 상황에서 자유주의는 그 본뜻(효용성)을 상실할 수밖에 없다. 부(富)의-많고 적은-소유 여부를 떠나 인간 자체를 다른 종(種)으로 만들기 때문이다.

사람 자체의 업그레이드, 이것은 엘리트주의자들이 지향하는 목표일 것이다. 조만간 육체적, 인지적 능력 차를 지닌 초인간(포스트휴먼)의 탄생을 경험할 수 있다. 대중의 시대가 사라졌다. 향후 자본은 수억의 빈자 문제를 해결하기보다 소수 부자들을 업그레이드 하려 들것이다. 다수의 건강한 보통 노동자보다 소수 초인간을 만드는 것이 21세기의 전략이겠다.

저자 하라리는 세계 도처, 심지어 브라질 같은 빈국에서 조차 초인간 계급을 탄생시킬 공산이 크다고 전망했다. 하지만 과학기술이 쓸모없는 대중과 소수의 엘리트 집단을 나누고 모든 권한을 초(超)지능을 지닌 알고리즘(호모 데우스)으로 넘길 경우 지난 시기 꽃피운 자유주의는 붕괴하고 말 것이다. 그래도 인류는 지속되고 종교는 존재할 것인가? 이것이 본 책 『호모 데우스』의 마지막 질문이다.

12.

‘새로운 종교는 실험실에서 태어날 것’이다. 이것이 위 질문에 대한 저자의 간결한 답이다. 알고리즘과 유전자를 통해 새 인간의 탄생을 약속하는 기술종교, 그것이 세상을 정복하고 구원(?)할 것이기 때문이다. 저자는 인공지능과 결합된 인본주의(기술인본주의)와 데이터교, 이 둘을 기술종교의 핵심이라 여겼다. 데이터에 근거한 기술을 통해 ‘호모 데우스’의 탄생을 예고한 것이다.

여기서 저자는 이런 미래를 긍정하기보다 호모 사피엔스에게 새로운 과제를 주었다. 지능과 의식을 분리시킨 기계인간, 호모 데우스 출현에 맞서 인류에게 마음을 업그레이드하라고 권한 것이다. 본인 스스로도 하루 2시간씩 명상했기에 그리 말할 수 있었다. 진화론적(기술) 인본주의가 인간의 변신(기계인간)을 통해 은하계의 주인을 꿈꿨다면 호모 사피엔스에게 마음, 곧 의식의 스펙트럼을 확장시켜 이와 다른 세상을 상상할 것을 요청했다. 통합 심리학자 켄 윌버(Ken Wilber)가 도식화 했듯이 인류에겐 아직 경험치 못한 의식의 단계들이 존재하는 탓이다.

하라리는 이 영역을 약물과 기술을 통해 열 것인가 아니면 인간 의식 확장을 통해 도달할 것인지를 묻고 있다. 마음을 먼저 확장시켜야 항차 기술이 업그레이드 시킬 영역을 잘 안내할 수 있을 것이다. 몸과 뇌를 업그레이드시킬지라도 마음을 잃으면 그 기술은 실패한 기술이 될 수 있다. 이점에서 저자는 기술 인본주의가 인간을 실상 다운그레이드 시키는 것으로 보았다. 대량사육이 필요했던 농업혁명 과정에서 동물의 마음능력을 과소평가했듯이 이 역시 인간의식을 빼앗는 기술이 될 것이라 여긴 것이다.

▲ “데이터敎”를 형상화 한 이미지 ⓒGetty Image

기술인본주의는 이렇듯 인간에 대한 믿음을 포기토록 했다. 자기 내면의 소리에 귀 기울일 여지를 탈각시켰다. 오히려 복잡한 생각을 생화학적 불균형과 신경질환의 산물로 볼 뿐이다. 따라서 기술인본주의는 불편한 욕망을 품지 않도록, 마치 일만을 위해 태어난 거대한 개미가 되도록 인간을 만들 수 있다. 인간의식을 제거하여 재설계하는 기술, 그것이 기술인본주의에게 복음일 것이다.

이런 성공을 위해 기술인본주의는 자신의 최종 근거와 권위를 정보, 곧 데이터 찾았다. 개인의 욕망과 경험대신에 정보를 神처럼 여긴 것이다. 이제 기술 인본주의 시대의 하느님은 정보가 되었다. 정보를 숭배하는 소위 ‘데이터 종교’는 神도 인간도 바라보지 않는다. 신의 뜻은 물론 인간 의지를 제거시켜야 신이 된 인간, ‘호모 데우스’가 가능하겠기에 말이다.

13.

데이터敎는 우주가 정보의 바다이며 어떤 현상도 데이터 처리의 방식에 따라 정해진다고 강변한다. 이미 과학계가 이를 정설로 받아들이고 있다. 유기체를 생화학적 알고리즘이라 정의한 과학자들은 전자 알고리즘 설계에 몰두 했다. 후자로 전자의 비밀을 해독하여 양자 간 장벽을 허물어 생화학적 알고리즘을 뛰어넘을 새 인간을 만들고자 했다.

이는 생물학과 컴퓨터 공학의 결합을 일컫는다. 더욱 정확히는 생물학이 데이터敎를 수용한 결과였다. 이제는 개별 유기체만이 아니라 사회, 경제 역시 데이터 처리 시스템이라 간주된다. 자본주의/공산주의가 경쟁하는 이념, 정치 제도가 아니라 데이터 처리의 두 방식이란 것이다. 전자는 상호 자유로운 교환, 연결망을 통해서 정보를 처리하며 후자는 중앙에서 정보를 결정하는 방식이라 여겼다. 하나의 중앙 프로세서가 모든 데이터를 소유하여 결정내리는 극단적 상황을 일컬어 공산주의라 일컬은 것이다. 앞의 것이 나중 것에 승리한 것은 도덕적으로 우월해서도, 자유가 신성해서도 아니고 분산式 데이터 처리가 효과적이었기 때문이라 했다.

자본주의자들에게 시장은 바로 이런 역할을 하는 곳이었다. 데이터의 양과 속도의 무한 증가로 인해 지금껏 사회를 떠 받쳤던 제도들이 사라질 공산이 크다. 잘못되어서가 아니라 정보를 효율적으로 처리 못한 탓이다. 정보의 바다인 사이버 공간이 주권도, 국경도, 사생활도 없애는 자유로운 무법천지된 것은 주지의 사실이다. 정부, 국가가 기술을 따라 잡지 못하는 한 조만간 그들 권력을 뺏길 수밖에 없다. 권력이 시민 개개인에게 되돌려지지 않고 슈퍼컴퓨터로 집중되니 걱정이다. 데이터를 처리할 수 있는 구조를 누가 만들 것인지가 가장 미래 권력의 핵심이겠다. 이처럼 인류가 단일한 데이터 처리 시스템이라면 그로부터 ‘만물 인터넷’(Internet-of-All-Things)이라 불리는 데이터 처리시스템이 비롯할 것이다.

하지만 이 과정에서 호모 사피엔스는 세계 지배력을 완전히 소멸하게 된다. 정보 시스템이 인간과 비교될 수 없을 만큼 우월하기 때문이다. 이런 데이터敎는 물론 가치중립적 이론에서 비롯했으나 점차 옳고 그름을 결정할 권한을 갖는 종교로 변화되고 있다. 정보의 흐름을 최고 가치(생명)로 여긴 탓에 우주에 대한 정보를 더 많이 확장시키는 것을 옳은 일로 여긴다. 가능한대로 많은 매체와 연결해 다량의 정보를 생산/소비함으로써 데이터 흐름을 극대화시키고자 했다.

여기서 매체는 인간만을 뜻하지 않는다. 말 그대로 ‘모든 것’을 적시한다. 이들과의 연결, 접속을 거부하는 것은 악이며 죄가 된다. 인간은 정보의 흐름을 방해할 권리도, 자격도 없다. 이를 옹호하다 죽은 사람도 생겨났다. 데이터敎의 첫 순교자로 칭송되는 미국인 ‘A. 스워츠’이다. MIT컴퓨터에 접속해 수십 만 편의 학위논문을 내려 받다가- 모두가 무료로 정보를 접해야 한다는 확신으로-유죄판결을 받고 수감 중 자살한 것이다. 이처럼 데이터敎 신봉자들은 정보의 흐름을 선(善)이라 확신한다.

이제 사람들은 스스로 데이터 흐름의 일부가 되기를 원할 것이다. 목하 모든 영역의 창조물이 협업으로 생산되고 있다. ‘위키피디아’는 결국 우리 모두가 만든 것이다. 개인은 결국 거대한 시스템(정보흐름) 속의 작은 칩이 되어 가고 있다. 보이지 않는 정보의 흐름을 믿으며 빠르게 응답하는 것이 우리들 일상이 되어 버렸다. 그로써 인간은 자신보다 더 큰 어떤 것의 일부가 될 수 있다. 우리들 말과 행동 역시 거대한 데이터의 흐름 속에 있는 까닭이다. 지구적 정보교류에 기여할 수 없는 개인 경험은 가치가 없다.

데이터敎에서 경험은 공유되지 않으면 무가치하다. 요즘 세대에게 일기장의 일기는 쓸데없는 짓처럼 여겨질 수 있다. “경험하고 기록하라. 기록하면 업로드 하라, 업로드하면 공유하라.” 이것이 데이터敎의 가르침이자 모토가 되었다. 하지만 이런 데이터敎가 결코 반(反)인본주의 성향을 띤 것은 아니다. 단지 인간 경험 속에 가치가 내재한다는 믿음을 삭제했을 뿐이다. 항차 인간경험이란 알고리즘이 무거운 짐이 될 시점이 도래할 것을 예상했다. 인간 경험 가치에 우선하는 알고리즘이 개발될 시점이 바로 그 때라는 것이다. ‘사랑’ 같은 인간 경험을 시대에 뒤떨어진 생화학적 알고리즘이라 여겼기에 가능한 진단이다.

이렇듯 데이터敎는 인간경험을 데이터 패턴으로 여기며 호모 사피엔스가 세운 권위와 의미의 원천을 파괴하고 있다. 神이 인간 상상력의 산물이었듯이 인간 상상력 또한 생화학적 알고리즘의 결과물로 이해하면서 말이다. 神을 밀어낸 인간, 바로 그를 데이터가 다시 세계로부터 추방하고 있다. 이로써 ‘만물 인터넷’은 그 자체로 신성(神性)을 획득할 것이다.

14.

인간 중심적 세계관이 데이터 중심적 세계관으로 옮겨지면서 철학적으로 뿐 아니라 생활면에서의 엄청난 혁명을 가져왔다. 일상 자체를 바꾸는 실용적 측면이 오히려 혁명의 본질을 잘 설명할 수 있겠다. 유기체를 알고리즘이라 보는 사상이 삶에 미치는 영향력은 가늠조차 할 수 없다. 데이터가 모든 영역에서 인간행동을 바꾸기에 세상이 천지개벽의 낯선 세상이 되었다.

그러나 저자 하리리는 본 책 마지막에 다시 묻는다. 위대한(Master) 알고리즘의 출처를 말이다. “이 위대한 알고리즘은 어디서 비롯하는가?” 저자는 이것을 데이터敎의 미스터리라 여겼다. 기독교가 하느님 계획을 알지 못한다고 했듯이 데이터敎 역시 인간 뇌로는 ‘마스터 알고리즘’을 이해 못할 것이라고 했다. 처음 종자 알고리즘을 만든 것은 인간이나 성장하면서 진화해가는 알고리즘의 끝을 누구도 예상할 수 없다는 것이다.

저자 하라리는 이런 데이터敎에 대한 비판이 21세기 과학의 핵심과제로 보았다. 모든 것을 데이터로 환원하는 것이 정말 가능할 지를 묻고자 했다. 그런 식으로 환원될 수 없는 무엇이 정말 있지 않을까? 이전 종교들이 말했듯이 더욱 근원적인 것이 있다고 믿는 것이 인류 미래를 위해 유익할 수 있을 것이다. 의식을 지운 지능, 비(非)의식적 알고리즘이 세상을 자비롭게 볼 이치가 없을 것이다.

그럼에도 과학을 힘입어 펼쳐지기에 데이터敎는 이전 종교를 압도할 수밖에 없다. 그렇게 될 경우 미완의 과제로 남은 인본주의 과제들은 폐기처분된다. 인간 모두가 데이터로 전락되고 말 것이기 때문이다. 모두가 정의롭고 조화롭게 사는 삶이 아니라 소수에게만 불멸과 행복이 주어질 수 있겠다. 그로써 데이터敎는 과거 인간이 동물에게 행했던 악행을 호모사피엔스에게 그대로 되돌릴 수 있다. ‘호모 데우스’가 된 인간과 자연인 간의 종차(種差)가 지금의 인간/동물이상으로 커질 수 있다는 말이다.

물론 이것은 예언이기보다 예상일 수밖에 없다. 이런 예상이 틀렸다고 판단하면 이런 가능성이 실현되지 않도록 지금 최선을 다해 방책을 세워야 옳다. 지능보다 의식을 더 중히 여기는 사회를 지금 여기서 만들어 내야만 한다. 데이터 홍수에 자신을 맡기는 대신 자신의 의식 스펙트럼을 높이고 넓히는 일에 관심가질 일이다. 그렇기에 저자 하라리는 인공지능 시대를 사는 독자들에게 ‘무엇을 할까’가 아니라 ‘무엇이 될까’를 먼저 고민할 것을 주문했다.

하지만 저자는 인간의 관행 탓에 미래에 대해 여전히 부정적이다. 지금껏 힘을 얻고자만 했을 뿐 그 힘으로 행복을 만들지 못한 인간의 어리석음을 과소평가할 수 없었기 때문이다. 이런 어리석음이야말로 미래를 망칠 수 있는 가장 강력한 힘이 될 수 있다고 경고했다.

정말 우리는 이런 세상을 맞을 것인가? 기존 종교가 이렇듯 무력하게 데이터敎로 대치 될 것인지를 종교 모두가 깊이 성찰할 일이다. 이웃종교를 적대시 하는 것으로도 모자라 기득권 싸움에 목메는 종교들 현실이 기막히다. 조만간 자본화된 데이터敎에 먹혀 소리 소문 없이 사라질 것을 두려워 할 일이다. 제도로서의 기성종교, 어떤 종파를 막론하고 끝에 이르렀음을 깊이 성찰하란 것이 동성애자 하라리가 주는 충고이다.

이정배(顯藏 아카데미)  ljbae@mtu.ac.kr

<저작권자 © 에큐메니안, 무단 전재 및 재배포 금지>