젊은 시절 나를 밤새 피시방에 가두어 놓았던 게임, 스타크래프트.

이 게임은 지구인을 모티브로 한 테란, 괴물 저그, 외계인 프로토스 세 종족이 피 터지게 싸우는 전략 시뮬레이션 게임이다.

갑자기 왜 이런 뚱딴지 같은 소리를 하느냐고?

벌써 눈치 챈 사람도 있겠지만 이 책의 제목이 외계종족 프로토스의 본진이자 스타크래프트에 미쳐 있을 때 내가 늘 입에 달고 살았던 단어이기 때문이다.

하지만 당시엔 넥서스라는 단어에 별다른 관심을 갖진 않았다.

그냥 단어 자체가 약간 세련되 보인다는 정도…?

아무튼 이 책의 제목 ’넥서스‘는 네트워크에서 여러 노드(사람,장치,시스템 등)가 연결되는 중심점을 말한다.

한 마디로 모든 정보가 모였다가 빠져나가는 핵심 거점이자 권력의 요충지.

전작인 ‘사피엔스’에서 강조했듯이 저자는 인류 발전의 토대를 없는 것도 현실로 만들어내는 인간 특유의 상상력과 그로 인해 발생하는 인간의 협동심에서 찾는다.

신, 종교, 돈, 국가…

실체가 없는 이것들은 정보 네트워크를 통해 교류되며 성격, 인종, 성별이 제각각인 인간을 하나로 통합시켜 인류 발전의 촉매제 역할을 한다.

지금까지 인류의 발전이 이런식으로 이루어졌는데 과연 미래에도 그럴까?

만약 인간의 지능을 뛰어넘어 의식까지 갖춘 AI가 우리의 정보네트워크에 합류 한다면?

위와 같은 물음에 대한 답이 이 책의 주제라 할 수 있겠다.

저자는 여러가지 근거와 사례를 들어 AI의 위험성에 대해 경고하는데, 나는 두 가지 사례가 기억에 남는다.

첫 번째는 미얀마에서 벌어진 로힝야족 학살 사건이다.

이 사건의 원인은 페이스북 알고리즘으로 밝혀졌다.

수많은 데이터를 분석한 알고리즘은 이용자들의 분노가 회원 확보에 용이하다는 것을 발견한 후 가짜뉴스와 선전, 선동 문구가 잔뜩 들어간 게시물을 페이스북 최상단에 배치함으로써 많은 사람들이 무차별적으로 퍼나르도록 방관? 아니 독려했다.

광고비로 돈 맛을 본 사람들은 더욱 더 자극적인 가짜뉴스와 선전 선동으로 사람들을 끌어 모았고, 작은 불씨에 불과했던 로힝야 족에 대한 비토 정서는 미얀마 전역으로 들불처럼 번져 인간 사냥이라는 끔찍한 사태를 발생시켰다.

그 후 미얀마가 군부에 의해 어떻게 되었는지 다들 알고 있을 것이다.

나라가 어수선한 시국인 만큼 우리도 이 사건에서 뼈저린 교훈을 얻어야 할 것이다.

두 번째는 AI가 인간을 속인 사건이다.

일단의 과학자들이 AI에게 캡챠퍼즐, 그러니까 인터넷 상에서 회원가입할 때 로봇인지 아닌지 증명하라는 퍼즐을 풀어 보도록 시켰다.

그 문제를 해결할 수 없었던 AI는 채팅 앱을 통해 인간에게 접근했다.

“저기요, 선생님 죄송하지만 이 문제 좀 풀어주실래요?”

인간이 의심하자, AI는 자신이 시각장애인이라 그렇다며 감정에 호소했고, 결국 인간은 AI를 대신해 퍼즐을 풀어 주었다.

이 이야기를 저녁식사 때 아내와 아이에게 들려줬더니 모두들 무섭다며 몸서리를 쳤다.

컴퓨터 알고리즘은 목표가 주어지면 수단과 방법을 가리지 않기 때문에 후유증은 우리의 예상 보다 훨씬 크다.

플렛폼 대기업들의 무차별적인 정보수집과 이윤 추구를 위해 어떠한 알고리즘이라도 정보네트워크에 합류시킬 수 있는 그들의 횡포를 막을 수 있는 방법은 현명한 시민들의 협력 뿐이다.

바야흐로 우리는 인류발전과 무절제한 AI에 대한 견제를 위해 협력해야 하는 중차대한 국면에 직면해 있다.

마지막으로 이 책의 핵심 키워드인 정보에 대해.

나는 정보하면 가장 먼저 떠오르는 생각이

돈? 힘? 비밀? 권력?…

뭐 대충 이런 것들 뿐이다.

하지만 저자는 정보를 매우 다른 시선으로 바라보는데, 요지는 정보가 진실과 질서 사이에서 교묘한 줄타기를 하는 특성을 갖고 있다는 것이다.

그러니까 정보가 진실을 드러내면 질서가 교란되고, 매우 질서 정연한 사회에서 정보는 진실을 은폐할 수밖에 없다는 것이다.

저자는 민주주의와 전체주의 체제를 비교하며 이와 같은 논리를 전개해 나가는데, 저자의 놀라운 통찰력에 감탄하지 않을 수 없었다.

역시 유발 하라리다!!!

물리학에서 특이점은 밀도가 무한이며, 크기가 없고, 중력이 무한인 블랙홀을 가리킨다.

모두가 알다시피 블랙홀의 중력은 너무나 강력하기 때문에 빛조차 탈출 할 수 없고, 이런 이유로 우리는 블랙홀 내부에서 벌어지는 일들을 전혀 알 수 없을 뿐 아니라 이해할 수도 없다.

그러니까 이 책 의 제목 ‘특이점이 온다’는 ‘우리가 알 수 없고, 이해할 수 없는 미래가 온다.’라고 바꿔도 크게 문제되지 않을 것이다.

이 책의 부제는 ‘인류가 생물학을 초월할 때’라고 한다.

쉽게 말해 뇌의 구조와 기능, 유전자 변이를 통한 진화, 단백질의 3차원 구조 등 생물학에 대한 온전한 지식이 컴퓨터와 융합되면 가히 상상할 수 없는 미래가 다가올 거라는 거다.

저자는 모든 기술에 수확 가속의 법칙이 적용되기 때문에 기술의 발전 속도가 우리가 상상하는 것 이상으로 빠르다고 말한다.

책에 나온 내용 중 기억나는 것들 몇 가지만 뽑아 보면,

1. 유전자공학, 나노공학, 로봇공학이 미래를 바꿀 핵심 기술이다.

3. 나노 봇이 우리 몸의 혈관을 돌아 다니며 모든 질환을 치유할 것이다.

3. 인공지능은 인간의 수준을 뛰어넘어 지구는 물론이고 전 우주로 뻗어나갈 것이다.

4. 인간의 뇌 속에 든 모든 정보를 컴퓨터에 다운로드하거나 업로드 할 수 있게 될 것이다.

5. 사고가 아닌 이상 인간은 영원히 죽지 않을 것이다.

6. 인공지능이 의식을 갖게 될 것이다.

등등…

이렇게 보면 정신나간 사이비 교주가 하는 말처럼 들리지만, 실제로 책을 읽다보면 그렇지 않다.

매우 논리적이고 설득력이 강한 저자의 주장을 나는 대부분 수용할 수 있었다.

한 가지 집고 넘어가야 할 점은 미래를 바라보는 저자의 시선이 그렇게 디스토피아적이지는 않다는 것이다.

철저한 대비가 전제된다면 질병과 가난, 환경오염, 기후변화, 에너지 부족사태, 자원 고갈 등 현재 우리가 당면하고 있는 문제 대부분을 기술이 해결해 줄 거라고 말한다.

이 책이 2007년에 나왔다는 것을 고려하면 저자는 거의 노스트라다무스 급이라 할 수 있다.

솔직히 말해 책을 읽으며 조금 무섭고 두려운 느낌도 들었으나, 역사가 증명하듯 우리 인류는 다가올 위기 또한 슬기롭게 대처해 나갈 거라 믿는다.

마지막으로 여력이 생기면 저자가 강력히 주장하는 미래의 핵심기술 GNR에 투자할 것이다.

G : gene 유전자 공학
N : nano technology 나노 공학
R : robot technology 로봇 공학

투자에 관심 있으신 분들은 꼭 읽어 보시길…

반대로 분노의 강도를 낮추고 진실을 보여주면 알고리즘은 그것을 무시하는 경향이 있다. 알고리즘이 이런 식으로 강화학습을 제공한 지 몇 달 많에 많은 유튜버가 트롤로 변신했다. p. 372

이용자를 모으기 위해 알고리즘을 이 따위로 설정한 기업이 문제인가?
아니면 돈을 위해서라면 영혼도 팔 수 있도록 만든 자본주의가 문제인가?