이 책의 제목 ‘넥서스’는 내가 스타크래프트에 빠져 있을 때 항상 입에 달고 살았던 단어이다.

하지만 당시엔 넥서스란 단어에 별다른 관심을 갖진 않았는데, 정보가 유통되는 네트워크에서 여러 노드(사람,장치,시스템 등)가 연결되는 중심점이 넥서스라고 한다.

전작인 ‘사피엔스’에서 강조했듯이 저자는 인류 발전의 토대를 없는 것도 현실로 만들어내는 인간 특유의 상상력과 그로 인해 발생하는 인간의 협동심에서 찾는다.

신, 종교, 돈, 국가…

실체가 없는 이것들은 정보 네트워크를 통해 교류되며 성격, 인종, 성별이 제각각인 인간을 하나로 통합시켜 인류 발전의 촉매제 역할을 한다.

지금까지 인류의 발전이 이런식으로 이루어졌는데 과연 미래에도 그럴까?

만약 인간의 지능을 뛰어넘어 의식까지 갖춘 AI가 우리의 정보네트워크에 합류 한다면?

위와 같은 물음에 대한 답이 이 책의 주제라 할 수 있겠다.

저자는 여러가지 근거와 사례를 들어 AI의 위험성에 대해 경고하는데, 그 중에서 나는 두 가지 사례가 가장 기억에 남는다.

첫 번째는 미얀마에서 벌어진 로힝야족 학살 사건이다.

이 사건의 원인은 나중에 페이스북 알고리즘으로 밝혀졌는데, 그 과정이 매우 인상적이다.

데이터를 분석한 알고리즘은 분노가 사용자 확보에 용이하다는 것을 발견한 후 사용자를 최대한 끌어 모으라는 명령을 이행하기 위해 가짜뉴스와 선전 선동 문구로 도배된 게시물을 페이스북 최상단에 배치했다고 한다.

그렇게 광고비 맛을 본 사람들은 더욱 더 자극적인 가짜뉴스와 거짓 선동으로 사람들을 끌어 모으기 시작했고, 처음엔 미미했던 로힝야 족에 비토 정서가 급기얀 인간사냥이라는 끔찍한 사태로 이어진 것이다.

그 후 미얀마가 군부에 의해 어떻게 되었는지 다들 알고 있을 것이다.

나라가 어수선한 시국인 만큼 우리도 이 사건에서 뼈저린 교훈을 얻어야 할 것이다.

두 번째는 AI가 인간을 속인 사건이다.

일단의 과학자들이 AI에게 캡챠퍼즐, 그러니까 인터넷 상에서 회원가입할 때 로봇인지 아닌지 증명하라는 퍼즐을 풀어 보도록 시켰다.

그 문제를 해결할 수 없었던 AI는 채팅 앱을 통해 인간에게 접근했다.

“선생님 죄송하지만 이 문제 좀 풀어주실래요?”

인간이 의심하자, AI는 자신이 시각장애인이라 그렇다며 감정에 호소했고, 결국 인간은 AI를 대신해 퍼즐을 풀어 주었다.

이 이야기를 저녁식사 때 아내와 아이에게 들려줬더니 모두들 무섭다며 몸서리를 쳤다.

컴퓨터 알고리즘은 목표가 주어지면 수단과 방법을 가리지 않기 때문에 후유증은 우리의 예상 보다 훨씬 크다.

플렛폼 대기업들의 무차별적인 정보수집과 이윤 추구를 위해 어떠한 알고리즘이라도 정보네트워크에 합류시킬 수 있는 그들의 횡포를 막을 수 있는 방법은 현명한 시민들의 협력 뿐이다.

바야흐로 우리는 인류발전과 무절제한 AI에 대한 견제를 위해 협력해야 하는 중차대한 국면에 직면해 있다.

마지막으로 이 책의 핵심 키워드인 정보에 대해.

나는 정보하면 가장 먼저 떠오르는 생각이

돈? 힘? 비밀? 권력?…

뭐 대충 이런 것들 뿐이다.

하지만 저자는 정보를 매우 다른 시선으로 바라보는데, 요지는 정보가 진실과 질서 사이에서 교묘한 줄타기를 하는 특성을 갖고 있다는 것이다.

그러니까 정보가 진실을 드러내면 질서가 교란되고, 매우 질서 정연한 사회에서 정보는 진실을 은폐할 수밖에 없다는 것이다.

저자는 민주주의와 전체주의 체제를 비교하며 이와 같은 논리를 전개해 나가는데, 저자의 놀라운 혜안과 통찰력에 감탄하지 않을 수 없었다.

역시 유발 하라리!!!