이 견해에 대해 적어도 세 가지 이의가 있는데, 이는 특이점이 미리 예측할 수 있는 결론이 아님을 보여준다.

1903년 라이트 형제는 세계 최초로 지속 비행을 선보였다. 유리 가가린은 60년도 채 되지 않아 우주에 처음으로 사람이 되어 지구 궤도를 돌았다.

1993년에 팀 버너스 리는 "World Wide Web"의 소스 코드를 공개했다. 30년 후, 냉장고에서 시계에 이르기까지 모든 것이 연결되어 있다.

1953년 로잘린드 프랭클린, 제임스 왓슨, 프랜시스 크릭이 DNA 이중나선을 발견했다. 50년 이내에 우리는 인간 게놈 지도를 작성했다. 20년 후, 우리는 CRISPR을 사용하여 DNA를 편집하고 있다.

1992년, 게리 카스파로프는 컴퓨터 체스 상대가 얼마나 창피한지 비웃었다. 5년 만에 그는 한 명에게 맞았다.

약하고 언젠가는 반드시 죽는 몸

커즈와일(Kurzweil)은 특이점을 "기술 변화의 속도가 매우 빠르고 그 영향이 너무 깊어 인간의 삶이 되돌릴 수 없을 정도로 변화할 미래 기간"으로 정의한다. 아이디어는 발견과 진보가 "예상치 못한 분노로 폭발"할 것이라는 것이다. 우리는 종종 "기하급수적 성장"이 실제로 의미하는 것과 그것이 얼마나 빠르게 변화를 가져오는지 이해하지 못한다. 예를 들어, 매년 컴퓨터의 처리 능력을 두 배로 늘린다면 이 "두 배" 중 7배 이내에서 컴퓨터의 능력은 128배 증가했을 것이다. 

오늘날에는 더 많은 혁신가와 과학자가 있으며 더 효율적인 도구와 방법이 있다. 커즈와일(Kurzweil)이 도출한 결론은 기술 발전이 "지금은 10년마다 두 배로 증가하고 있다"는 것이다(그는 이에 대한 출처를 인용하지는 않았지만). 그에 따르면, 우리는 상황이 진정으로 시작되는 시점, 즉 숨이 멎을 정도로 급격하고 완전히 변형된 새로운 세계에 들어서는 시점부터 불과 몇 십 년 밖에 남지 않았다.

누군가에게는 이 특이점이 유토피아가 될 것이다. 다른 사람들에게는 터미네이터 스타일의 악몽이 될 것이다. 커즈와일(Kurzweil)은 확실히 전자이다. 커즈와일(Kurzweil)은 인간의 나약함, 즉 그가 "1.0 생물학적 신체"라고 부르는 약점을 본다. 그렇다. 우리에게는 렘브란트, 뉴턴, 생상스가 있다. 그러나 "많은 인간의 생각이 파생되고, 사소하고, 제한적"인 것도 사실이다. 이것이 특이점이 충분히 빨리 올 수 없는 이유이다. 이제 폭력적인 야만성의 이 무거워진 살덩이를 버릴 때이다.

기술은 우리에게서 도망치는 습관이 있다.

돌파구가 발생하거나 수문이 열리면 종종 폭발적인 기하급수적 성장이 뒤따른다. 그리고 미래학자 레이 커즈와일(Ray Kurzweil)에 따르면, 우리는 "특이점"에서 역사적 순간일 뿐이다.

다음 시대

커즈와일(Kurzweil)은 우주를 6개의 위대한 "시대"로 본다. 그들은 우주를 창조하는 물리학과 화학에서 시작한다. 그런 다음 탄소 기반 화합물은 생명체가 나타날 때까지 점점 더 복잡해졌다. 결국 인간의 두뇌와 마찬가지로 지능도 진화했고, 이를 통해 우리는 점점 더 뛰어난 기술을 만들 수 있게 되었다. 

그리하여 우리는 "우리의" 획기적인 순간에 도달한다. 우주의 다음 위대한 도약은 인간과 기술이 결합하는 것이다. 집으로 가는 길을 찾기 위해 Google 지도를 사용하는 것은 아니다. 그것은 바로 우리의 생물학이 우리가 만드는 기술과 얽히게 될 것임을 의미한다. 바야흐로 바이오닉 시대다. 따라서 우리가 만드는 기계는 "100조에 불과한 매우 느린 연결이라는 인간 두뇌의 한계를 초월"하고 "오래된 인간의 문제를 극복하고 창의성을 크게 증폭"할 수 있게 해준다. 그것은 우리의 두뇌에 실리콘, 우리 몸에 티타늄을 가진 초월적인 차세대 인류가 될 것이다.

이것이 우리 모두를 노예로 만드는 신과 같은 사악한 엘리트를 의미하든, 아니면 전능한 목가를 의미하든 Kurzweil은 (특이하게도) 확신할 수 없다.

회로 기판에 찬물

이 모든 가능성은 얼마나 될까? 어떤 찬물을 끼 얻을 수 있을까? 

도전해야 할 첫 번째 아이디어는 기술이 우리 자신의 마음에 일반적인 인공지능이나 정교한 생체 공학 향상으로 이어지는 방식으로 발전할 가능성이 얼마나 되는 지이다. 대부분의 커즈와일(Kurzweil)의 추정치(또한 Eliezer Yudkowsky와 같은 다른 미래학자의 추정치)는 이전 및 기존 하드웨어 개발을 기반으로 한다. 그러나 철학자 데이비드 찰머스(David Chalmers)는 "AI로 가는 길의 가장 큰 병목은 하드웨어가 아니라 소프트웨어"라고 주장한다. 마음 또는 일반적인 인간지능을 갖는 것은 모든 종류의 복잡한(그리고 알려지지 않은) 신경과학적 및 철학적 질문을 포함하므로 "하드웨어 외삽법은 여기서 좋은 가이드가 아니다." 마음을 갖는 것은 완전히 다른 종류의 단계이다. 플래시 드라이브 메모리 크기를 두 배로 늘리는 것과는 다르다.

둘째, 미래학자들이 의존하는 종류의 기하급수적인 성장이 있을 필요가 없다. 과거의 기술 발전이 유사한 미래의 발전을 보장하지는 않는다. "수익 감소"의 법칙도 있다. 더 많은 집단 지성이 더 효율적으로 작동하더라도 우리는 여전히 덜 얻을 수 있다. 오늘날 Apple은 컴퓨터 공학 분야에서 최고의 인재를 보유한 세계에서 가장 부유한 회사이다. 그러나 가장 최근의 iDevice가 이전 버전보다 덜 흥미롭거나 혁신적으로 보이지 않는다는 것은 명백하다.

커즈와일(Kurzweil)과 그의 지지자들은 지능이 20% 증가하는 "지능 향상"의 세계는 확실히 "수익 감소"의 범위를 벗어났다고 답할 것이다. Chalmers가 지적했듯이 "인간들 사이에서도 상대적으로 작은 설계 능력의 차이(예: Turing과 일반 인간의 차이)가 설계되는 시스템의 큰 차이로 이어지는 것 같다." 기존 인간지능이 달성할 수 있는 것에는 한계가 있거나 수익이 감소할 수 있지만, 언제 이를 향상시킬 수 있을까?

세 번째 반대는 특이점을 방해할 수 있는 상황적 또는 이벤트 유형의 장애물이 많다는 것이다. 끔찍할 수도 있고, 전 세계적으로 슬레이트 와이핑이 일어났을 수도 있다. 아니면 또 다른 전염병이 우리 대부분을 쓸어버릴 수도 있다. 아마도 나노기술은 우리의 두뇌를 뭉개지게 할 것이다. 아마도 AI는 세계에 끔찍한 재앙을 일으킬 것이다. 아니면 단순히 기술을 구축하고 개발하는 데 필요한 리소스가 부족할 수도 있다. 단독으로 생각하면 이들 각각이 사소한 기회를 제공할 수 있지만, 가능한 모든 막다른 골목과 좌절을 쌓으면 특이점이 실제로 얼마나 예견된 결론인지에 대해 의문을 제기하기에 충분하다.

공상과학 애호가의 꿈

커즈와일(Kurzweil)을 어떻게 보는지는 기존의 편견과 아마도 얼마나 많은 공상 과학 소설을 읽었는지에 달려 있다. 지난 세기의 기술이 지난 세기와 천년을 훨씬 능가하는 속도로 발전했다고 말하는 것은 확실히 사실이다. 2020년대의 세계는 1920년대의 세계와 비교하여 알아볼 수 없다.  

그러나 무한한 기술 발전을 가로막는 장애물이 많은 것도 마찬가지이다. 우리는 궁극적으로 이 로켓이 이륙할 것인지, 아니면 이륙할 경우 매우 단단한 유리 천장에 부딪힐 것인지 알 수 없다.

글쓴이: Jonny Thomson은 옥스포드에서 철학을 가르친다. 그는 Mini Philosophy(@philosophyminis)라는 유명한 인스타그램 계정을 운영하고 있다. 그의 첫 번째 책은 Mini Philosophy: A Small Book of Big Ideas이다.