많은 사람들이 이 디스토피아를 받아들이고 있다. 와이어드(Wired) 잡지의 작가이자 설립자인 케빈 켈리는 AI가 "사회주의의 기술적 버전을 일으킬 것"이라고 생각하는 반면, 베스트셀러 작가 사피엔스의 유발 하라리는 "데이터주의"가 자유주의를 대체할 것이라고 주장한다. “인포테크는…인간의 주체성을 잠식할 것이다. 민주주의와 자유 시장은 구식이 될 수 있다.”

지금도 지능형 사물인터넷(IoT)이 우리의 가정, 자동차, 사무실 및 공장을 제어하기 시작하여 새로운 위험을 초래하고 있다. 예를 들어 스마트 자동차는 스마트폰의 결함을 물려준다. 보안 엔지니어인 조나단 브로사드는 "자동차는 휴대폰과 같아서 공격에 취약하다"고 말했다. 이제 수십억 개의 지능형 장치가 IoT에 연결되면 어떤 일이 일어날 수 있는지 생각해 봐야한다.

저자 Richard Brautigan이 "사랑의 은총의 기계에 의해 감시되고 있다"고 말한 것을 신뢰하는 것이 좋겠지만 소셜 미디어 알고리즘은 정보 과부하와 양극화 정치로 우리를 범람시키고 있다. 인권 보호에 초점을 맞춘 비영리단체인 프리덤 하우스(Freedom House)는 “미래는 기술을 통해 대중을 통제하는 것이 될 것”이라고 경고했고 또 다른 분석가는 “과거에는 전쟁이 무기로 행해졌다. 이제는 소셜 미디어를 통해서이다.”고 말했다.

거의 모든 분야가 취약하다. 자동화된 자동차의 편리함은 실제로 더 많은 혼잡을 야기할 수 있다. 일론 머스크는 “… 인간이 만든 생물학적 작용제는 의도하지 않은 전염병이나 고의적인 공격으로 수백만 명의 사람들을 쓸어버릴 수 있다. 많은 사람들이 AI 제어 무기가 사람들을 공격할 것이라는 전망에 겁을 먹고 있다.”고 말한다.

AI는 "지식의 나무 열매를 먹는다"는 성경 이야기로 이해할 수 있다. 지능과 지식은 훌륭하지만 엄청난 비용을 요구한다. 구텐베르크 인쇄기가 수십 년간의 전쟁과 개신교 종교 개혁으로 이어진 정보의 홍수를 불러일으킨 것처럼, 오늘날의 디지털 혁명은 허위 정보, 정부 교착 상태, 만연한 갈등 및 기타 글로벌 위협의 물결을 주도하고 있다.

지식 너머의 경계

이러한 두려움은 지식 너머의 모든 것을 무시하는 "기술 결정론" 관점에서 발생한다. 우리의 현재 AI는 의식의 중요한 역할을 배제하는 심하게 제한된 패러다임을 물려받는다. 철학자 르네 데카르트는 마음을 뇌의 객관적 지식과 영혼이 경험하는 주관적 세계 사이의 이원론으로 정의했다. 이 결정적인 구분은 여전히 철학과 과학을 지배하고 있다.

목적 기능에는 지각, 인식, 학습, 기억, 결정, 지식 및 기타 사실 정보가 포함된다. 대조적으로, 주관적 기능은 본질적으로 개인적이거나 과학자들이 "감질"이라고 부르는 것이다. 여기에는 감정, 의지, 목적, 신념, 가치, 상상, 비전 및 기타 미묘한 기능이 포함된다. 주관적 수준은 객관적 수준을 형성하는 고차 함수에 걸쳐 있기 때문에 더 강력하다. 예를 들어 지식은 주관적 가치에 영향을 미칠 수 있지만 사람들은 일반적으로 이전 신념에 도움이 되는 지식을 선택한다.

나는 이러한 차이점을 연구하기 위해 국제적 사상가 패널의 집단 지성을 사용해 왔으며 그 결과는 놀랍다. 한 연구에서 우리는 AI가 목적 기능의 80%를 자동화할 가능성이 있지만 주관 기능의 42%만 자동화할 것으로 추정했다. 차이점은 감정, 목적, 가치 및 기타 주관적인 요소는 AI가 정의하고 시뮬레이션하기 어렵고 부정확성, 편견 및 기타 문제의 원인이라는 것이다.

기본적으로 주관적인 요소는 사람이 지정해야 한다. 예를 들어, 항상 자동차의 GPS 내비게이션에 가고 싶은 곳을 알려야 한다. 지능형 기계는 일상적인 서비스 및 지식 작업을 대신할 가능성이 높지만 기술은 제한적이며 사람들은 항상 실제 사람이 인간 접촉을 제공하고 주관적인 문제를 처리하기를 원할 것이다.

또 다른 연구에서는 객관적 사고와 주관적 사고의 상대적인 사용을 추정했다. 우리는 주관적 요인이 개인 및 가족 결정의 73%, 조직 결정의 42%, 정치 및 정부 결정의 63%를 구성한다는 것을 발견했다. 세 가지 범주 모두에서 평균 60%이다. 합리성의 모델인 기업조차도 의사 결정의 거의 절반에 대해 주관적인 고려 사항을 사용한다. 이러한 결과는 지식의 논리와는 반대로 현대 사회가 주관적 사고, 즉 '고등' 의식이 지배하고 있음을 보여준다.

지식 너머에는 독창성, 기업가 정신, 협업, 외교, 마케팅, 감독 및 기타 인간 고유의 고차원적 기능의 거대한 미개척 영역이 존재한다. AI는 일상적인 문제를 해결할 수는 있지만 건전한 리더십과 어려운 선택을 내리는 데 필수적인 비전, 목적, 상상력, 지혜 및 기타 기능을 제공할 수는 없다. AI는 기후 위기나 다른 실존적 문제를 해결하지 못할 것이다.

인간 정신의 상승

이러한 연구는 우리가 지금 주관적 사고 또는 인간 정신이라고 부를 수 있는 것이 부상하는 것을 목격하고 있음을 시사한다. AI가 점점 더 객관적인 지식을 자동화함에 따라 인간의 관심은 의식의 계층 위로 이동하도록 강요되어 떠오르는 의식의 시대를 주도하고 있다. 헨리 키신저(Henry Kissinger)는 최근 타임(Time)에 이렇게 썼다.

우리의 연구는 AI 시스템에 통제권을 양보하는 대신 인간이 AI의 주관적인 심장을 통제할 가능성이 높다고 제안한다. 그곳이 위험이 있는 곳이고 사람이 중요한 곳이다. 폭주하는 AI 시스템을 방지하려면 성능을 모니터링하고 잠재적인 문제를 감지하고 주관적인 요소를 수정해야 한다. 눈에 띄는 예는 자동 비행 제어 시스템이 오작동하고 조종사가 시스템을 무시할 방법이 없었기 때문에 추락한 두 대의 Boeing 737 Max 여객기이다.

이를 위해서는 AI와 사용자 간의 긴밀한 공생 관계(인간과 기계의 융합)와 마음과 컴퓨터의 집단 지능이 필요하다. 그러나 궁극적으로 인간은 이 관계에 대한 지배력을 유지해야 한다. 우리는 또한 이 모든 지능을 성공적으로 인도하기 위해 우리 자신의 분열과 다른 특이성을 억제해야 할 것이다.

결국 AI의 순 효과는 사람을 감소시키는 것이 아니라 인류 고유의 고차원적 재능을 향상시키는 것일 수 있다. 이것은 AI 인수를 기대하는 사람들과 상반되는 것처럼 보일 수 있다. 예, AI와 로봇이 여러분의 일자리를 대신할 것이라고 정중하게 제안한다. 그러나 이것은 더 창의적인 작업, 더 혁신적인 문명, 인간 정신의 꽃을 피우게 된다.