이번 주 폭력적인 폭도들은 대선이 도난 당했다는 잘못된 믿음에 힘 입어 200년 이상 미국 민주주의의 중심지인 국회 의사당에 가장 큰 공격을 가했다. 그 주장의 주저자는 도널드 트럼프 대통령이었지만, 폭도들은 대부분 현대 기술이 만들어 낸 주목 경제의 산물이라고 믿을 준비가 되어 있다.

 

Facebook 또는 Twitter의 뉴스피드는 매일 수십억 명의 사람들의 관심을 상품화하고 트윗, 게시물 및 그룹을 정렬하여 가장 많은 참여 (클릭, 조회수 및 공유)를 결정하는 비즈니스 모델에서 작동한다. 이러한 상품화주의 플랫폼은 집단 정신을 뒤틀었다. 그들은 세계에 대한 더 좁고 광적인 견해로 이어졌다.

 

수십억 명의 사람들의 일일 시청 시간의 70%를 결정하는 YouTube의 추천 알고리즘은 유사한 동영상의 의미를 "제안"하지만 실제로 시청자를 더 극단적이거나 더 부정적이거나 더 음모적인 콘텐츠로 유도한다. 수년 동안 YouTube는 '다이어트'에 대한 동영상을 시청한 10대 소녀들에게 식욕 부진을 촉진하는 동영상인 '생각'을 추천했다. 사람들이 NASA의 달 착륙에 관한 과학 동영상을 시청했을 때 YouTube는 평평 지구 음모 이론에 대한 동영상을 추천했다. 이것은 수억 번을 했다. 이와 같은 뉴스피드와 추천 시스템은 부정과 편집증의 하향 나선형을 만들어 수십억 명의 사람들이 현실에 대한 인식을 현실 자체에서 천천히 분리한다.

 

현실을 명확하고 진실하게 보는 것은 우리가 무엇이든 할 수 있는 능력의 기본이다. 수익을 창출하고 관심을 상품화함으로써 문제를 파악하고 집단적 해결책을 제정하는 능력을 포기했다. 이것은 새로운 것이 아니다. 우리가 지구나 사회의 생명 유지 시스템을 상품화하도록 허용할 때마다 다른 붕괴를 초래한다. AI에 최적화된 마이크로 타겟 광고로 정치를 상품화하면 정치에서 무결성이 제거된다. 식품을 상품화할 때 농업을 지속 가능하게 만드는 수명주기를 잃게 된다. 교육을 콘텐츠의 디지털 피드로 상품화하면 인간 개발, 신뢰, 보살핌 및 교사 권한의 상호 관련성을 잃게 된다. Tinder에서 사람들을 카드 놀이로 바꾸어 사랑을 상품화하면 새로운 관계를 구축하는 데 관련된 복잡한 춤이 끊어진다. 그리고 커뮤니케이션을 Facebook에서 여러 개의 게시물과 댓글 스레드로 상품화하면 맥락, 뉘앙스 및 존중이 제거된다. 이 모든 경우에 추출 시스템은 건강한 사회와 건강한 행성의 기초를 서서히 침식시킨다.

 

 

 

주의를 보호하기위한 시스템 전환

 

E.O. 유명한 생물학자인 윌슨은 인간은 지구 절반만 움직이고 나머지는 홀로 남겨야 한다고 제안했다. 주의 경제에 대해 비슷한 것을 상상해보자. Apple, Google, Facebook 및 기타 대기업의 이익의 일부를 희생하더라도 인간의 관심을 보호하고 싶다고 말할 수 있으며 그렇게 해야 한다.

 

디지털 기기의 광고 차단기는 디지털 세계에서 구조적 변화가 될 수있는 흥미로운 예이다. 광고 차단기는 인권일까? 누구나 Facebook, Google, 웹 사이트에서 광고를 차단할 수 있다면 인터넷은 자체 자금을 조달할 수 없고 광고 경제는 막대한 수익을 잃을 것이다. 그 결과가 권리를 부정할까? 당신의 관심이 맞는가? 당신은 그것을 소유하고 있는가? 가격을 책정해야 할까? 인간의 장기나 노예를 파는 사람은 수요를 충족시키고 이익을 창출 할 수 있지만, 우리는 이러한 품목이 시장에 속하지 않는다고 말한다. 인간과 장기처럼 인간의 관심은 돈으로 살 수 없는 것이 되어야 할까?

 

코로나19 전염병, Black Lives Matter 운동, 기후변화 및 기타 생태 위기로 인해 점점 더 많은 사람들이 우리의 경제 및 사회 시스템이 얼마나 무너 졌는지 알게 되었다. 그러나 우리는 이러한 상호 연결된 위기의 뿌리에 도달하지 못하고 있다. 우리는 정답처럼 느껴지지만 은밀하게 현상을 유지하는 함정에 빠지고 있다. 약간 더 나은 경찰 관행과 신체 카메라는 경찰의 비행을 예방하지 못한다. Prius 또는 Tesla를 구입하는 것만으로는 대기 중 탄소 수준을 낮추기에 충분하지 않다. 플라스틱 빨대를 생분해성 빨대로 대체하는 것은 바다를 구할 수 없다. '좋아요'수를 숨기려는 인스타그램의 움직임은 서비스가 지속적인 사회적 비교와 연결을 위한 인간의 체계적인 도용을 전제로 하는 10대 청소년의 정신 건강 문제를 변화시키지 않는다. 우리는 훨씬 더 깊은 체계적인 개혁이 필요하다. 우리는 우리가 직면한 도전의 성격과 규모에 상응하는 방식으로 공익을 위해 기관을 전환해야 한다.

 

Center for Humane Technology에서 우리가 한 한 가지는 Apple, Google 및 Facebook이 경제적 이익에 반하는 경우에도 "시간이 잘 흘렀다"라는 사명을 채택하도록 설득하는 것이었다. 이것은 우리가 광범위한 대중 매체 인식 캠페인과 옹호를 통해 시작한 운동이며, 기술 디자이너, 관심있는 학부모 및 학생으로부터 신뢰를 얻었다. 디지털 세계의 인센티브를 화면과 앱에서 '시간을 보내는'경주에서 '정상을 향한 경주'로 바꾸어 사람들이 시간을 잘 보낼 수 있도록 해야 했다. 수십억 명의 사람들에게 진정한 변화를 가져왔다. 예를 들어 Apple은 2018년 5월에 모든 iPhone, iPad 및 기타 장치와 함께 제공되는 "스크린 타임"기능을 도입했다. 모든 사용자에게 휴대전화 사용 시간을 표시하는 것 외에도 Screen Time은 자녀가 온라인에서 보내는 시간 (및 활동)을 부모에게 보여주는 자녀 보호 및 앱 시간 제한 대시 보드를 제공한다. Google은 비슷한 시기에 유사한 디지털 웰빙 이니셔티브를 시작했다. 잠자리에 들기 전에 쉽게 플러그를 뽑고 알림을 제한하는 등 우리가 제안한 추가 기능이 포함되어 있다. 같은 맥락에서 YouTube는 '휴식'알림을 도입했다.

 

이러한 변화는 기업이 수십억 달러의 영역 에서조차 기꺼이 희생한다는 것을 보여준다. 그럼에도 불구하고 우리는 아직 이러한 기업의 핵심 논리를 변경하지 않았다. 기업이 경제적 이익에 반하는 행동을 하는 것은 한 가지이다. 목적과 목표의 DNA에 어긋나는 일을 하는 것은 전혀 다른 일이다.

 

 

 

집단 행동을 위해 노력

 

우리는 기술 기업을 공익을 최우선으로 생각할 수 있는 심층적이고 체계적인 개혁이 필요하다. 우리는 얼마나 많은 체계적인 변화가 가능할 수 있는지, 그리고 사람들의 집단적 의지를 어떻게 활용할 것인지에 대해 더 많이 생각해야 한다.

 

최근 인간 기술 센터에서 우리는 팟 캐스트 Your Undivided Attention을 위해 전 유엔기후변화협약(2010-2016)의 전 사무총장인 Christiana Figueres를 인터뷰했다. 그녀는 파리협약으로 이어진“협력 외교”를 담당했고, 우리는 그녀가 어떻게 이것을 할 수 있었는지 배웠다. 기후 변화에 대처하기 위해 모든 역경에 맞서 195개의 다른 국가를 공유하고 선의의 결의를 내릴 수 있었다. Figueres는 처음에는 많은 국가에서 동의하는 것이 가능하다고 믿지 않았지만 파리협약을 성공적으로 개최하면 자신이 변화해야 한다는 것을 깨달았다. 그녀는 국가들이 기후 행동에 전념하도록 하는 것이 가능하다고 진정으로 믿어야 했다. 그렇게해서 그녀는 참여국들이 기후변화에 대처할 수 있는 가능성을 믿게 만드는 데 집중할 수 있었다. 초기 국제기후협상이 실패한 곳에서 Figueres의 노력은 각국이 금융, 신기술 및 기타 도구에 합의하여 지구 온도 상승을 2도 이하로 유지하거나 1.5°C 이하로 유지하도록 했다.

 

기술 산업의 경우 수백 개 국가 또는 수백만 명의 사람들을 설득할 필요가 없다는 점에서 우위를 점하고 있다. Facebook, Amazon, Apple, Netflix, Alphabet (이전 Google)으로 구성된 소위 FAANG 기업인 21 세기의 가장 강력한 디지털 인프라를 운영하는 사람은 10명 미만이다. 이들 개인이 함께 모여 주주 이익 극대화가 더 이상 공통된 목표가 아니라는 데 동의한다면 디지털 인프라는 다를 수 있다. Christiana Figueres가 195개국간에 합의를 이끌어 낼 수 있다면 10명의 기술 CEO와 함께 할 가능성을 고려할 수 있다.

 

 

 

인간적 기술의 새로운 경제학

 

기술이 인류와 지구와 조화를 이루기 위해서는 몇 가지 경제 원칙이 바뀌어야 한다. 그중 하나가 성장 패러다임이다. 유한 기판에서 무한 성장 논리를 수행할 수 없다. 무한한 경제 성장을 위한 추진력은 행성 생태 위기로 이어지고 있다. 기술 기업의 경우 추출된 인간의 관심의 무한한 성장을 추구하는 것은 글로벌 의식과 사회 복지의 유사한 위기로 이어진다. 우리는 정신 건강과 웰빙을 원하는 결과의 중심에 두는 성장 후주의 경제로 전환해야 한다. 기술이 인류와 지구와 조화를 이루기 위해서는 몇 가지 경제 원칙이 바뀌어야 한다.

 

이러한 변화에 대한 작은 힌트는 뉴질랜드와 스코틀랜드를 포함한 국가에서 일어나고 있으며, 여기에서 Wellbeing Economy Alliance와 같은 조직은 국내 총생산(GDP)을 촉진하는 경제에서 이러한 대체 우선 순위를 가진 경제로 전환하기 위해 노력하고 있다. 지도자들은 웰빙이 어떻게 정책과 정치적 선택에 대한 대중의 이해를 알리고, 결정을 안내하고, 경제적 사고와 실천의 새로운 기반이 될 수 있는지 묻는다.

 

보다 인간적인 기술을 향한 또 다른 변화는 우리 행동의 장기적인 사회적 영향에 대해 책임을 질 수 있는 광범위한 이해 관계자를 필요로한다. 지금은 대형 기술회사가 더 얇고 얇은 "가짜"관심 부분을 판매하여 수익을 창출 할 수 있다. 가짜뉴스 소스에서 가짜 광고주에게 가짜 클릭을 판매하는 것이다. 이 회사들은 링크나 기사가 매우 잘못되어 잘못된 정보를 전파하더라도 돈을 벌고 있다. 이러한 기회주의는 지식의 출처를 신뢰하거나 진실에 대한 신념을 공유하는 우리의 능력을 파괴함으로써 정보 생태계를 훼손하고, 이는 결과적으로 좋은 의사 결정을 위한 우리의 능력을 파괴한다. 그 결과 양극화, 잘못된 정보, 민주적 시민권의 붕괴가 발생한다. 우리는 디지털 세계의 참가자들이 더 긴 시간 프레임과 그들의 행동이 사회에 미치는 광범위한 영향을 고려하도록 장려하는 메커니즘을 만들어야 한다.

 

인간의 의지는 여기서 중요한 역할을 한다. Apple App Store 수익 분배 모델 (중앙 은행 또는 관심 경제의 연방 준비 은행 역할)의 리더가 사용자가 가장 많은 가상 상품을 구매하거나 가장 많은 시간을 사용하는 것을 기반으로 앱 제작자에게 수익을 분배하기로 선택했다면 어떨까? 그러나 앱 제작자 중 누가 사회의 모든 구성원이 자신의 가치에 따라 더 많이 살 수 있도록 전화의 다른 앱과 가장 잘 협력했을까?

 

궁극적으로 올바른 규칙을 설정하는 것이다. 다른 플레이어가 여전히 유한한 자원과 권력을 놓고 경쟁하고 있을 때 한 행위자가 복지를 위해 최적화하고 사회의 가치에 맞추는 것은 어렵다. 규칙과 가드 레일이 없으면 가장 무자비한 배우가 승리한다. 그렇기 때문에 법과 정책을 제정하려는 국민의 집단적 의지와 함께 법과 정책이 필요하다. 더 큰 메타 위기는 가드 레일을 만들기위한 민주적 프로세스가 차이를 만드는 데 필요한 기술 개발 속도보다 훨씬 느린 속도로 작동한다는 것이다. 기술은 20세기 민주주의 기관이 해로움을 잘 이해할 수 있는 것보다 더 빠르게 발전할 것이다. 기술 부문 자체가 함께 모여 협력하고 운영 방법을 찾아야 공유된 사회적 목표가 초 경쟁과 수익 극대화보다 우선한다.

 

마지막으로, 기술 기업이 개인과 사회에 대해 갖는 엄청난 비대칭 힘을 인식해야 한다. 그들은 우리 자신보다 우리를 더 잘 알고 있다. 모든 비대칭 권력 구조는 훌륭한 교사, 치료사, 의사 또는 간병인에 의해 예시된 신탁 또는 "돌봄의 의무"모델을 따라야한다. 즉, 권한이 적은 사람들을 위해 일해야 한다. 추출에 기반한 비즈니스 모델로 작동해서는 안된다. 기술을 위한 업그레이드된 비즈니스 모델은 생성적이어야 한다. 그들은 우리를 제품이 아닌 고객으로 대우하고 우리의 가장 깊숙한 가치와 인간성에 부합해야 한다.

 

 

 

인간을 향하여

 

E.O. Wilson은“인류의 문제는 우리가 구석기 시대의 감정, 중세 제도, 신과 같은 기술을 가지고 있다는 것이다.”라고 말했다. 우리는 고정된 모든 약점과 취약성에서 구석기 시대의 감정을 포용해야 한다. 우리는 더 많은 지혜, 신중함, 사랑을 통합하기 위해 우리 기관을 업그레이드해야 한다. 그리고 우리는 우리 모두가 타고 있는 배의 방향을 조종할 수 있는 능력을 넘어서는 신과 같은 기술의 개발을 늦출 필요가 있다.

 

가능한 것의 영역은 계속 확장되고 있지만 더 나은 정보, 리더십 및 조치를 요구하는 기하급수적으로 도전적인 글로벌 문제와 함께 동시에 발생하고 있다. 우리를 다운 그레이드하고 분열시키는 바닥을 향한 경주를 받아들이는 대신, 우리는 우리의 상호 연결성, 정중함, 깊은 빛을 지원하는 정상을 향한 경주를 가능하게 하는 기술 환경을 함께 만들 수 있다. 나는 변화가 인간적으로 가능하다고 믿는다.

 

 

 

*Tristan Harris는 Center for Humane Technology의 공동 창립자이자 회장이다. 이 에세이는 Cascade Books에서 2021년 1월 26일에 출판 될 The New Possible : Visions of Our World beyond Crisis에서 발췌한 것이다.