1년 반 전에 Netflix는 소셜 미디어의 유해한 결과를 파헤친 다큐 드라마인 사회적 딜레마The Social Dilemma를 출시했다. 여러 인구 통계에 걸쳐 정치적 양극화, 잘못된 정보의 확산, 불안과 우울의 증가를 생각해 본다. 전 Google 디자인 윤리학자이자 Center for Humane Technology의 공동 설립자인 Tristan Harris는 영화의 중심 인물이다. 이번 주 South By Southwest의 한 세션에서 Harris는 이 기술과의 관계를 건강한 곳으로 만들기 위해 취해야 할 조치에 대해 이야기했다.  

Harris는 생물학자 Edward O. Wilson의 인용문으로 시작했다. “인류의 진정한 문제는 다음과 같다. 우리에게는 구석기 시대의 감정, 중세 제도, 신과 같은 기술이 있다. 그리고 그것은 끔찍하게 위험하며 이제 전반적으로 위기의 지점에 접근하고 있다.”

다시 말해서, 기술은 우리의 두뇌가 따라잡고 건강하게 상호 작용하는 방법을 알기에, 또는 우리 기관이 기술을 이해하고 현명하게 규제하기에는 너무 빨리 발전하고 있다.

Wilson은 2009년 하버드 자연사 박물관에서 열린 토론회에서 이 말을 했다. 즉, Instagram 및 Tiktok과 같은 플랫폼이나 딥페이크, 텍스트 생성기, CRISPR 및 기타 인류를 변화시킬 잠재력이 있는 기술(좋든 나쁘든)이 널리 채택되기 전이다. 

이제 우리는 산의 일몰부터 우크라이나의 폭격으로 무너진 건물에 이르기까지 텍스트를 기반으로 사실적인 이미지를 생성할 수 있는 알고리즘을 보유하고 있다.

 우리는 GPT-3를 가지고 있는데, 이것은 단순히 맥락에서 벗어난 실제 사실을 인용하면서 mRNA 백신이 안전하지 않다고 주장하는 설득력 있는 논문을 작성할 수 있다. "이것은 인터넷에서 신뢰를 위한 중성자 폭탄과 같다."라고 Harris는 말했다. "그리고 세상의 복잡성은 매일 증가하고 있다." 그러나 대응하는 능력은 일치하지 않는다.

과거에는 서로 별개로 여겨졌던(또는 과거에는 존재하지 않았던) 문제가 이제 밀접하게 연결된다. 잘못된 정보와 합성 미디어가 핵 확대에 미칠 수 있는 영향(및 이미 선거와 민주주의에 미친 영향) 또는 인공지능과 글로벌 금융 위험 간의 연결을 고려해봐야 한다.

기술을 관리하는 방법에 대한 이전의 생각은 이 새로운 복잡성에 직면하여 충분하지 않다. 여러 행위자가 관련되어 있고 책임감이 낮고 무엇이 "옳은"지에 대한 모든 사람의 정의가 다른 경우 개인 정보 보호 또는 언론의 자유와 같은 문제를 처리하는 방법은 무엇일까? Harris는 "기술은 인류의 지혜 능력을 약화시키고 있다. "개인적으로 뿐만 아니라 우리가 필요로 하는 지혜로 운영할 수 있는 우리의 집단적 능력이다."

그는 지혜란 우리가 실제로 일하는 방식의 한계를 아는 것, 탐구할 수 있는 겸손함과 자각을 갖는 것, 시스템과 근본 원인의 관점에서 생각할 수 있는 것을 의미한다고 말했다. Harris는 환경 과학자 Donella Meadows의 책 Thinking in Systems를 참조했는데, 여기에서 그녀는 시스템에 개입하기 위한 12가지 지렛대 포인트를 자세히 설명한다. Harris의 의견으로는 Meadows의 기술 대화에 대한 요점 중 가장 관련성이 높은 것은 패러다임을 초월하는 힘이다.

우리를 있게 한 기술 산업의 각 사고 패러다임은 인간 중심의 초점으로 정밀 검사되어야 한다. 비용과 편익이 항상 존재한다고 주장하여 기술의 피해를 외면하기 보다는 유해한 외부효과를 최소화하는 데 집중해야 한다. 사용자가 원하는 것을 제공하기보다는 인간의 약점과 취약성을 존중해야 한다(예: 소셜 미디어 플랫폼이 뇌의 도파민 반응을 이용하는 방식). 사용자에게 만족스러운 경험을 제공하기 위해 개인화를 극대화하기보다는(우리만의 작은 에코 챔버를 만드는 것으로 알려짐), 공유된 이해를 만들기 위해 노력해야 한다.

문제는 더 많은 사람들이 소셜미디어 및 기타 기술의 일반적인 사용자에서 Harris가 말하는 인간적인 기술자가 되도록 하려면 어떻게 해야 할까?

그것은 인식을 높이고 우리 자신을 교육하는 것으로 시작된다. Humane Technology 센터의 Harris와 그의 팀은 새로운 기술을 설계할 때(또는 기존 기술의 디자인을 변경할 때) 우선 순위를 정하면 개별적으로 그리고 상호 연결된 커뮤니티로서 우리의 경험을 향상시킨다.

Harris는 "우리는 이 새로운 패러다임에서 훈련된 100,000명의 인간적인 기술자를 원한다."고 말했다. “이런 질문을 하는 사람이 나 혼자라는 생각이 들 때는 이런 것들을 생각하기 어렵다.”

우리는 기술 분야에서 일하는 사람들이 공유된 이해를 만드는 데 도움이 되는 것이 중요한 변곡점에 서 있다. 세상은 덜 복잡하거나 불안정해지지 않을 것이다. 반대로 Harris는 기후 변화, 불평등, 불안정한 정치 체제 등 여러 요인으로 인해 전 지구적 재앙이 증가하는 시기에 접어들고 있다고 예측한다.

받아들일 것도 많고 생각할 것도 많다. 그러나 Harris는 지난 몇 년 동안 그 어느 때보다 시스템이 훨씬 빠르게 변화하는 것을 보았기 때문에 희망이 있다고 말했다. 기술 업계의 사람들은 전 YouTube 엔지니어 Guillaume Chaslot에서 Facebook 공동 창립자 Chris Hughes, 전 Facebook 데이터 과학자 Frances Haugen 등에 이르기까지 자신이 만드는 제품의 위험과 피해에 대해 이야기했다. Harris는 "기술자들은 실제로 일어나서 '나는 업계의 유해한 부분에 참여하고 싶지 않는다. 더 나은 부분을 구축하는 데 도움이 되고 싶다'고 말하고 있다."고 말했다.

Wilson의 인용문으로 돌아가서 Harris는 다음과 같이 제안했다. 우리는 구석기 시대의 감정을 수용하고 중세 제도를 업그레이드하며 신과 같은 기술을 휘두를 수 있는 지혜가 필요하다. 우리는 세상을 이해하고 다양한 측면의 사람들이 함께 모여 우리가 취해야 할 조치에 대해 동의한 다음 취해야 한다. 사람을 나누는 데 의존하는 비즈니스 모델이 설 자리가 없어야 한다. Harris는 "우리는 그 격차를 좁히기 위해 노력하는 모든 사람이 필요하다."고 말했다.

이미지 출처: Unsplash의 Rodion Kutsaev