교황이 도널드 트럼프를 지지했다는 가짜 뉴스(그해 어떤 합법적인 뉴스 기사보다 더 널리 공유된 이야기). 마이클 펜스 전 미국 부통령의 젊은 시절 게이 포르노 스타로 추정되는 가짜 사진. 영국의 정치 지도자인 키어 스타머(Keir Starmer)가 젊은 자원 봉사 보조원을 악의적으로 질책하는 가짜 오디오. 사디크 칸 런던 시장의 또 다른 가짜 오디오는 퇴역군인들이 연례 현충일 행진을 통해 친팔레스타인 행진을 우선시하는 것으로 보이는 것. 명백한 전쟁 잔학행위를 담은 가짜 동영상. 메가스타 팝 연예인의 가짜 포르노 동영상.

 

다음은 무엇인가? 그리고 그것이 실제로 얼마나 중요할까?

일부 관찰자들은 태양 아래 새로운 것은 없으며 앞으로 더 나쁜 일이 일어날 것이라고 특별히 예상할 필요도 없다고 선언한다. 그들은 사회가 이미 가짜 뉴스에 대처하는 방법을 알고 있다고 말한다. 가짜 뉴스는 불쾌할 수도 있고 때로는 재미있을 수도 있다. 하지만 우리는 침착함을 유지하고 계속 나아가면 된다.

 

아래에서 설명하겠지만 나는 이에 동의하지 않는다. 앞으로 몇 달 동안 가짜 뉴스가 더욱 악화될 가능성이 있는 10가지 이유를 검토하겠다. 그런 다음 우리 집단의 정신을 회복하기 위해 취할 수 있는 10가지 단계를 제안하겠다.

 

이 10가지 단계가 충분한지, 아니면 우리 모두가 비웃음이 부지런한 이해를 대체하고, 가짜 과학이 신뢰할 수 있는 과학을 대체하고, 가짜 저널리즘이 신뢰할 수 있는 저널리즘을 대체하고, 가짜 정치인이 탈진실의 늪에 빠져들게 될지는 아직 결정되지 않았다. 권력을 장악하고 독재적인 변덕을 강요한다.

속임수: 뒷이야기

달갑지 않은 말이지만, 우리 인간은 역사가 시작되기 전부터 거짓말쟁이였다. 그리고 마찬가지로 중요한 것은 우리도 자기 기만자였다. 우리는 다른 사람을 속이는 데 더 성공하기 위해 자신을 속였다. 그 생각이 당신에게 불쾌감을 준다면, 다음과 같은 증거와 분석을 자세히 살펴보시기 바란다.

 

●우리가 거짓말을 하는 이유: 속임수와 무의식의 진화적 뿌리 - 데이비드 리빙스턴 스미스

●기만과 자기기만: 자신을 속이는 것이 다른 사람을 속이는 것보다 낫다 - 로버트 트리버스

●뇌 속의 코끼리: 일상 생활의 숨겨진 동기 - 케빈 심러(Kevin Simler)와 로빈 핸슨(Robin Hanson)

우리는 아이들에게 진실하라고 간청하지만 선의의 거짓말을 해야 할 때를 알도록 지도한다. "이 사랑스러운 선물을 주셔서 감사합니다. 바로 제가 원했던 것입니다!" 그리고 우리에게 “거짓 증언하지 말라”고 명령하는 고대 성서의 책들은 야곱, 라헬, 리브가, 다말과 같은 인물들이 행한 속임수를 찬양하는 것으로 보인다.

 

또한 '비극의 아버지'로 알려진 고대 그리스 극작가 아이스킬로스가 2500년 전에 다음과 같은 간결한 논평을 했다는 것도 말씀드릴 수 있다. "진실은 전쟁에서 첫 번째 희생자이다." 하나의 비극 – 전쟁 – 또 다른 비극 – 속임수가 탄생한다.

 

공교롭게도 이 인용문은 잘못된 귀속인 것 같다. 나중에 속임수가 아니라 속임수에 대한 해결책에 관해 이야기할 때 그 점을 다시 다루겠다. 하지만 누가 그 말을 처음 했는지에 관계없이, 우리는 그 말에 담겨 있는 통찰력을 이해할 수 있다. 극심한 갈등의 시기에, 우리가 겪은 사상자, 반대 세력에 가한 사상자, 미래에 대한 군사 계획 등에 대해 관찰자를 오도하는 특별한 인센티브가 있다.

 

속이는 동기를 제공하는 것은 전쟁만이 아니다. 정치에서도 마찬가지이다. 반대 정당은 내러티브를 설정하기 위해 경쟁하고, 개별 정치인은 벤저민 디즈레일리(Benjamin Disraeli)가 정치적 음모의 "기름기 많은 극"이라고 불렀던 것을 통해 서로를 제치고 가려고 한다. 상거래에서도 마찬가지이다. 기업은 앞으로 출시될 다양한 제품과 서비스의 비교 우위에 대해 오해의 소지가 있는 'FUD'(공포, 불확실성, 의심)를 퍼뜨릴 준비가 되어 있다. 사생활에서도 마찬가지이다. 우리는 가족과 친구들의 눈에 우리 자신을 호의적으로 표현하려고 노력하면서 신체적, 정신적 사마귀를 숨긴다.

 

이런 의미에서 속임수는 오래된 뉴스이다. '뉴스'가 있는 한 우리는 '가짜 뉴스'를 갖고 있었다.

그러므로 사람들이 최근의 가짜 뉴스와 속임수 사례에 관심을 끌면 하품을 하고 싶은 유혹이 든다.

그러나 그것은 큰 실수가 될 것이다.

차이를 만드는 것은 기술이다. 기술은 가짜 뉴스가 훨씬 더 기만적이고, 더 신뢰할 수 있고, 더 유비쿼터스적이고, 더 개인적이고, 더 효과적일 가능성을 높인다. AI 시스템의 성능 향상에 힘입어 기술은 진실과 거짓 사이의 투쟁에서 극적인 새로운 반전을 가능하게 하고 있다. 신뢰할 수 있는 정보와 신뢰할 수 없는 정보를 구별하는 것이 더욱 어려워지고 있다.

잘못된 정보의 즐거움. 어떤 해를 끼칠 수 있을까? (제공: Midjourney를 통한 David Wood)

 

이러한 발전을 예측하지 못한다면 우리는 새로운 속임수의 물결에 굴복할 가능성이 높다. 그 결과는 치명적일 수 있다.

그러나 미리 경고한다. 인류의 더 나은 경험에서 얻은 통찰력을 바탕으로 우리는 다가오는 파도를 차단하는 데 도움이 되는 기술, 프로세스 및 제도를 만들 수 있어야 한다.

 

열 가지 반전

1. 대규모 가짜 뉴스

처음에 실패했다면 다시 시도해 보는 것은 어떨까?

당신은 타겟 청중을 속이려고 했지만 그들은 흔들리지 않았다. 이번에 그들은 당신의 거짓말을 간파했다. 아니면 관심조차 기울이지 않았을 수도 있다.

그러나 시도하는 것이 저렴하고 빠르면 다시 시도할 수 있다. 이번에는 다른 목소리로 표현된 다른 잘못된 이야기로 다시 시도할 수 있다.

달라진 점은 다시 시도하는 것이 훨씬 저렴하다는 것이다. 자동화, 상시 네트워크, 소셜 미디어, 생성 AI를 활용하여 새로운 가짜 뉴스를 만들고 배포할 수 있다. 거짓말을 위한 대량생산이다.

소셜 미디어에 하나의 봇만 생성해도 제약이 없다. 당신은 그들로 군대를 만들 수 있다.

직접 텍스트를 작성하거나 오해의 소지가 있는 이미지를 만들어야 한다는 제약을 받지 않는다. 몇 번의 마우스 클릭만으로 좋은 결과를 얻을 수 있다.

그 결과 토론은 고의적으로 거짓된 이야기로 넘쳐나게 된다.

 

2. 돈 버는 가짜뉴스

일부 거짓 이야기는 사람들의 마음을 바꾸려고 고안되었다. 그들은 투표 결정, 구매 결정, 관계 결정 등을 변경하고 싶어한다.

그러나 다른 거짓 서술에는 광고 클릭이나 제휴 마케팅 수익 공유를 통해 돈을 벌기 위한 다른 목적이 있다.

 

시청자는 터무니없거나 선동적이거나 흥미롭거나 재미있는 콘텐츠에 매력을 느낀다. 그들은 이러한 사이트에 있는 다른 콘텐츠를 탐색하기 위해 더 많은 시간을 보내고, 분노하거나, 화를 내거나, 흥미를 느끼거나, 단순히 유머러스해지는 것을 즐긴다. 그리고 이러한 사이트에 있는 동안 사이트 소유자에게 수익을 창출하는 다른 링크를 클릭할 수도 있다.

 

이 경우 콘텐츠 창작자는 해당 콘텐츠가 자신의 정치적, 철학적 견해와 일치하는지 여부에 특별한 관심을 갖지 않다. 그들은 가장 많은 클릭을 얻을 수 있는 모든 것을 생산한다. 실제로 일부 클릭베이트 판매자는 정치적 스펙트럼의 양쪽에서 트래픽을 포착하기 위해 모순된 이야기를 게시하는 웹사이트를 설정했다.

 

슬픈 부작용으로 사람들의 마음은 점점 더 혼란스러워지고 있다. 가짜 콘텐츠에 속아 환상과 현실을 구별하는 능력이 떨어지게 된다.

 

3. 개인적인 호소를 담은 가짜 뉴스

가짜뉴스가 이전보다 더 큰 규모로 만들어지고 있다는 것만이 아니다. 기존보다 더욱 다양하게 제작되고 있다.

 

기술을 사용하면 동일한 허위 서술의 다양한 변형을 더 쉽게 만들 수 있다. 일부 변형은 P당 내에서 A후보를 지지하는 사람들에게 전송될 수 있다. P당 내에서 B후보를 지지하는 사람들에게 다른 변형이 전송될 수 있다. 그러나 다른 변형은 Q당, R당 등의 후보를 선호하는 사람들을 대상으로 한다.

 

그 이상이다. 소프트웨어가 각 사람이 어떤 종류의 예쁜 얼굴을 볼 가능성이 있는지 또는 어떤 종류의 음악이 각 사람을 듣고 싶어하는지 학습하면 이러한 변형도 쉽게 생성되어 각 대상으로 이동할 수 있다.

 

4. 발자국을 기반으로 한 가짜 뉴스

당신은 궁금할 것이다: 소프트웨어는 내가 특정 종류의 예쁜 얼굴이나 특정 종류의 음악에 주의가 산만해질 가능성이 있다는 것을 어떻게 알 수 있을까?

 

광범위한 데이터 수집과 분석이 가장 중요한 부분이 바로 여기이다. 우리 각자는 지속적으로 온라인 발자국을 생성하고 있다.

 

예를 들어, Facebook은 내 타임라인에 체스 퍼즐을 배치할 때 위치를 더 자세히 고려하기 위해 해당 대화를 클릭하는 경향이 있음을 알아차렸다. Facebook은 이러한 퍼즐에 대한 나의 관심을 관찰한다. 곧 더 많은 체스 퍼즐이 나에게 보여질 것이다.

 

그 특별한 추론은 비교적 간단하다. 다른 추론은 내가 '좋아요'한 게시물, '숨긴' 게시물 등 내 온라인 활동에 대한 광범위한 검토에 따라 달라진다.

 

알고리즘은 그러한 리뷰로부터 온갖 종류의 추론을 내린다. 항상 정확하지도 않고 가깝지도 않다. 그러나 개인화된 가짜 뉴스를 생성하는 AI 시스템은 그렇지 않은 시스템보다 긍정적인 조회수가 더 많다.

 

5. 진실을 바탕으로 한 가짜 뉴스

최고의 거짓말은 진실과 허위를 혼합한다. 이러한 거짓말은 문제의 진실이 많은 사회가 억압하기를 좋아하는 진실일 경우 특히 효과적이다.

 

간단한 예를 생각해본다. 여기에는 유출된 문서, 저기에는 내부 고발자가 있다. 몇 가지 힌트는 뭔가 수상한 일이 일어나고 있음을 시사한다. 정치 국가 내에 관료적 부패와 친족주의가 있다는 것이다. 그런 다음 가짜 뉴스 작성자는 근거 없는 결론을 덧붙인다. 즉, 문제의 정부는 회복할 수 없을 정도로 부패했다. 그러므로 결론은: 이 모든 정치인들을 권력에서 몰아내라는 것이다.

 

다시 말하지만, 이야기는 그 질병이 치명적이라는 백의의 의사들의 예측에도 불구하고 오랫동안 지속된 질병으로부터 차도를 경험한 사람들의 수많은 예를 제공할 수 있다. 그런 다음 거짓말을 추가한다. 의료에서 가장 중요한 것은 대형 제약회사가 판매하려는 값비싼 약보다는 개인의 태도이다. 그러므로 의사의 말을 듣지 말고 대신 긍정적인 생각을 위한 내 강좌를 한 달에 $29.99에 구매하라.

 

다시 말하지만, 일부 소수민족은 다양한 의료 절차에 대한 재판에서 사전 동의 없이 끔찍한 학대를 당했으며, 그에 수반되는 고통을 명백히 무심코 무시했다. 그리고 거짓말이 있다. 현대 사회는 구제할 수 없을 정도로 인종차별적이고 구제할 수 없을 정도로 착취적이다. 그러므로 이제 갈퀴를 휘두를 시간이다.

 

가장 영리한 가짜 뉴스는 이 원칙과 이전 원칙을 결합한다. 이는 우리의 온라인 발자국에서 우리의 신념 체계를 작동시킨다. 사회의 나머지 부분이 다르게 생각하는 경향이 있음에도 불구하고 우리가 이미 사실이라고 의심하거나 사실이기를 희망하는 것이 무엇인지 알아낸다. 그런 다음 우리가 지지하는 신념과 그것이 우리 마음에 주입하려는 새로운 메시지로부터 가짜 이야기를 만들어낸다.

 

이런 식으로 그것은 우리를 더 잘 속이기 위해 우리를 아첨한다.

우리가 종종 그런 종류의 속임수에 빠지는 것은 당연하다.

 

6. 우정을 무기로 삼는 가짜 뉴스

우리 각자는 우리가 좋아한다고 생각하는 사람, 즉 우리가 특별한 친구라고 생각하는 사람이 보낸 메시지에 더 주의를 기울일 가능성이 높다.

 

친구가 어떤 주제에 대해 관심을 갖고 있다면 우리도 그 주제에 대해 더 관심을 갖게 된다. 이전에는 우리가 그 주제에 대해 다시 생각하지 않았을지라도 마찬가지이다.

 

가짜 뉴스를 생산하는 시스템의 사악한 힘이 더 높은 수준에 도달하는 곳이다. 이러한 시스템은 가짜 페르소나, 즉 소셜 미디어에서 '친구'로 환영하는 사람들을 만드는 데 시간을 투자한다.

 

처음에 이 친구들은 이상한 말을 하지 않는다. 우리는 그들을 실제 생활에서 만났는지 여부를 잊어버린다. 그들의 이름은 점점 우리에게 친숙해진다. 우리는 그들에 대해 많은 것을 알고 있다고 상상한다. 비록 그들의 뒷이야기 전체가 허구임에도 말이다.

 

그리고 바로 그때부터 유독한 메시지가 당신의 대화와 생각에 스며들기 시작한다. 그리고 무슨 일이 일어났는지 깨닫지 못한 채 가짜 친구가 당신을 가짜 아이디어로 이끌었다.

 

7. 증폭 지원을 통한 가짜 뉴스

여러 출처에서 동일한 의견을 듣게 되면 처음에는 그 생각에 저항하다가 나중에는 받아들이게 된다.

그 의견이 명백히 자격을 갖춘 전문가로부터 명백한 지지를 받는 경우에는 특히 그렇다.

 

따라서 일부 가짜 오디오가 소셜 미디어에 게시되면 곧 다른 가짜 게시물도 동반된다. “나는 오디오 인증 전문가이다.”라고 봇이 선언한다. “클립을 주의 깊게 연구했으며 그것이 진짜임을 확신한다.”

 

자세히 살펴보지 않으면 자격 증명이 가짜라는 사실과 이러한 주장 뒤에 실제 오디오 전문가가 없다는 사실을 발견하지 못할 것이다.

 

명백한 보증의 수가 많을수록(그리고 다양성이 커질수록) 이러한 가짜 보증 중 일부가 우리의 비판적 능력을 우회하고 마음을 바꾸는 것이 더 쉬워진다.

 

8. 자존심을 이용한 가짜뉴스

우리 모두는 스스로에게 말하고 싶어한다. 우리는 단순한 요술 속임수에 빠지는 사람이 아니다.

우리만큼 똑똑하지 않은 다른 사람들은 광고나 소셜 미디어 밈의 모호한 주장으로 인해 오해를 받을 수 있다고 생각한다. 우리는 아니다.

 

이를 편견 맹점이라고 한다. 즉, "다른 사람들은 인지적 편견을 가지고 있지만 나는 그렇지 않다!"라고 말하는 인지적 편견이다.

 

그러나 우리 자신을 속이는 능력이 다른 사람을 속이는 능력의 핵심이라는 점을 기억해야 한다. 우리가 거짓말을 의식하고 있다면, 예민한 청취자들은 그것을 알아차릴 것이다. 그렇기 때문에 우리가 다른 사람들을 오도하기 전에 잠재의식이 우리의 의식을 오도해야 한다.

 

마찬가지로, 우리가 훌륭한 추론자이자 훌륭한 관찰자라는 사실은 우리를 가장 큰 실패에 대비할 수 있다는 과장된 자신감이다.

 

우리 자신의 비판적 능력에 대한 잘못된 자부심과 우리가 친구(위에서 다룬 가짜 온라인 페르소나 또는 이미 소셜 미디어 토끼굴에 빠진 실제 친구)에 대해 발전시킨 따뜻한 감정을 결합하면 우리는 설정된다. 빨려든다.

 

9. 소외감을 이용하는 가짜뉴스

우리를 가짜 뉴스의 구렁텅이로 유혹할 수 있는 감정은 교만만이 아니다. 때로는 우리가 붙잡고 있는 불만이나 소외감일 수도 있다.

 

불행하게도 현대 세계의 일부 측면에서는 그 어느 때보다 인간의 풍요로움이 두드러지지만, 다른 측면에서는 사람들이 불만을 키울 가능성이 높아진다.

 

●많은 인구 집단이 좋은 의료, 좋은 교육 또는 좋은 숙박 시설을 감당할 능력이 없음

●하루 24시간 내내 언론에서 쏟아지는 나쁜 소식들

●사회의 "엘리트"가 소외되고, 퇴폐적이고, 무관심하고, 경솔하고, 과분한 사치에 빠져 있는 것처럼 보이는 이야기가 쏟아져 나온다.

 

결과적으로 가짜 뉴스 이야기는 더 쉽게 비옥한 토양에 도달할 수 있다. 불행한 마음은 주장의 타당성에 대한 신중한 평가를 건너뛴다.

 

10. 진입 장벽이 낮은 가짜 뉴스

아마도 당신은 여전히 생각하고 있을 것이다: 위의 어느 것도 진정으로 새로운 것은 아니다.

어떤 면에서는 당신 말이 맞을 것이다. 과거에는 충분한 자원을 갖춘 영리한 운영자가 많은 사람들을 속이는 거짓을 고안할 수 있었다. 라디오와 신문을 포함한 전통적인 미디어는 인터넷이 탄생하기 오래 전부터 파괴적인 선전을 퍼뜨리고 있었다.

 

그러나 오늘날 가장 큰 차이점은 위에 나열된 모든 효과를 달성하는 데 도움이 되는 도구에 사람들이 얼마나 쉽게 액세스할 수 있는지이다.

 

광범위한 가짜 뉴스 제공자의 진입 장벽은 그 어느 때보다 낮다. 지금은 '서비스형 악성코드', 게릴라 정보전에 대한 다크넷 튜토리얼, 턴키 도구 및 데이터베이스의 시대이다.

 

위의 모든 방법을 제공하기 위해 강력한 AI 시스템을 점점 더 많이 배포할 수 있는 시대이다.

 

다행히도, 곧 논의하겠지만, 동일한 AI 시스템이 유비쿼터스 가짜 뉴스 문제에 대한 해결책의 일부를 제공할 수 있다. 그러나 해결책의 일부일 뿐이다.

 

막간: 신뢰가 없는 세상

첫째, 가짜 뉴스의 나쁜 결과를 빠르게 상기시켜 드린다.

 

사람들이 위험한 정치인이 실제로 좋은 사람이라고 생각하도록 속이고, 반대로 괜찮은 남성과 여성이 실제로 개탄할 것이라고 생각하도록 속이는 것만이 아니다. 그래서 유권자들은 속아서 위험한 정치인에게 투표하여 집권하게 된다.

 

사람들이 사회 전체를 미워하고 그 집단에 속한 모든 사람을 인간 이하의 존재로 여기도록 속이는 것만이 아니다.

 

사람들이 속아서 모든 것을 잃는 가짜 계획에 평생 저축한 돈을 투자하는 것만이 아니다.

 

사람들이 속아서 세심한 의학 연구자들의 건전한 조언을 거부하고 대신 건강에 두려운 결과를 초래하는 안전하지 않은 과장된 치료법을 채택하는 것이 아니다.

 

위험한 잘못된 믿음을 불건전하게 채택한 이러한 모든 사례는 실제로 심각하다.

 

하지만 또 다른 문제가 있다. 사람들은 공개 담론의 대부분이 신뢰할 수 없는 가짜 뉴스로 가득 차 있는 것을 보면 모든 뉴스가 똑같이 신뢰할 수 없다는 결론에 도달하기 쉽다.

 

하버드 대학교 버크만 클라인 인터넷 및 사회 센터 펠로우이자 MIT 미디어 랩 소셜 미디어 그룹 창립자인 주디스 도나스(Judith Donath)는 다음과 같이 언급했다:

 

가짜 뉴스의 치명적인 피해는 모든 뉴스의 신뢰성에 대한 의심을 심는 것이다.

 

따라서 InfoWars, Natural News 및 Breitbart News와 같은 비주류 뉴스 사이트의 빈번한 거짓말과 왜곡으로 인해 많은 사람들은 모든 미디어가 거짓말을 자주 게시한다고 결론을 내린다. 그러므로 아무것도 믿어서는 안된다. 그리고 '주류 언론'이라는 표현은 비웃음이 된다.

 

(그들은 모든 미디어가 때때로 실수를 한다는 관찰에서 이러한 결론에 대한 어느 정도 정당성을 찾는다. 물론 문제는 개별적인 실수 사례를 추정하여 모든 뉴스에 적대적인 의심을 적용하는 데 있다.)

 

케임브리지 대학교 철학부의 오노라 오닐 남작부인은 2002년 공자를 인용하여 리스 강의 시리즈를 시작했다.

 

공자는 그의 제자인 체공에게 정치를 위해서는 무기, 식량, 신뢰라는 세 가지가 필요하다고 말했다. 통치자가 이 세 가지를 모두 지킬 수 없다면 먼저 무기를 포기하고 그 다음에 음식을 포기해야 한다. 신뢰는 끝까지 지켜야 한다. '신뢰가 없으면 우리는 설 수 없다.'

 

게다가 신뢰가 없다면 우리는 신뢰를 받을 자격이 전혀 없는 정권의 지배를 받게 될 가능성이 높다.

 

독일의 역사가이자 철학자인 한나 아렌트(Hannah Arendt)는 1951년 저서 전체주의의 기원(The Origins of Totalitarianism)에서 다음과 같이 경고했다:

 

전체주의 통치의 이상적인 주체는 확신에 찬 나치나 확신에 찬 공산주의자가 아니라, 사실과 허구의 구별, 즉 경험의 현실, 참과 거짓의 구별을 아는 사람들이다. 더 이상 존재한다.

 

그러나 2020년대의 기술은 1951년(아렌트와 같은) 작가와 2002년(오닐과 같은) 작가들이 거의 상상하지 못했던 무시무시한 가능성을 우리 손에 쥐어 주었다.

빅 브라더는 모든 각도에서 지켜볼 것이다. (제공: David Wood via Midjourney)

 

이전 세대에서 사람들은 자신이 속해 있던 전체주의 체제에 겉으로는 굴복하면서도 내면의 생각은 혼자 간직할 수 있었다. 그러나 열 배로 왜곡된 가짜 뉴스에는 우리의 내면마저도 쫓기고 전복될 것이다. 독립적 사고의 내부 피난처는 억압될 가능성이 높다. 즉, 우리가 하락세를 막기 위해 지금 조치를 취할 만큼 현명하지 않다면 말이다.

 

신뢰 회복

사회에 대한 신뢰를 회복하기 위해 무엇을 할 수 있을까?

위에서 가짜 뉴스 문제가 악화되는 10가지 방식을 예상한 결과, 이제 동일한 수의 가능한 단계를 제안한다.

1. 교육, 교육, 교육

성장의 일부는 소위 419 사기 이메일을 신뢰하지 않는 법을 배우는 것이다. (419라는 숫자는 사기를 다루는 나이지리아 형법 조항을 나타낸다.) 누군가가 우리에게 이메일을 보내 자신이 먼 나라의 왕자이고 상속 재산을 우리에게 넘겨주고 싶다고 말하는 경우 – 우리가 그들에게 현금을 전달한다면 첫째 – 이것은 사실이라고 믿기엔 너무 좋은 것임이 거의 확실하다.

 

우리는 또한 보는 것이 믿는 것이 아니라는 것을 배운다. 우리의 눈은 착시 현상으로 인해 우리를 속일 수 있다. 사막 길에서 우리 앞에 물이 보인다고 해서 거기에 물이 있다는 뜻은 아니다.

 

마찬가지로, 우리 모두는 가짜 뉴스가 우리를 호도할 수 있는 방식과 그러한 뉴스를 무분별하게 퍼뜨리는 데 따르는 위험에 대해 배워야 한다.

 

이러한 메커니즘과 위험은 모든 연령층의 사람들을 위한 교육 자료에서 다루어져야 한다.

 

이는 백신을 접종하고 생물학적 병원체에 대한 저항력을 키우는 것과 같다. 잘못된 이야기를 지나치게 믿게 되어 발생하는 문제를 직접 목격하게 되면 다음 번에는 더 조심하게 될 수 있다.

 

그러나 이 교육 계획은 사람들에게 가짜 뉴스가 작동하는 방식을 경고하는 것 이상의 역할을 해야 한다. 또한 모든 뉴스는 똑같이 신뢰할 수 없다는 교활한 견해, 즉 전문가 의견 같은 것은 없다는 교활한 견해에도 대응해야 한다.

 

이는 사람들에게 과학의 사실을 가르치는 것 이상의 의미를 갖는다. 이는 가설을 테스트하기 위해 과학이 사용하는 방법, 즉 과학이 다양한 특정 가설을 타당하다고 평가하는 이유를 사람들에게 가르치는 것을 의미한다. 마지막으로, 이는 "특정 미디어 조직에 더 높은 수준의 신뢰를 부여하는 이유가 여기에 있다"고 사람들에게 가르치는 것을 의미한다.

 

이는 우리를 두 번째 잠재적인 진전으로 이끈다.

 

2. 신뢰할 수 있는 출처 유지

 

앞서 나는 기원전 5세기 작가 아이스킬로스(Aeschylus)가 자주 인용한 인용문이 실제로 그가 말한 것이 거의 확실하지 않다고 언급했다.

 

그 결론에 대해 나에게 확신을 주는 것은 무엇일까?

 

그것은 제가 Quote Investigator라는 하나의 온라인 조직에 의존하기 때문이다. 결과적으로 이러한 의존성은 다음에서 발생한다.

 

●해당 사이트의 페이지가 사용하는 소스를 참조하는 신중한 방식

●독자가 추가 관련 정보를 찾을 때마다 사이트가 페이지를 정기적으로 업데이트한다.

●내가 그 사이트를 수년 동안 사용해 왔지만, 그 사이트에 의해 오해를 받은 적이 단 한 번도 기억나지 않는다는 사실이다.

●사이트에 대한 수익 동기가 부족하다.

●더 넓은 주제에 관심을 분산시키기보다는 특정 연구 분야에 초점을 맞춘다.

●좋은 평판을 얻고 유지해온 다른 연구자들의 사이트에 대한 긍정적인 칭찬이다.

 

다른 조직도 비슷한 열망을 가지고 있다. "인용문 확인"보다는 "사실 확인"을 전문으로 하는 곳도 있다. 예는 다음과 같다:

 

• Snopes
• FactCheck.org
• PolitiFact
• Full Fact
• AFP Fact Check
• The Washington Post Fact Checker
• Lead Stories
• The Conversation FactCheck
• BBC Verify

 

 

출처: 사실 확인 웹사이트(위 링크)

 

이러한 사이트에는 당파적 편견, 의심스러운 자격을 갖춘 추정 전문가에 대한 과도한 의존, 주관적인 평가 및 불분명한 자금 출처에 대한 다양한 주장을 하는 비판자가 있다.

 

내 판단으로는 이러한 비판이 주로 잘못된 것이지만 지속적인 경계가 필요하다는 것이다.

 

더 나아가겠다. 이 사이트는 지구상에서 진행되는 가장 중요한 프로젝트 중 하나이다. 그들이 부족하다면 우리 모두는 그들을 폄하하기보다는 도와주려고 노력해야 한다.

 

3. 실시간 사실확인

사실 확인 웹사이트는 종종 새로운 이야기를 다루기 위해 페이지를 매우 빠르게 업데이트한다. 그러나 이는 여전히 다음과 같은 많은 문제를 안고 있다.

 

●사실 확인 사이트에 해당 내용이 추가되기 전에 잘못된 내용에 사람들이 동요될 수 있다.

●팩트체크 사이트에서 가짜뉴스가 사실이 아닌 것으로 밝혀지더라도 누군가는 그 사실을 인지하지 못할 수도 있다.

●나중에 누군가가 특정 허위 서술의 결점을 지적하는 사실 확인 사이트의 기사를 읽는다 하더라도, 그 서술은 이미 잠재의식 수준에서 그 사람의 신념 체계를 재배선하게 만들었을 수도 있다. 사람은 이러한 잠재의식적 변화를 촉발한 이야기의 결함에 대해 알게 된다.

●개인화 문제: 개별 대상에 맞춰진 허위 서술은 중앙화된 사실 확인 사이트에서 포착되지 않는다.

 

AI는 답의 일부를 보유할 수 있다. 우리의 디지털 미디어 시스템에 실시간 사실 확인 분석이 포함되어 있다고 상상해 보라. 이는 AI 시스템의 잠재력 중 일부이다. 이러한 실시간 알림은 잘못된 정보가 우리 뇌 깊숙이 침투하기 전에 잡아낼 것이다.

 

우리의 이메일 애플리케이션은 이미 의심스러운 콘텐츠에 플래그를 지정하는 기능을 수행하고 있다. 애플리케이션에서는 다음과 같이 경고한다. 이 이메일은 귀하의 은행에서 발송되었다고 주장하지만 실제로는 그렇지 않을 가능성이 높으므로 주의하시기 바란다. 또는: 이 이메일의 첨부 파일이 PDF라고 주장하지만 실제로는 손상을 일으킬 가능성이 있는 실행 파일이다.

 

마찬가지로 자동화된 실시간 사실 확인은 우리에게 전달되는 콘텐츠 위에 다음과 같은 메시지를 화면에 표시할 수 있다:

 

● “주장을 반박했다”

● “제시된 그래프는 오해의 소지가 있다.”

● “이 영상은 원본 버전에서 조작되었다.”

● “이 오디오는 진위 여부에 대한 확실한 증거가 없다.”

● “거부된 사실 사이에 인과관계를 나타내는 징후는 없다”

각각의 경우 이상적으로는 경고 메시지에 추가 정보를 찾을 수 있는 링크가 포함된다.

 

4. 분산화 된 사실 확인

 

다음으로 제기되는 질문은: 사람들이 특정 실시간 사실 확인 도구에 의존하는 데 어떻게 확신을 가질 수 있는가이다.

우리는 이미 그들의 불만을 상상할 수 있다.

● “이 팩트체커는 미친 워키즘이다”

● “이 팩트체커는 내가 아닌 구글을 섬기는 것이다.”

● “이 팩트체커는 내가 아닌 정부를 위한 것이다”

● “나는 검열 없이 내 뉴스를 받기 위해 사실 확인 기능을 끄는 것을 선호한다”

 

이러한 반대에 대한 쉬운 대답은 없다. 이 10가지 목록에서 제가 설명하는 각 단계는 우려를 어느 정도 줄이기 위해 고안되었다.

 

그러나 중요한 진전은 콘텐츠 제공을 사실 확인 계층에서 분리하는 것이다. 사실 확인 계층은 미디어를 전달하는 상업적 주체가 소유하고 운영하는 것이 아니라 이상적으로는 개별 기업을 초월하는 것이다. 예를 들어 Wikipedia와 유사하게 운영될 수 있지만 현재 Wikipedia가 받는 것보다 더 많은 자금이 필요할 수 있다.

 

이 모델을 더욱 발전시키면 사실 확인 소프트웨어에는 사용자가 교차 확인에 어떤 독립적인 소스를 사용해야 하는지에 대한 자체 판단을 반영하여 조정하는 다양한 설정이 있을 수 있다.

 

아마도 작업이 너무 위험해서 하나의 조직에만 맡길 수 없을 것이다. 그러면 또 다른 모델에는 사실 확인 분야에 두 개 이상의 옵션이 존재하고 사용자가 하나 또는 여러 개를 선택하여 장치에서 실행할 수 있는 모델이 있을 것이다.

 

5. 위험한 가짜에 대한 처벌

가짜 뉴스 식별을 개선하려는 노력뿐만 아니라 가짜 뉴스가 생성되고 배포되는 인센티브를 변경하는 것도 중요하다. '채찍'(벌칙) 역할과 '당근'(보상) 역할이 있다.

 

●처벌과 관련하여 사회는 이미 처벌을 부과하고 있다:

●광고가 오해의 소지가 있거나 근거 없는 주장을 하는 경우

●회사가 재무제표에 오해의 소지가 있거나 근거 없는 주장을 하는 경우

●사람들이 서로에 대해 비방하는 주장을 할 때.

 

사람들이 고의로 오해의 소지가 있는 이야기를 배포하고 그 결과가 명백한 피해(예: 폭동)를 수반하는 경우 벌금이나 기타 처벌이 적용될 수 있다.

 

이 제안은 표현의 자유에 대한 침해나 풍자에 대한 방해로 보기 때문에 일부 사람들을 불안하게 만든다. 그들은 정부가 자신들을 당황하게 만드는 발언을 단속하기 위해 이러한 처벌을 사용할 것을 두려워한다.

 

그렇기 때문에 그러한 사건을 모니터링하고 기소하는 것은 당시 정부와 거리를 두고 활동하는 경찰과 사법부에 의해 독립적으로 수행되어야 한다.

 

이러한 권력분립 원칙은 이미 다른 많은 법적 규제에도 적용되고 있으며, 가짜뉴스 단속에도 확실히 효과가 있을 수 있다.

 

이와 관련하여 신뢰성 통계를 더 폭넓게 수집하고 공개해야 하는 경우가 있다. 병원, 학교, 사회의 다른 많은 부분이 성과에 대한 통계를 발표하는 것처럼 미디어 조직도 동일한 점수표를 받아야 한다.

 

이런 방식으로 어느 미디어 채널이 진실과 우연한 관계를 맺고 있는지, 어느 미디어 채널이 더 조심스럽게 행동하는지 쉽게 알 수 있다. 이러한 방식으로 투자 자금이나 기타 자금 조달 출처는 신뢰성 등급이 너무 낮은 조직에 대한 지원을 거부할 수 있다. 이러한 종류의 시장 처벌은 보다 심각한 사건에 적용되는 법적 처벌과 함께 작동한다.

 

 

6. 청렴을 위한 연합

가짜 뉴스 제작자 중 일부는 법적 처벌 위협에도 굴하지 않을 것이다. 그들은 이미 법의 범위를 넘어 해외 관할권에서 익명으로 비밀리에 활동하고 있다.

 

그럼에도 불구하고 새로운 콘텐츠가 미디어 채널에 추가되는 교차점은 여전히 존재한다. 제재가 적용될 수 있는 지점은 바로 이 지점이다. 수신하는 자료를 모니터링하는 데 소홀한 미디어 조직은 발생하는 피해에 대해 책임을 지게 된다.

 

이는 통신의 한쪽 끝에서 다른 쪽 끝까지 콘텐츠가 암호화되는 Telegram, WhatsApp, Signal과 같은 통신 시스템에 적용하기 어려울 것이다. 이런 경우 통신회사에서는 무슨 내용이 전송되고 있는지 알 수 없다.

 

실제로 요즘 가짜 뉴스가 자주 퍼지는 것은 폐쇄된 통신 시스템을 통해서인데, 텔레그램은 특히 나쁜 범죄자이다.

 

거짓 정보를 퍼뜨리는 데 따른 지역적 이익보다 진실성과 신뢰성을 더 중요시하는 모든 조직의 연합이 필요한 경우가 있다.

청렴성을 위한 연합 형성(제공: David Wood via Midjourney)

 

이 '청렴을 위한 연합'을 지지하는 사람들은 다음에 대한 정보를 공유할 것이다.

●가짜 뉴스 제공자가 탐지를 회피하기 위해 사용하는 진입점

●가짜 뉴스 제공자 식별

●가짜 뉴스 제공자가 방법을 바꾸는 방식과 이러한 새로운 방법에 맞서 싸우는 방법.

 

이 연합 구성원들 사이의 정치적 또는 철학적 전망의 차이에 관계없이 그들은 진실성과 속임수를 수호하는 데 공통의 관심을 가지고 있다. 그들은 공통의 목적을 지원하는 효과적인 협력을 방해하는 차이점을 허용해서는 안 된다.

 

7. 모두의 사업을 신뢰하라

최근 수십 년 동안 회사와 조직 내 최고 수준에서 다음과 같은 다양한 새로운 직책이 만들어졌다:

●최고 디자인 책임자

●최고 혁신 책임자

●최고 품질 책임자

●최고 보안 책임자

 

이러한 게시물 중 어느 것도 회사의 다른 구성원의 디자인, 혁신, 품질 또는 보안에 대한 책임을 면제하지 않는다. 이러한 가치는 조직 내 모든 사람이 직무를 수행할 때 보편적으로 적용된다. 그럼에도 불구하고 새로운 '수석'은 주제에 대해 높은 수준의 초점을 제공한다.

 

새로운 '최고 신뢰 책임자' 세트도 마찬가지이다. 이러한 경영진은 직원들에게 다음 사항을 지속적으로 상기시키는 방법을 찾을 것이다.

 

●조직이 신뢰할 수 없다는 평판을 얻게 되면 발생하는 위험

●조직에 대한 신뢰할 수 있는 평판을 구축하고 유지하기 위해 따라야 할 방법 및 절차

●위험한 허위 서술이 무의식적으로 전송될 수 있는 오류 유형

 

내 평가는 최고 신뢰 책임자(또는 이에 준하는 사람)를 임명하고 지원하는 조직이 앞으로의 격동적인 시기에 성공할 가능성이 가장 높다는 것이다.

 

8. 개방성 장려

분명히 말하면 교육은 종종 실패한다. 사람들은 잘못된 정보에 속을 수 있다는 믿음을 거부한다.

우리는 자신을 이성적인 사람이라고 생각하기를 좋아하지만, 더 정확하게 표현하면 우리는 합리화하는 종이라는 것이다. 우리는 (이러한 믿음에 반하는 명백한 증거가 있음에도 불구하고) 우리가 믿고 싶은 것을 믿는 것이 괜찮다는 것을 스스로 확신할 수 있는 방법을 찾는 것을 좋아한다.

 

그렇기 때문에 사람들에게 교육을 퍼붓는 것은 종종 역효과를 낳는다. 사람들은 이러한 점에 귀를 기울이기보다는 교육자 지망생을 비난할 준비를 하면서 회의주의라는 강력한 방패를 세울 수 있다.

 

실제로, 우리 모두는 놀랄 만큼 영리한 사람들을 알고 있지만, 그들은 매우 현명하지 못한 노력을 지원하기 위해 자신의 영리함을 사용한다.

 

이러한 상황은 단순히 더 많은 사실과 주장을 제시하는 것만으로는 해결될 수 없다. 대신, 정신의 더 큰 개방성을 장려하기 위해서는 다양한 접근 방식이 필요하다.

 

한 가지 접근 방식은 앞서 언급한 원칙에 의존하는데, 사람들은 가까운 친구의 제안에 더 많은 관심을 기울인다. 그러므로 위험한 정보에 빠지게 될 사람들에게 경고하는 가장 좋은 방법은 그들이 이미 신뢰하고 존경하는 사람들로부터 경고를 받는 것이다.

 

또 다른 접근 방식은 사람들을 전반적으로 더 나은 기분으로 만드는 방법을 찾는 것이다. 그들이 자비롭고 낙관적인 사고방식을 가질 때 제기되는 경고를 주의 깊게 들을 가능성이 더 높으며, 이러한 경고를 달갑지 않은 성가심으로 여겨 무시할 가능성이 줄어든다.

 

합리적인 지능을 키우려고 노력하는 것만으로는 충분하지 않다. 오히려 자비로운 지능, 즉 이전에 위협이나 적으로 간주되었던 사람들과의 상호 작용에서도 지혜와 가치를 추구하는 지능을 키워야 한다.

 

이것은 다른 종류의 교육이다. 합리성에 대한 교육이 아니라 개방성과 연민에 대한 교육이다. 여기에는 음악, 명상, 자연 속에서 시간 보내기, 바이오피드백, 정신을 변화시키는 선택된 물질 등이 포함될 수 있다. 물론 여기에는 잠재적인 단점과 잠재적인 이점이 있지만 장점이 너무 크기 때문에 옵션을 시급히 모색해야 한다.

 

 

9. 공유된 긍정적 비전

폐쇄적인 사고와 완고한 부족 충성심보다 사람들이 개방성과 협력을 더 쉽게 만들 수 있는 또 다른 요인은 심오한 공유 이익이 있는 세상으로 나아가는 신뢰할 수 있는 길이다.

 

사람들이 제로섬 결과와 필수 자원의 지속적인 부족으로 인해 계속되는 투쟁을 예상하면 정신적으로 적대적이고 경직되게 된다.

 

실제로, 그들이 계속되는 갈등을 예상한다면, 그들은 추정되는 적을 나쁜 시각으로 보여주는 모든 이용 가능한 정보(진실이든 가짜)를 강조하는 경향이 있을 것이다. 그 순간 그들에게 중요한 것은 적들로 추정되는 사람들을 짜증나게 하거나, 사기를 저하시키거나, 불 붙일 수 있는 모든 것이다. 그들은 이를 수행하는 가짜 뉴스를 포착하고 또한 자신의 편, 즉 적과 소외감과 좌절감을 공유하는 사람들을 하나로 모은다.

 

그렇기 때문에 내가 기대하는 교육 캠페인에는 모든 사람이 혜택을 받는 지속 가능한 과잉에 대한 로드맵이 필요하다. 이 비전이 마음과 정신 모두에 스며들면 사람들이 더 높은 신뢰도 기준을 설정하고 존중하도록 영감을 줄 수 있다. 가짜 뉴스 행상인들은 그 시점에서 사람들이 그들의 허위 사실에 관심을 잃었다는 것을 알게 될 것이다.

 

10. 협업지능

나는 위의 9가지 단계가 다가오는 위험한 가짜 뉴스의 물결을 막기에 충분할 것이라고 주장하지 않는다.

 

그 대신, 나는 그것을 출발점으로 보고, 적어도 더 영리한 딥 페이크의 파괴가 횡행하기 전에 우리에게 시간을 벌기 위한 것이다.

 

추가 시간을 통해 우리는 청렴성을 위해 연합 전체에 걸쳐 사람들의 통찰력과 아이디어를 끌어내는 보다 강력한 협업 인텔리전스를 구축할 수 있다. 이러한 통찰력과 아이디어를 발전시키고 실용적인 솔루션으로 구체화하려면 시간이 필요하다.

 

그러나 나는 인간의 마음 사이의 협업뿐만 아니라 AI의 마음도 포함하는 풍부한 협업을 기대한다.

마음의 협력 – 인간과 AI(제공: David Wood via Midjourney)

 

비판적으로, AI 시스템은 악의적인 사람들이 딥 페이크를 더욱 위험하게 만드는 데 사용하는 것만이 아니다. 또한 실시간 사실 확인을 강화할 수 있는 것만도 아니지만 중요하다. 대신, 우리의 사고를 다차원으로 확장하는 데 도움이 되는 도구이다. 우리가 이 시스템을 주의 깊게 사용하면 이러한 시스템은 딥 페이크의 더 나쁜 사례에 대한 우리의 우려를 배울 수 있다. 그들은 다양한 가능성을 고려할 수 있다. 그런 다음 그들은 우리에게 고려해야 할 새로운 제안을 제공할 수 있다. 아마도 위에 나열된 것과는 다른 방식일 것이다.

 

이는 유익한 인공지능의 놀라운 예가 될 것이다. 깊은 자비심과 인간의 최고의 가치와 AI의 최고의 통찰력을 통합하는 연합에 의해 딥 페이크가 패배하는 것을 보게 될 것이다.

 

글쓴이: 데이비드 우드 David Wood는 London Futurists의 회장이자 The Singularity를 포함하여 미래에 관한 8권의 책을 집필한 저자이다.