먼저, AI는 인류가 창조한 가장 중요한 기술이라는 나의 입장을 말씀드리겠다. 장기적으로 보면 헤아릴 수 없을 만큼 좋은 결과를 가져오게 된다.

둘째, 단기적으로는 딥페이크를 포함한 다양한 방식으로 사회에 도전하게 된다. 우리는 조리기구를 홍보하는 테일러 스위프트의 무단 디지털 복제와 관련된 최근 사기에서 이러한 사실을 확인했다. 톰 행크스, 게일 킹, 미스터비스트를 포함한 다른 유명인들도 허가 없이 제품을 홍보하기 위해 AI 생성 버전을 사용하여 자신을 사칭했다.

 

"보는 것이 믿는 것이다"라는 옛 속담은 더 이상 사실이 아니다.

"예전"(1~2년 전)에는 생성 AI를 사용하여 단일 이미지를 생성하는 데 30초가 걸렸다. 이제 Stability.ai와 같은 회사는 초당 100개의 이미지를 생성하고 있으며 일반적인 비디오는 초당 30개의 이미지를 생성하므로 즉석에서 설득력 있는 비디오를 생성하고 있음을 의미한다.

궁극적으로 AI가 생성한 비디오는 실제 생활과 구별되지 않을 것이다. NVIDIA CEO 젠슨 황은 “모든 픽셀이 곧 생성될 것이다. 렌더링되지 않음: 생성됨.”고 말한다.

장편 할리우드 영화는 2025년 말까지 AI로 생성될 것이다. 그러면 1~2년 안에 스마트폰을 사용하여 실시간으로 제작된다.

 

그렇다면 눈에 보이는 것을 어떻게 믿을 수 있을까? 딥페이크를 어떻게 방어해야 할까? 이것이 세계 선거에 어떤 영향을 미칠까? 당신의 산업과 당신의 가족, 그리고 사회에 이것에 대해 우리는 도대체 무엇을 해야 할까?

지금 읽으시려는 많은 내용이 무서울 수도 있지만, 딥페이크 기술의 놀라운 이점과 긍정적인 적용도 있다. 마지막에는 이러한 이점 중 몇 가지를 포함했다.

이것이 바로 이 블로그의 내용이다: 딥페이크의 위험과 이점. 이것은 "위대한 AI 논쟁"이라는 주제로 진행되는 풍요 서밋(Abundance Summit)에서 이번 3월에 다룰 주요 주제 중 하나이다.

 

딥페이크 위험

다가오는 대통령 선거

가짜 유명인이 제품을 홍보할 때 피해는 최소화될 수 있지만, 올해 말 미국 대통령 선거와 같이 딥페이크가 전국 선거를 좌우하는 데 사용되는 경우는 어떨까?

2016년 정치 컨설팅 회사인 캠브리지 애널리티카는 주로 도널드 트럼프의 2016년 대선 캠페인에 대한 작업으로 국제적인 명성을 얻었다. 8년 전, 이는 코더와 해커로 구성된 중요한 팀에게 수백만 달러의 노력이었다. 오늘날 생성 AI를 사용하면 기숙사에 있는 대학생에게도 같은 일이 일어날 수 있다.

현실적으로 두 정당 모두 딥페이크 기술을 사용하게 될 것이라고 주장할 수도 있다. 그렇지 않으면 한 명의 상대(또는 그들의 비밀 하수인)가 무적의 압도적인 이점을 얻게 될 것이다.

다르게 말하면, 비즈니스나 정치와 관련하여 "AI는 당신을 이길 수 없지만 AI를 사용하는 상대는 항상 당신을 이길 것이다."

이러한 현실은 경쟁 우위를 위해 먼저 기술을 사용하기 위해 서두르게 만든다.

선거에서 이기려면 여론이 얼마나 크게 바뀌어야 하는지... 1%... 3%? 작은 변화가 큰 변화를 가져올 수 있다.

유권자가 설득력 있는 초현실적인 비디오를 계속해서 보고 그것이 딥페이크라는 말을 듣더라도 비디오를 무시할까, 아니면 유권자의 잠재의식 깊은 곳에서 메시지가 뿌리를 내리고 그들의 마음을 좌우할까? 상관없이 투표하시겠는가?

스칼렛 요한슨이 귀하에게 개인적으로 전화를 걸어 밥에게 투표하는 것이 얼마나 중요한지에 대해 스위트하게 이야기하면 어떻게 될까?

 

그리고 이 위협은 더 이상 가상이 아니다.

바로 이번 주에 워싱턴 포스트(The Washington Post)는 뉴햄프셔 법무부가 AI가 생성한 바이든 대통령의 음성을 사용해 유권자들에게 주의 예비선거를 건너뛰도록 촉구하는 자동녹음전화에 대한 보고를 조사하고 있다고 보도했다. 이는 이번 선거 주기에서 AI를 활용한 유권자 진압의 첫 번째 '주목할 만한 활용'인 것으로 보인다.

동시에 온라인에는 트럼프의 가짜 사진이 계속 유포되고 있다.

그러나 딥페이크의 하향 위험은 특정 선거를 넘어서는 것이다. 기술은 진실의 존재 자체를 위협한다.

 

악의적인 행위자가 AI를 사용하여 가짜 연설이나 비디오를 만들 수 있는 것처럼, 실제 정치인(및 기타 사람들)은 잠재적으로 피해를 줄 수 있는 주장을 부인할 때 AI를 희생양으로 사용할 수 있다. 디지털 선전과 잘못된 정보를 연구하는 버클리 교수 하니 파리드는 워싱턴 포스트와의 인터뷰에서 AI를 통해 "경찰관이나 정치인이 끔찍한 말을 하는 것을 실제로 포착하면 그럴듯한 부인 가능성을 갖게 된다"고 말했다.

같은 워싱턴 포스트 기사에서 잘못된 정보 추적 기관인 그라피카의 분석가인 리비 랭은 더 광범위한 위험을 강조했다. “모든 것이 가짜일 수 있고 모든 사람이 모든 것이 가짜이거나 어떤 식으로든 조작되었다고 주장한다면 실제로는 진실에 대한 감각이 없다. 특히 정치적 동기가 있는 배우들은 자신이 선택한 해석을 무엇이든 받아들일 수 있다.”

 

AI가 생성한 설득력 있는 연설

딥페이크 동영상 외에도 AI가 생성한 음성은 훨씬 더 위험할 수 있다.

훌륭한 연설가는 얼마나 설득력이 있을까? 머스크를 비롯한 AI 리더들은 우리가 10년 안에 '디지털 슈퍼 인텔리전스'를 달성할 것이라고 말한다. 그리고 그것이 사실이라면, 초인적인 창의성은 물론 초인적인 말과 설득도 곧 다가올 것이다. 그렇다면 초인적인 말은 어떤 모습일까?

 

딥페이크 사기는 단순한 광고 과실을 넘어 확장된다. 또한 가짜 추천서를 작성하고 소비자를 숨겨진 구독 모델로 오도하며 음성 딥페이크를 통해 금융 사기를 시도하는 데에도 사용되었다. 우리는 부모와 조부모님이 자녀와 손주들로부터 "아뇨, 긴급 상황입니다... 돈을 보내주세요!"라는 전화를 받았다는 이야기를 들었다. 그리고 그것이 작동하는지 맞춰봐야 한다. (프로 팁: 가족 중에는 이러한 비정상적인 요청을 확인하는 데 사용할 수 있는 특별한 확인 "코드 워드"가 있다.)

AI가 가장 설득력 있는 뉴스 앵커만큼 설득력 있고 솔직할 수 있고, 최고의 정치인만큼 매력적일 수 있다면, 우리는 믿을 수 없을 만큼 설득력이 있는 연설과 영상으로부터 우리 자신을 예방하는 방법을 고려해야 한다.

 

솔루션은 어떤 모습일까?

최근 딥페이크 사기에 대응하여 국회의원들은 필수 콘텐츠 라벨이나 누군가의 초상이나 음성 사용에 대한 동의와 같은 AI 생성 콘텐츠에 대한 지침을 확립하는 것을 목표로 하는 “딥페이크 책임법” 및 “가짜 방지법”과 같은 법안을 제안했다. 여러 주에서 AI 콘텐츠를 규제하기 위해 주도권을 잡았지만 아직 전국적인 정책이 제정되지 않았다.

 

그러나 Stability.ai의 CEO인 에마드 무스타크는 이렇게 말한다. “유일한 선택은 AI를 사용하여 AI를 사용하는 악당을 방어하는 것이다. 사람들은 이런 것들을 보호해야 하기 때문에 회의나 정책의 속도가 아닌 AI의 속도로 AI 대응책을 혁신해야 한다.”

사람이나 AI가 볼 때 픽셀을 구별할 수 없다면 인증 메커니즘을 어떻게 만들까?

한 가지 방법은 블록체인을 사용하여 콘텐츠 신뢰성을 구현하는 것이다. 따라서 원본이 생성한 모든 단일 이미지에는 파괴할 수 없는 메타데이터가 첨부되어 있다.

내가 과거에 말했듯이, 세계의 가장 큰 문제는 세계의 가장 큰 비즈니스 기회이다... 그리고 이것은 올바른 회사에게는 엄청난 비즈니스 기회이다.

 

결국, 기업가들은 정부와 협력하여, 위조방지시스템(30개 이상의 중앙은행이 컨소시엄으로 개발)과 마찬가지로 이러한 문제를 해결하기 위한 인프라와 대책을 구축해야 하며, 불법 화폐 복사를 방지하기 위해 Xerox 및 기타 복사기 제조업체에서 개발 및 구현했다.

최근 무스타크와의 대화에서 그는 다음과 같이 지적했다. “이러한 딥페이크는 우리 인프라가 확산을 허용하는 경우에만 확산되며, 저절로 확산되는 것은 없지만 훨씬 더 많은 연구가 필요하다. 식별 및 인증 수단을 통해 확산을 차단한다. 그리고 인프라 계층에서는 많은 작업이 필요하다.”

그리고 일론 머스크가 말했듯이 결국에는 "표현의 자유"와 "접촉의 자유"에 대한 대화가 있게 될 것이다.

좋은 소식은 실제로 좋은 소식이 있다는 것이다. 다른 기술과 마찬가지로 딥페이크에는 긍정적인 용도와 부정적인 용도가 모두 있다. 다음은 몇 가지 이점이다:

 

딥페이크의 이점

과거를 되살리기: 세상을 떠난 사람들을 다시 불러오기

딥페이크 기술은 실제와 같은 대화형 이미지와 음성을 생성하는 놀라운 능력을 보유하고 있어 개인이 세상을 떠난 후에도 오랫동안 연결될 수 있다.

고인의 데이터를 학습한 AI 챗봇인 'thanabots'의 등장은 딥페이크 기술을 사용하여 사망자와 연락을 유지하는 데 대한 관심이 높아지고 있음을 반영한다.

예를 들어, 12월 프로젝트를 통해 사용자는 사고 방식과 말하는 방식을 시뮬레이션하는 AI 챗봇을 통해 사랑하는 사람의 가상 표현과 대화할 수 있다. 이 플랫폼은 AI를 사용하여 "디지털 사후 세계"를 창조하는 다양한 스타트업을 탐구하는 최근 공개된 다큐멘터리 Eternal You에 소개된 여러 플랫폼 중 하나이다.

또 다른 예로, 플로리다주 세인트피터즈버그에 있는 달리 박물관은 Goodby, Silverstein & Partners(GS&P)와 협력하여 딥페이크 기술을 통해 상징적인 예술가 살바도르 달리를 부활시켰다. 아카이브 영상을 AI 알고리즘과 병합하여 방문자에게 인사하고 참여하는 대화형 Dalí를 만들었다. GS&P의 기술 이사인 네이선 쉬플리는 이를 "문화 기관이 예술적인 목적으로 딥페이크를 사용한 최초의 사례"라고 설명했다. 이러한 혁신적인 딥페이크 사용은 예술가를 다시 살아나게 할 뿐만 아니라 방문자에게 달리의 예술과 페르소나에 대한 독특한 상호작용 경험을 제공한다.

또 다른 충격적인 사례로는 플로리다 학교 총격 사건의 피해자인 호아킨 올리버(Joaquin Oliver)의 부모가 딥페이크 기술을 사용하여 총기 규제를 옹호하는 설득력 있는 동영상을 제작한 것이다. 이 애플리케이션은 사회적, 정치적 변화를 주도하는 딥페이크의 잠재력을 보여주고 옹호와 인식을 위한 강력한 플랫폼을 제공한다.

 

학습 강화: 점점 더 상호작용적인 교육 경험

교육계도 딥페이크 기술로 인해 변화를 목격하고 있다. 이는 온라인 학습을 강화하여 더욱 매력적이고 상호작용적으로 만든다. 특히 디지털 학습이 점점 더 보편화되는 시대에 매우 중요하다. 상하이에서 지앙페이 부교수는 전염병 봉쇄 기간 동안 자신의 애니메이션 버전을 활용하여 학생 참여가 크게 증가했다고 언급했다.

지앙페이는 "수업에 대한 학생들의 열정과 숙제의 질 향상이 눈에 띄는 진전을 이루었다."라고 지적했다. 이 예는 딥페이크가 어떻게 교육 과정을 활성화하여 학생들의 학습을 더욱 매력적이고 효과적으로 만들 수 있는지를 강조한다.

 

비디오 제작 혁명: 더 저렴하고 효율적인 방법

마케팅 및 비디오 제작에서 딥페이크는 비용 효율적이고 효율적인 솔루션을 제공한다. 배우의 라이선스 ID와 이전 녹음을 사용하여 마케터는 물리적 존재 없이도 새로운 콘텐츠를 제작할 수 있으므로 제작 비용과 시간이 크게 절감된다. 이는 바쁜 경영진을 마케팅 캠페인에 참여시키려는 기업에 특히 유용하다.

딥페이크 기술을 사용하여 콘텐츠를 쉽게 편집하고 업데이트할 수 있다는 점도 매력을 더해 민첩하고 반응이 빠른 콘텐츠 생성에 대한 유용성을 입증한다.

 

고객 참여 혁신: 고객 서비스 및 마케팅 참여도 향상

딥페이크는 기업이 개인화된 대화형 방식으로 고객을 참여시키고 서비스를 제공할 수 있는 새로운 길을 열어준다. 예를 들어, 기업에서는 고객 서비스를 위해 맞춤형 딥페이크 아바타를 사용하는 방법을 모색하고 있으며 기존 텍스트 기반 챗봇에 대한 보다 매력적인 대안을 제공하고 있다.

새로운 iPhone 20과 그 이점을 설명하는 스티브 잡스의 딥페이크를 상상해 보자. 또는 새 모델 X의 조수석에 앉아 있는 일론 머스크의 딥페이크가 개인적이고 대화적인 어조로 최신 기능에 대해 이야기하고, 귀하의 이름을 언급하고 뒷좌석에 두 자녀가 앉을 수 있는 공간이 얼마나 되는지 논의한다. 얼마나 설득력이 있을까?

이러한 접근 방식은 고객 상호 작용을 개인화하여 더욱 기억에 남고 효과적으로 만들게 된다.

예를 들어, 로이터는 AI로 생성된 딥페이크 발표자를 활용하여 스포츠 뉴스 요약을 전달했다. 이는 뉴스 경험을 개인화할 뿐만 아니라 동적 콘텐츠 전달에서 딥페이크의 다양성을 보여준다. 가상 뉴스 리포터는 개인의 선호도에 맞춰 뉴스 콘텐츠를 보다 원활하고 쉽게 이용할 수 있는 방법을 제공한다. 뉴스 산업에 딥페이크 기술을 혁신적으로 적용한 것은 더욱 상호작용적이고 맞춤형 미디어 소비로의 전환을 의미한다.

 

이것이 중요한 이유

AI의 급속한 발전이라는 끊임없는 회오리바람 속에서 딥페이크가 단지 일시적인 추세가 아니라 우리의 미래를 형성하는 중추적인 기술이라는 것은 분명하다.

기업가는 주목해야 한다. 기회는 무한하다. 역사적 아이콘을 부활시키고, 교육을 변화시키며, 마케팅에 혁명을 일으키는 것을 상상해 보라. 이는 혁신을 위한 캔버스이자 한때 공상과학 소설처럼 보였던 경험을 만들 수 있는 기회이다.

하지만 우리는 또한 조심스럽게 발걸음을 옮겨야 한다. 계몽하고 즐거움을 줄 수 있는 기술은 개인의 정직성과 사회적 신뢰를 훼손할 수 있는 위험도 내포하고 있다.

이는 중요한 균형 조정 행위이다.

 

디지털 시대의 바이러스 백신 소프트웨어와 마찬가지로 딥페이크 오용에 대비해 AI 기반 방어막을 구축하려면 기업가 정신이 필요하다. 교육, 플랫폼 정책, 법적 프레임워크는 디지털 사기로부터 보호하기 위해 함께 발전해야 한다.

딥페이크의 이야기는 우리가 쓰는 것이다. 긍정적인 변화와 윤리적 발전에 대한 이야기가 되도록 해야 한다. 이것은 단지 기술에 관한 것이 아니다. 이는 딥페이크가 우리의 가치를 보호하면서 잠재력을 증폭시키는 미래를 만드는 것이다.