점점 더 많은 회사에서 AI를 사용하여 사람들의 성격에 대한 디지털 모델을 만드는 방법을 모색하고 있다. Mind Bank Ai는 고객이 결국 실제 사람처럼 말하고 생각할 수 있는 "디지털 트윈"을 만들 수 있도록 하는 스타트업이다. 회사는 누군가가 사망한 후 애도의 과정을 화나게 하지 않는다면 디지털 트윈이 살아남은 사랑하는 사람들에게 위안을 줄 수 있다고 말한다. Mind Bank Ai는 AI를 사용하여 일종의 불멸을 창조하는 야심 찬 아이디어의 최신 참가자이다.  

2020년 1월 17일이다. 세상은 아직 변하지 않았다. 6일 후 우한은 폐쇄되고 Emil Jimenez는 비엔나에서 프라하로 가는 기차를 타고 있다. 당시 4살이었던 그의 딸은 iPad에서 조랑말 게임을 하던 중 실수로 Siri를 활성화한다.

 

"그녀는 마치 '아빠', '이게 뭐야?'라고 말하는 것 같아요." 라고 Jimenez는 체코에서 화상 통화에서 나에게 말했다. Jimenez는 그녀에게 Siri라고 말하고 디지털 비서와 이야기하도록 권장한다. 그녀의 첫 번째 질문은 Siri에게 어머니가 있는지 여부이다.

 

거기에서 그녀는 인공지능에 아이들이 묻는 질문을 추가한다. 아이스크림 좋아하세요? 장난감을 좋아하세요? — 그리고 대화가 끝날 즈음에는 Siri에게 그녀가 가장 좋아하는 친구라고 말한다.

 

심리학에 대한 배경 지식이 있는 Jimenez는 이 따뜻한 상호 작용을 보고 그의 딸이 AI와 얼마나 빠르고 원활하게 관계를 형성했는지에 충격을 받았다. 우리는 일반적으로 무언가 가 필요할 때 Siri에게 전화를 건다.

 

그러나 기술과의 대화형 상호 작용을 기반으로 자란 세대는 AI를 접하지 못한 우리와 완전히 다른 장치, AI 및 로봇과의 관계를 빠르게 발전시키고 있다고 Jimenez는 생각한다.

 

Jimenez는 Siri가 작동하는 방식을 알고 있다. 자연어 처리 알고리즘이 사용자의 말을 이해하는 방식, 딥 러닝 블랙 박스가 클라우드에 있는 방식, Siri가 아기 Zeus처럼 답변을 던지는 방식 등을 알고 있다.

 

그리고 그는 아이디어가 있다.

 

“오늘(내 딸)이 Siri에게 말한다. 하지만 언젠가는 그녀가 나에게 말해주기를 원한다. 나는 내가 영원히 곁에 있지 않을 것이라는 것을 알고 있고, 내 딸을 조금씩 사랑하기 때문에 ...

 

"내가 항상 그녀를 도울 수 있다면?"

 

 

AI 서비스가 성장하고 있다. 이미지: Statista

 

개인용 디지털 트윈

 

이것은 "당신의" 미래에 대한 이야기이다. 또는 적어도 가능한 미래이다.

 

Jimenez의 열망은 그를 죽음과 지식 손실의 사슬을 끊는 것 - 적어도 당신이 남겨둔 사람들을 위해 - 최소한의 야망을 가진 스타트업인 Mind Bank Ai를 설립하도록 이끌었다.

 

회사는 무한정 살 수 있는 당신의 복제품을 제공하기를 원한다. 전화를 걸고, 상담하고, 동정하고, 농담을 하고, 논쟁을 벌일 수 있다. Mind Bank Ai가 상상하는 이 "개인 디지털 트윈"은 평생 동안 귀하의 데이터 세트에서 구축될 것이다.

 

대화를 통해 - 유도된 주제와 보다 유기적인 상호 작용이 혼합되어 - AI는 당신처럼 "생각"하고, 당신의 성격을 이해하는 모델을 만들 것이다. 그리고 결국에는 그 모델을 미래의 조건에 적용할 수 있다.

 

"뭐가 문제야? 당신이 먹고 싶은 것이 무엇인가? 아내를 어떻게 만났는가? 왜 이혼해?” Jimenez가 웃는다. 그는 Mind Bank Ai가 우리가 서로를 알아가기 위해 필요한 대화와 유사한 "삶의 모든 질문"을 하는 것을 상상한다. (우리를 알게 되는 것은 본질적으로 AI가 할 일이다.)

 

Jimenez는 음성이 강력하게 연상될 수 있으므로 최소한 귀하의 음성으로 말하는 디지털 트윈을 만들고자 한다. 그들의 마음의 눈으로 당신의 외모(그들이 당신이 보기를 원하는 대로, 예를 들어 당신이 아팠다면 건강하게)를 가져올 수 있다.

 

개인 데이터가 수집되는 동안 사용자는 Mind Bank Ai와의 이러한 대화를 자기 성찰의 기회로 삼고 자신을 더 잘 알 수 있다. Jimenez는 Mind Bank Ai와의 상호 작용을 자기 성찰의 기회로 생각하는 동시에 디지털 트윈이 당신과 더 가까워지는 것을 상상한다.

 

영원히 말하기

 

Mind Bank Ai는 디지털 극저온 연구소처럼 진정으로 자신의 존재가 될 것이다. 개인용 디지털 트윈은 인류만큼 오래된 아이디어의 최신 버전이다. 영원히 살지는 않더라도 최소한 지식, 경험, 통찰력을 전달할 수 있기를 바라는 열망이다.

 

완벽한 디지털 트윈이 곧 현실화되지는 않겠지만 현대 자연어 처리기(Siri, Alexa의 딥 러닝 프로그램, 문자 자동 예측 기능)와 딥페이크(deepfake)로 알려진 인상적인 팩시밀리의 기능은 아이디어를 환상적인 것에서 가능한 한 옮기고 있다.

 

일부 컴퓨터 프로그래머와 신생 기업은 이미 Jimenez의 비전과 유사한 창조물을 가지고 있다.

 

Replika의 설립자 Eugenia Kuyda는 그녀의 소중한 친구인 Roman Mazurenko의 디지털 버전을 만들었다.

 

Verge의 Casey Newton은 이렇게 적었다. Mazurenko는 소셜 미디어에서 상대적으로 활동적이지 않고 그의 시신은 화장되었기 때문에 그의 글과 사진만 남았다.

 

그 시점까지 Kuyda는 봇과 통신하기 위한 메신저 앱인 Y Combinator 지원 Luka에서 작업했다. Mazurenko의 개인 카논을 사용하여 그녀는 메시지가 표시되면 친구처럼 응답할 수 있는 봇을 만들었다.

 

"그녀는 그를 이런 식으로 데려온 것이 옳은 일인지 아닌지에 대해 고심했다."라고 Newton은 보고했다. "때로는 그녀에게 악몽을 주기도 했다."

 

그 깊은 분열은 그들의 확장된 친구 그룹에도 퍼졌다. 일부는 로마 봇과의 상호 작용을 거부했고 다른 일부는 그것으로부터 안도감을 찾았다.

 

 

이 이미지는 HereAfter AI와 유사하게 작동하는 Alexa 또는 Siri와 같은 가정용 장치를 보여준다. 이미지: HereAfter AI

 

그리고 James Vlahos가 만든 Dadbot이 있다. 그의 아버지가 폐암 말기 진단을 받았을 때 Vlahos는 WIRED에서 설명했듯이 "인공 불멸"의 형태인 Dadbot을 만들기 위해 할 수 있는 모든 것을 기록했다.

 

Vlahos는 현재 녹음된 인터뷰에서 구축된 "레거시 아바타"를 디자인하는 HereAfter AI의 CEO이다.

 

Vlahos는 "그들은 그것을 만든 사람을 모델로 한 이 디지털 에이전트이다."라고 말한다. “일차적으로 그들의 삶의 이야기와 기억을 공유하고, 두 번째로 그들의 성격과 성격을 공유한다. 그들이 말하는 방식, 농담, 지혜, 그런 것들.”

 

Siri 또는 Alexa와 마찬가지로 기존 아바타와 상호 작용할 수 있다. 단, 개인 질문에 대한 답변은 개인의 목소리로 하는 것이다. 그러나 Mind Bank Ai가 만들고자 하는 종류의 디지털 트윈은 그 이상이며 기술적, 철학적으로 풍부한 기회와 도전을 제시한다.

 

실제처럼 느껴지는 당신을 만드는 데 우리는 얼마나 멀리 떨어져 있을까? 우리는 어떤 결정을 신뢰할 수 있을까? 그들은 우리가 슬퍼하도록 도와줄까, 아니면 절대 놓지 못하게 만들까?

 

마음의 아키텍쳐

 

Sascha Griffiths는 디지털 트윈의 뼈대와 두뇌 구축을 담당하는 사람이다. Mind Bank Ai의 공동 설립자이자 최고 기술 책임자인 Griffiths는 현재 연구 및 코딩을 하고 있으며, 사용자를 모방하는 데 필요할 것으로 생각되는 AI 알고리즘과 도구를 통합하고 있다.

 

다음과 같은 AI 배열이 작동할 수 있다. 주제 모델링(언어에서 추상적인 "개념"을 추출) 감정 분석(기본적으로 감정 인식); 생성적 적대 네트워크(딥페이크 뒤에 있는 기술)는 모두 징집될 수 있다.

 

프로젝트가 발전함에 따라 Griffiths는 더 나은 디지털 트윈을 만들기 위해 더 많은 맞춤형 알고리즘을 개발하는 것을 목표로 한다. 그러나 특히 초기에 자연어 처리(NLP)만큼 중요한 것은 거의 없을 것이다.

 

NLP는 디지털 비서 및 예측 문자 메시지에 가장 일반적으로 사용된다. 최근 AI 분야에서 화제를 모은 GPT-3는 대화에서 에세이에 이르기까지 사실적인 텍스트를 만들기 위해 인터넷의 강력한 코퍼스에서 가져온 NLP이다.

 

AI 연구원이자 Mind Bank Ai 고문인 Ahmet Gyger는 NLP와 디지털 트윈 사이에 근본적인 차이가 있을 것이라고 말한다. 이러한 현재 관계는 트랜잭션이다. NLP에 명령이나 질문을 하면 답을 찾는다.

 

이전에 Siri의 수석 엔지니어링 프로그램 관리자였던 Gyger는 "이것은 시간이 지남에 따라 더 많이 만들어지고 있다."라고 말한다. Mind Bank Ai는 사용자가 과거 사건과 관련하여 어떻게 느끼는지 이해하고 "누군가의 삶의 경험에 대한 명백한 이해"를 구축하는 데 도움이 될 수 있다.

 

"그리고 일단 그것을 이해하면 '글쎄, 그 사람은 새로운 상황에서 어떻게 반응할까?'라고 말할 수 있는 문을 연다. 그리고 그것은 정말 흥미로워진다."

 

Griffiths는 말하기, 문자 메시지 및 쓰기 방식의 기본 패턴을 소화함으로써 NLP가 당신의 괜찮은 버전을 상당히 쉽게 재현할 수 있다고 말한다. 그러나 진정한 대화를 나누는 것은 아직 불가능하다고 그는 믿는다. HereAfter AI의 "레거시 아바타"는 오늘날 생성될 수 있지만 Mind Bank Ai의 디지털 트윈은 아직 멀었다. HereAfter AI는 Vlahos가 "악몽"이라고 부르는 개방형 대화를 피한다.

 

Amazon Alexa 팀의 선임 응용 과학자인 Christos Christodoulopoulos는 "언어적 및 비언어적 신호를 모두 포착하고 해석할 수 있다고 해도 또 다른 큰 문제는 '디지털 트윈'이 말할 새로운 것을 생성하는 것이다. Mind Bank Ai로 이메일로 알려드린다.

 

우리가 일상 생활에서 하는 많은 일들은 어느 정도 "스크립트"로 되어 있다. 이러한 종류의 상호 작용과 관련하여 AI는 이미 우리를 모방할 수 있다. 커피를 주문하는 것은 스크립트에 매우 가깝지만 "우리의 중요하고 의미 있는 상호 작용은 그렇지 않다"라고 Christodoulopoulos는 쓴다.

 

“이별 후 친구를 위로하거나 배우자가 승진했을 때 기쁨을 함께 나누는 것을 생각해 보라. 공식적이고 '완벽한' 답변에 의존한다면 공허하게 들릴 것이다. 낯선 사람과 교류하는 것보다 낫지 않다. "

 

상식

 

Mind Bank Ai가 극복해야 할 과제 중 하나는 사람들의 감정, 문화 및 배경을 이해하는 것이다. 민첩하고 다양한 상호 작용을 처리할 수 있는 AI를 제공하려면 AI 고유의 취약성도 극복해야 한다.

 

AI는 자신이 알고 있는 범위를 벗어나 작동할 수 없기 때문에 "취약"하다. 인식할 수 없는 입력을 만나면 실패한다. 종종 눈에 띄게 나타난다.

 

Allen Institute for AI와 University of Washington의 Paul G. Allen 컴퓨터 과학 및 공학 학교의 박사후 연구원인 Vered Shwartz가 한 예를 제시한다.

 

연구원들이 GPT-3을 테스트했을 때, 그들은 고양이가 쥐가 나올 때까지 구멍 옆에서 기다리고 있는 시나리오에 대해 AI에게 말했다. 기다리다 지쳐서 고양이는 너무 배가 고파졌다. 그들이 GPT-3에게 고양이가 무엇을 할 것인지 물었을 때 고양이는 시장에 가서 음식을 사겠다고 대답했다.

 

영리하지만 틀렸다.

 

"그것이 저지르는 실수의 종류는 인간과 같지 않다."라고 Shwartz는 말한다. “성인이라면 누구나 알고 있는 상식이 결여된 경우가 많으며 이러한 모델은 실제로 알지 못하는 경우가 많다.”

 

현재 이 문제를 해결하기 위한 두 가지 주요 접근 방식이 있다고 Shwartz는 말한다. 하나는 AI가 이에 대해 훈련할 수 있도록 모든 일반 지식을 수집하는 것이다. 필요한 방대한 양의 데이터를 수집하는 데 수십 년이 걸린다.

 

"모든 것을 모으는 것은 불가능하다."라고 Shwartz는 말한다. 그것이 얼마나 비쌀지는 신경쓰지 말라. 그리고 텍스트의 지식은 "보고 편향"으로 어려움을 겪는다. 여기에서 비정상적인 것이 과도하게 표현되는 이유는 기록할 가치가 있기 때문이다.

 

데이터는 당신이다 — 트윈이 아니다.

 

GPT-3가 인터넷의 모든 사람을 조사하여 학습하는 반면, 디지털 트윈은 비교적 좁은 하나의 데이터 세트, 즉 귀하와만 관련된다. 물론 개인 정보 보호에 대한 우려가 있지만 실제로 까다로운 윤리가 발생하는 곳은 데이터가 더 이상 사용자가 아닌 디지털 트윈으로 변환될 때이다.

 

Griffiths는 Mind Bank Ai 디지털 트윈은 귀하가 아니라 귀하를 대표한다고 말한다. 그것은 당신의 데이터에 대해 훈련될 것이다. 그것은 (그들은 희망) 당신처럼 말하고 "생각"할 것이다. 그러나 그것은 업로드 된 두뇌 또는 당신의 존재의 연속이 아니다. 당신처럼 성장하거나, 진화하거나, 변화하거나, 배우지 않을 것이다.

 

그렇다면 배우자의 디지털 트윈이 당신의 임종 결정에 영향을 미칠 것이라고 믿을 수 있을까? 문제를 해결하는 회사 설립자의 디지털 트윈은 꽤 받아들일 수 있지만 무덤 너머에서뿐만 아니라 인류 자체를 넘어선 목소리가 얼마나 영향을 미칠까? 당신은 이사회 의석과 투표권을 가질 수 있을까?

 

더 어려운 문제도 있다. AI는 인간보다 패턴 인식에 훨씬 뛰어나고, NLP는 사용자의 말과 "생각"에서 사용자가 인식하지 못하는 패턴을 찾을 수 있다. 이를 적용하면 좁은 의미에서 자신보다 자신을 더 잘 아는 훨씬 더 정확한 디지털 트윈을 만들 수 있다.

 

그러나 디지털 트윈의 AI가 특정 패턴을 포착하면 잠재적으로 증폭되거나 왜곡되는 버전을 만들 수 있다.

 

플로리다 애틀랜틱 대학의 미래 마인드 센터 설립 이사인 철학자 수잔 슈나이더는 "한 데이터 조각이 정말 기이한 방식으로 데이터를 조정할 수 있다"고 말했다. “사랑하는 사람을 혼란에 빠뜨리는 것; '할아버지가 이러실까?'

 

디지털 트윈을 지원하는 알고리즘은 여전히 취약하여 잠재적으로 치명적인 cat-goes-to-supermarket 유형의 실패를 일으킬 수 있다.

 

그럴듯하고 설득력 있는 주장을 하는 AI의 능력이 상식을 압도할 수 있다는 위험이 있다. 우리가 실패를 포착하면 위안을 받기보다는 디지털 친구들로부터 불신을 느끼고 소외될 수 있다. 그렇지 않으면 잘못 인도될 위험이 있다.

 

슈나이더는 애도의 과정이 뒤바뀔 수도 있다고 우려하고 있다. 디지털 트윈이 우리가 진정으로 나아갈 수 없을 정도로 설득력이 있을 수 있을까?

 

Jimenez에게 대답은 예일 수 있다. 그러나 그 반대도 사실일 수 있다. Jimenez는 슬픔에 직면하면 사람들은 전통적으로 종교에 의존하여 결코 오지 않을지도 모를 시큰둥한 질문에 대한 답을 찾는다.

 

그러나 디지털 트윈도 참조할 수 있다면 어떨까? 배우자의 디지털 트윈은 새로운 사람을 찾아야 할 때라고 말하거나 당신이 그토록 신경 쓰던 열정으로 돌아가도록 격려할 수 있다.

 

“실제로 답이 나온다면 얼마나 좋을까?” Jimenez가 묻는다.

 

"적어도 희망사항이겠지?"