유명한 Stability AI CEO인 Emad Mostaque는 2024 Abundance Summit 에서 연설한 다음 날 CEO직에서 물러났습니다 .

무슨 일이에요? 그는 왜 떠나기로 결정했는가? 이것이 안정성과 더 광범위한 오픈 소스 AI 운동에 어떤 의미가 있습니까?

이번 주에 저는 Emad와 함께 2시간 동안 자세한 Moonshots 팟캐스트를 녹음하여 이러한 질문에 답하고 분산화되고 민주화된 AI 대 폐쇄형 AI에 대한 그의 비전을 이해했습니다.

Moonshot 기업가를 위한 이 대화에는 중요한 교훈이 많이 있습니다.

Emad에 대한 두 부분으로 구성된 시리즈 중 첫 번째인 오늘의 블로그에서는 그가 Stability를 떠난 이유, 다른 기업가 및 리더를 위한 이 경험에서 얻은 교훈, 오픈 소스 및 분산형 AI에 대한 영향을 다루겠습니다. 

뛰어들자…  

 

Emad가 Stability AI를 떠난 이유

저는 Emad에게 다음과 같은 당연한 질문을 했습니다. 무슨 일이 일어났고 왜 그가 이제 Stability의 CEO 자리에서 물러나기로 결정했습니까?

Emad는 다음과 같이 설명했습니다. “저는 특히 창작자, 개발자, 연구자 등을 고용하여 그들의 잠재력을 최대한 발휘하고 시스템을 설계하는 데 능숙합니다. 하지만 HR, 운영, 비즈니스 개발 및 기타 요소를 다루어서는 안 됩니다. 그 일을 하는 데에는 나보다 더 나은 사람들이 훨씬 더 많습니다."

Emad는 CEO가 되는 것이 어떤 것인지에 대한 Elon Musk의 인용문을 설명했습니다. "심연을 응시하고 유리를 씹는 것." CEO로서 당신은 매우 불확실한 미래를 보고 결정을 내려야 하며, "씹는 유리"는 미지의 바다를 통해 배를 조종할 때 항상 당신에게 다가오는 모든 문제를 의미하기 때문입니다.

나는 Emad에게 자신이 설립한 회사에서 물러나겠다는 중대한 결정을 내린 기분이 어떤지 물었습니다.

그는 안도감이 컸다고 말했습니다. "그것이 나를 묶고 있었습니다. 유산, 기술, 조직 및 기타 부채가 많이 있습니다. 특히 빠르게 성장할 때... 피곤하고 안도감을 느꼈습니다. 이제 그런 느낌이 들었습니다. 백만 가지 옵션이 있습니다.” (Emad가 떠난 후의 정확한 계획은 이 시리즈의 다음 블로그에서 다루겠습니다.) 

Emad는 더 이상 CEO가 아니지만 현재 Stability의 대주주라는 점을 지적할 가치가 있습니다. 하지만 그는 회사에 새로운 자금이 들어오면 상황이 바뀔 것으로 예상합니다.

Stability 팀에 대한 그의 조언은 AI 생성 미디어의 엄청난 기회에 초점을 맞추라는 것이었습니다. "저는 매우 기본적인 조언을 했습니다. 저는 많은 새로운 회사를 설립하고 창업자가 될 것이기 때문에 어떤 갈등도 원하지 않았습니다. 그리고 [Stability의] 주주…저는 Stability 팀에 미디어 [비즈니스 측면]에 집중하고 이를 추진할 것을 제안했습니다."

 

Moonshot 기업가 및 리더를 위한 강의 

연쇄 창업가로서 저는 항상 다른 창업가의 경험에서 귀중한 통찰력과 교훈을 찾습니다. Stability AI의 CEO로서 Emad의 여정은 특히 빠르게 변화하는 기하급수적 기술 세계에서 활동하는 우리들에게 몇 가지 강력한 시사점을 제공합니다. 

나에게 가장 큰 교훈은 자기 인식의 중요성과 자신의 고유한 장점을 활용하는 것이었습니다. 위에서 언급했듯이 Emad는 자신이 잘하는 것(연구, 전략, 창의적인 작업)과 자신이 못하는 것(운영, HR 등)에 대해 잔인할 정도로 솔직했습니다.

한발 물러나 자신의 기술을 보완하는 사람들을 데려와야 할 때를 아는 것은 회사의 성공과 리더로서의 자신의 행복에 매우 중요할 수 있습니다. 개인적으로 뼈저리게 배운 교훈입니다! 

Emad의 경험은 또한 기업가로서 우리가 믿을 수 없을 만큼 강력한 기술을 구축하면서 씨름해야 하는 엄청난 기회와 실존적 위험을 강조합니다. Emad가 말했듯이 "작은 창문이 있지만...이제 해야 합니다."

우리는 우리의 기술이 무엇을 할 수 있는지뿐만 아니라 모든 사람을 위한 더 나은 미래를 만들기 위해 무엇을 해야 하는지 고려해야 할 책임이 있습니다 . 그것이 바로 미래를 개척하는 창업자들에게 필요한 사고방식이자 절박함입니다. 이러한 가치를 예시한 Emad에게 큰 존경심을 표합니다. 

 

더 나은 AI 거버넌스의 필요성 

Emad는 개인적인 이유 외에도 소수의 사람들이 집중하고 있는 AI 거버넌스 및 통합과 관련된 광범위한 문제를 해결해야 하는 긴박성과 책임감을 느꼈기 때문에 사임했습니다.

그가 말했듯이: "지금 세상을 보면... OpenAI에 대한 거버넌스는 분명히 없습니다. 즉, 이사회에 있는 사람들을 크게 존중한다는 뜻입니다. 훌륭한 개인이 있지만 이를 주도하는 기술을 관리해야 하는 사람은 누구입니까? 인류를 가르치고 모든 어린이를 가르치고 우리 정부를 관리합니다. 누가 이러한 모델을 구축하고 그러한 일을 할 수 있는지 실제로 주도하고 있습니까?" 

Emad는 고성능 AI 시스템이 몇몇 회사의 통제 하에 너무 통합되고 중앙 집중화되기 전에 적절한 거버넌스와 표준을 확립하는 데 1~2년 정도의 작은 시간이 있다고 믿습니다. 그는 우리가 신속하게 행동하지 않으면 미래의 "1984년 파놉티콘" 시나리오에 대해 걱정하고 있습니다. N 

그는 이 디스토피아적 비전을 "시민 의회, 협의 민주주의, 의회에서 어떤 법안이라도 받아들여 완전히 해체하고 그 동기가 무엇인지 찾아내는 능력"이라는 보다 긍정적인 미래와 대조했습니다. 헌법에 위배되는 법률을 몇 초 만에 확인할 수 있습니다. 민주적 관점에서 볼 때 믿을 수 없을 정도로 강력한 권한을 부여하는 기술입니다."

그러나 Emad는 AI가 각 개인을 대상으로 완벽하게 설득력 있고 감정적으로 조작적인 연설을 가능하게 한다면 우리가 알고 있는 민주주의를 종식시킬 가능성도 있다고 경고했습니다.

그는 다음과 같이 설명했습니다. "나는 누구의 연설을 받아들여 훨씬 더 설득력 있게 만들 수 있습니다. 내 목소리는 약간 우스꽝스러운 것 같아요. 낑낑대는 소리를 없앨 수 있고, 매우 세련된 영국식 억양 등을 사용할 수 있습니다. 그렇죠? ... 사람들은 이미 이 기술을 사용하고 있습니다. 모든 사람이 사랑하는 사람과 비밀번호를 가지고 있어야 합니다. 왜냐하면 사람들은 어머니로부터 '긴급 상황에 도움이 필요해요'라는 전화를 받고 있지만 알 수 없기 때문입니다. 그것은 가짜다]. 감정의 끈을 잡아당긴다." 

그렇다면 Emad가 말하는 "분산형 AI"는 정확히 무엇을 의미하며 이러한 위험을 어떻게 해결할 수 있을까요? 그는 이를 세 가지 주요 구성 요소로 분류했습니다. 

#1. 접근성: 누구나 AI 기술에 접근할 수 있어야 합니다.

#2. 거버넌스: AI 시스템을 훈련하는 데이터에 대해 소수 기업의 중앙 집중식 제어가 아닌 분산되고 민주적인 거버넌스가 필요합니다. 

#삼. 모듈형 인프라: AI 시스템은 모놀리식 중앙 집중식 시스템이 아닌 사람들이 구축할 수 있는 모듈식 방식으로 구축되어야 합니다.

Emad는 미래의 "지능형 인터넷"을 구상합니다. AI는 "각 개인, 국가 및 회사가 고유한 AI 모델을 갖고 있으며 서로 상호 작용하는 글로벌 및 국가 인프라(예: 도로, 전력망, 학교)의 한 부분입니다. 인류를 위한 최적의 방법으로 다른 것입니다." 

그는 AI의 지속적인 기하급수적 발전이 실제로 이러한 분산형 미래를 가능하게 하는 데 도움이 될 것이라고 믿습니다. 이전에는 대규모 중앙 집중식 컴퓨팅이 필요했던 모델이 곧 소비자 기기에서 실행될 수 있게 될 것입니다.

Emad가 설명했듯이: "이제 소비자 그래픽 카드에서 초당 300개 이미지의 Stable Diffusion을 볼 수 있습니다. 우리의 비디오 모델은 5GB 정도였습니다. Web 2에서는 모든 인텔리전스가 이러한 거대한 서버와 이제 여러분은 대형 슈퍼컴퓨터를 갖게 되었습니다. 각 국가에 맞게 맞춤화할 수 있는 졸업생을 교육할 수 있습니다." 

 

Emad의 MTP: 긴급한 기회

Emad가 Stability를 떠나기로 결정한 것은 AI 거버넌스 및 통합에 대한 심각한 우려 때문이었지만 CEO직에서 물러나는 것이 훨씬 더 긍정적인 영향을 미칠 수 있는 기회라고 생각합니다. 그는 다음과 같이 신랄하게 말했습니다.  

"저의 MTP(대규모 변혁적 목적)는 모든 어린이가 자신의 잠재력을 실현하고 이를 수행할 수 있는 도구를 제공하는 것입니다."

AI는 향후 몇 년 내에 지구상의 모든 사람이 고품질의 의료 및 교육에 접근할 수 있도록 하는 능력을 제공합니다. Emad의 견해에 따르면 우리는 이를 가능한 한 빨리 수행해야 하는 도덕적 의무가 있으며, 이것이 바로 그가 Stability를 떠나 더 큰 그림에 집중해야 한다고 긴급함을 느낀 이유입니다.

"우리는 말 그대로 몇 년 안에 모든 어린이가 우수한 교육을 받을 수 있게 해주는 기술을 보유하고 있습니다. 이러한 기술이 마침내 등장했고 마침내 충분히 훌륭하고 빠르며 저렴해졌습니다."

 

저는 Emad가 이 임무, 즉 MTP에 끊임없이 집중하는 모습을 사랑하고 존경합니다. 그는 AI가 인류를 향상시키는 놀라운 미래를 가져오는 데 도움이 되는 재능과 추진력을 가진 보기 드문 개인 중 한 명입니다. 그가 다음에 무엇을 할지 정말 기대됩니다.

다음 블로그에서 우리는 디지털 슈퍼 인텔리전스에 대한 Emad의 생각을 살펴보고 Stability에서 물러난 이후 그의 구체적인 계획에 대한 정보를 얻을 것입니다. 계속 지켜봐 주시기 바랍니다!

 

PS 저는 방금 " 당신의 목적을 위한 기금 " 이라는 자금 조달에 관한 첫 번째 (그리고 유일한) 프로그램을 시작했습니다 .  수년에 걸쳐 저는 20개가 넘는 회사, 2개의 대학, 20개가 넘는 XPRIZE를 시작하기 위해 총 수십억 달러에 달하는 자금을 모금했습니다. 이 프로그램에서 나는 내가 사용한 전략과 비밀을 공유합니다. 나의 목표는 귀하가 목적 중심 벤처를 찾고 자금을 조달하도록 돕는 것입니다. 즐기다!