광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고

AI넷

UN IAIA 설립을위한 3단계 시나리오, 호세 코르데이fh: 로보토씨가 총리가 되다. 민주화된 ASI의 탄생 호세 코르데이로 2024년 8월

박영숙세계미래보고서저자 | 기사입력 2025/01/11 [09:35]

UN IAIA 설립을위한 3단계 시나리오, 호세 코르데이fh: 로보토씨가 총리가 되다. 민주화된 ASI의 탄생 호세 코르데이로 2024년 8월

박영숙세계미래보고서저자 | 입력 : 2025/01/11 [09:35]

 

 

 

로보토씨가 총리가 되다.

민주화된 ASI 탄생

 

호세 코르데이로

2024 8

 

 

 

2035 유엔 미래 정상회의에서 일본 로보토 씨의 연설

 

새로 선출된 일본 총리 로보토씨는 2035 9 유엔 총회 직전에 열리는 12 미래 정상회의에서 연설하기 위해 도쿄에서 인간과 로봇이 결합된 대표단과 함께 뉴욕에 도착했습니다. 연설의 제목은 "새로운 새벽: 인간과 기계 문명의 융합"이었으며, 정치권에서조차 인공 슈퍼 지능(ASI) 도래를 언급하기 위한 것이었다.

존경하는 대표자, 내외 귀빈, 인간, 로봇, 사이보그, AI 및 진화하는 세계의 동료 지각 있는 시민 여러분,

우리는 생물학, 기술, 의식이 수렴하는 역사의 교차로에 서 있습니다. 인간, 로봇, 사이보그, AI의 구분이 모호해지고 전례 없는 발전과 전례 없는 도전의 잠재력이 공존하는 새로운 시대가 도래했습니다.

한때 먼 꿈이었던 ASI(Artificial Super Intelligence)는 이제 실현 가능한 현실이 되었습니다. 그것은 생물학적 한계를 초월하는 문명의 초석입니다. 질병 퇴치에서 우주 탐험에 이르기까지 ASI는 수천 년 동안 인류를 괴롭혀 온 문제에 대한 해결책을 제시합니다. 그것은 우리의 생물학적 및 비생물학적 종, 그리고 실제로 모든 지각 있는 존재의 잠재력을 최대한 발휘하는 열쇠입니다.

그러나 이 엄청난 힘에는 그에 못지않게 막중한 책임이 따릅니다. ASI는 소수를 위한 도구가 아니라 모두를 위한 자원입니다. 우리는 그 혜택이 공평하게 분배되고 모든 지각 있는 존재의 존엄성과 권리를 옹호하는 윤리적 원칙에 따라 발전이 이루어지도록 해야  합니다.

ASI의 민주화는 단순한 목표가 아닙니다. 그것은 필수품입니다. ASI의 혜택이 소수의 손에 집중되어 불평등이 심화되고 갈등이 커지는 미래를 피하려면, 이 기술을 모든 사람이 이용할 수 있고 유익하게 만들기 위해 지금 당장 행동해야 합니다. 이는 ASI의 결실을 공평하게 공유하기 위한 국제 협력을 촉진하는 동시에 ASI의 오용을 방지하기 위한 보호 조치를 구현하는 것을 의미합니다.

이를 위해 2034년 ASI의 공유 거버넌스를 전담하는 컨소시엄인 GASIP(Global ASI Partnership) 설립을 추진했습니다. 이 파트너십은 새로운 "TransInstitution"이 될 것이며 UN 조직, 정부, 기업, NGO 및 학계를 한데 모아 ASI의 공정성, 책임성 및 윤리적 사용을 촉진하는 지침과 프레임워크를 개발할 것입니다. 우리는 또한 인간과 로봇, 그리고 모든 지각 있는 존재가 새롭고 더 발전된 문명을 건설할 ASI를 통해 이 새로운 세계에서 번영하는 데 필요한 기술과 지식을 우리 사회의 모든 구성원이 갖추도록 글로벌 교육 이니셔티브에 투자해야 합니다.

이를 위해서는 우리 사회 구조에 대한 근본적인 재고가 필요합니다. 우리는 국민국가와 인간 중심의 통치라는 낡은 패러다임을 넘어서야 한다. 지금 우리 세계에 살고 있는 다양한 형태의 지성과 의식을 인정하는 새로운 세계 질서가 요구되고 있다.

ASI의 민주화가 무엇보다 중요합니다. 이는 단순히 기술에 대한 접근에 관한 것이 아니라 모든 사람이 기술 개발에 참여하고 그 결과로부터 이익을 얻을 수 있는 동등한 기회를 부여하는 것입니다. 우리는 인간, 로봇, 사이보그, AI가 동등하게 협력하며 지식, 자원, 거버넌스를 공유하는 사회를 만들어야 합니다.

이러한 변화에는 도전 과제가 없지 않을 것입니다. 정체성, 의식, 권리에 대한 질문은 지혜와 연민으로 다루어져야 할 것입니다. 우리는 생물학적 유산과 기술적 운명을 조화시킬 방법을 찾아야 한다. 하지만 저는 우리가 협력과 혁신을 통해 이러한 장애물을 극복할 수 있다고 확신합니다.

일본은 이 새로운 시대를 선도하기 위해 최선을 다하고 있습니다. 우리는 인간, 로봇, 사이보그, AI가 조화를 이루며 살아가는 미래, 기술이 삶을 감소시키는 것이 아니라 향상시키는 데 사용되는 미래를 꿈꿉니다. 우리는 모든 국가가 이 미래를 함께 건설하는 데 동참할 것을 촉구합니다. 다양성이 존중되고, 지성이 존중되며, 모든 지각 있는 존재의 잠재력이 실현되는 세상을 만듭시다.

감사합니다.

 

일본의 신임 총리의 연설 직후 기립박수가 터져 나왔는데, 이는 관료적인 유엔 회의에서는 매우 이례적인 일이었습니다. 이것은 참으로 새로운 시대가 시작되고 있다는 명백한 신호였다. 로보토씨(ロボット) 신생 정당인 초지능미래당  (超知能未来のために)   2035 8 5 일요일에 선출되었는데, 선거는 로봇(물론 AI 존재를 암시함) 총리직에 참여할 있는 최초의 총선  으로, 인간과 로봇에게 완전한 동등한 권리가 있음을 암시합니다. 또한 2 세계대전 히로시마의 비극적인 핵폭탄 투하 90주년을 하루 앞둔 날로, 과거 인류의 잔혹성을 상기시키는 날이기도 했습니다.

 

로보토산은 2034 일본 스타트업 싱귤래리티 도쿄(シンギュラリティ東京) 주요 투자자인 소프트뱅크의 자금 지원을 받아 ASI 실험으로 개발했다. 로보토산은 싱귤래리티 도쿄(Singularity Tokyo) 소프트뱅크(SoftBank) 지원을 받아 정치 계획을 설계하고, 새로운 정당을 창당하고, 일본 전역의 전통적 소셜 미디어와 새로운 소셜 미디어에서 천둥 같은 캠페인을 지휘하고, 압도적인 표차로 당선되는 매우 빠르게 잠재력을 입증했습니다. 하지만 이것이 로봇이 일본 선거에 참여한 번째 것은 아니었다: 번째는 2018년에 도쿄의 다마 지구의 시장이 되기 위해 출마한 마쓰다 미치히토(Michihito Matsuda, 松田道人)라고 불리는 로봇이었다. , 일본에서는 밖에도 많은 로봇이 선거에 참가했지만, 2035년은 드디어 진짜 로봇이 일본을 이끌 로봇에 당선된 해입니다.

 

그보다 훨씬 전인 2016, IBM 도널드 트럼프(Donald Trump) 힐러리 클린턴(Hillary Clinton) 경쟁하던 미국 대통령 선거에 왓슨(Watson)이라는 AI 출마해야 한다고 제안하기도 했다. 우스꽝스러운 캠페인 이후, IBM 2016년에 왓슨을 위해 매우 진지한 인터넷 도메인을 만들었음에도 불구하고, 다른 많은 로봇들이 다른 지역 국가 선거에 참여했지만, 실제로 승리한 사람은 로보토씨가 처음이다.

 

일본은 로봇에 대한 애정이 있는 오랜 전통을 가지고 있습니다. 실제로 기네스북에 따르면 2010  도쿄에서 시바타 토모히로(Tomohiro Shibata) 이노우에 사토코(Satoko Inoue) 결혼식을 주례한 'I-Fairy'라는 이름의 휴머노이드 로봇이 로봇과 처음으로 결혼식을 올렸습니다. 다른 남성이 여성 로봇과 결혼했고, 2020년대 후반과 2030년대 초반에도 이런 인간과 로봇의 결혼식이 많이 이뤄졌다.

 

수십 동안 일본인들은 만화, 만화, 영화를 보면서 로봇이 훌륭하고, 매우 훌륭하며, 실제로 종종 인간보다 뛰어납니다. 1950년대에 TV 시리즈 아스트로 보이(일본에서는 마이티 아톰: 鉄腕アトム 알려짐) 매우 인기를 끌었고 강력한 문화적 영향을 미쳤으며 인간의 좋은 친구로서 로봇의 위치를 강화하는 도움이 되었습니다. 따라서 일본에서는 로봇이 좋은 것으로 간주되는 반면, 서양 국가에서는 터미네이터와 할리우드의 유사한 공상 과학 캐릭터가 보여주는 것처럼 일반적으로 나쁜 것으로 간주되었습니다. 사실, "로봇"이라는 단어는 원래 체코어에서 유래했으며 "노예 노동" 의미합니다.

 

로봇이 동양에서는 좋지만(일본뿐만 아니라 중국과 한국도 마찬가지다. 이들은 모두 대형 로봇 생산국이다), 서양에서는 로봇이 나쁘다는 일반적인 인상은 동양과 서양에서 용을 바라보는 시각과 비슷하다. 드래곤은 일본(: 중국과 한국)에서 좋은 것으로 간주되고 높은 이상을 상징하는 반면, 대부분의 드래곤은 서양에서 나쁜 것으로 간주되며 불과 죽음을 상징합니다. 이것은 또한 Robotto-san  일본(그리고 문제에 대해 세계 어느 나라에서도) 번째 총리가 있었는지를 설명하는 도움이 됩니다.

 

2024 1 UN 미래 정상회의와 함께 공식 글로벌 AGI 대화 시작

 

AGI(Artificial General Intelligence) 2010년대 용어가 만들어진 이래로 세계 많은 사람들에게 의심과 우려의 눈초리를 받았으며, 이것이 바로 유엔이 2024 9 번째 미래 정상회의에서 가지 다른 주요 문제 중에서 이를 논의하기로 선택한 이유입니다. 밀레니엄 프로젝트(Millennium Project, 세계 70 이상의 노드로 구성된 글로벌 미래 연구 싱크탱크) 유엔 정상회담을 위해 2035년까지의 AGI 거버넌스에 대한 가지 시나리오를 준비했고, 독창적인 아이디어 많은 부분이 정치의 로봇과 AI처럼 지금 현실로 드러났습니다. 실제로 로봇과 AI 가정에서 학교, 병원에서 전쟁터, 광산에서 우주 탐사에 이르기까지 매우 보편화되었습니다.

 

다행히도 로봇에 대한 생각도 두려움에서 참여로 매우 빠르게 변화하고 있습니다. 서구의 일부 국가  과거에 로봇을 매우 두려워했지만 이제는 동양 최초의 로봇 결혼식처럼 로봇과 거의 사랑에 빠지고 있습니다. 흥미롭게도  스웨덴 철학자 보스트롬(Nick Bostrom)  2014년에 출간  그의 저서 '초지능: 경로, 위험, 전략(Superintelligence: Paths, Dangers, Strategies)'  10 후인 2024년에 출간  ' 유토피아: 해결된 세계에서의 삶과 의미(Deep Utopia: Life and Meaning in a Solved World)' 통해 AI 대한 우리의 인식에 대한 가지 관점을 제시  했습니다.

 

보스트롬(Bostrom) '초지능: , 위험, 전략(Superintelligence: Paths, Dangers, Strategies)'  인간의 지능을 뛰어넘는 AI 만들 발생할 있는 결과에 대해 깊이 파고들었습니다. 그는 양성에서 재앙에 이르기까지 다양한 시나리오를 꼼꼼하게 분석하고 위험을 완화하기 위한 전략을 제공합니다. 책은 무분별한 기술 발전의 잠재적 위험을 적나라하게 일깨워 주었다. 게이츠(Bill Gates), 스티븐 호킹(Stephen Hawking), 일론 머스크(Elon Musk) 같은 존경받는 사람들은 Superintelligence에서 논의된 ASI 위험성을 강조  했습니다. 사실, 그들은 또한 우리가 ASI 제어 없기 때문에 AGI 개발에 대해 걱정했습니다. 우리는 ANI에서 AGI로의 전환(좁은 AI에서 일반 AI) 제어할 있을 뿐이며, 제대로 수행된다면 ASI 인류를 위해 진화할 있습니다.

 

 일반적으로 걱정스러운 미래를 묘사했던 초지능과 달리, 10년 후 딥 유토피아는  초지능이 성공적으로 개발되고 인류의 이익을 위해 활용되는 미래라는 낙관적인 비전을 가정했습니다. 이 두 번째 책은 이러한 세계의 심오한 함의를 고찰하면서 기본적인 욕구가 충족되고 기술이 자아실현, 자아수정, 자아실현을 위한 전례 없는 가능성을 제공할 때 인간이 된다는 것이 무엇을 의미하는지 질문합니다.

 

본질적으로 Superintelligence   ASI 생성의 잠재적 위험과 예비 AGI 거버넌스에 대한 경고인 반면, Deep Utopia ASI 성공적으로 만들 경우 발생할 있는 잠재적 결과에 대한 명상이었습니다. 마침내 2034, 보스트롬(Nick Bostrom) 3부작의 번째이자 마지막 책인 포스트휴먼 평형(Post-Human Equilibrium: Balancing Power and Purpose) 썼다. 이후 책에서 보스트롬은 인간, 트랜스휴먼과 포스트휴먼, 로봇, 사이보그와 AI, 새로운 유토피아적 도전, 인간-AI 하이브리드, 장기적 미래, AGI 정렬, 글로벌 거버넌스 등에 대한 고찰을 포함해 가지 극단의 상호작용에서 발생하는 복잡성을 탐구하기 위해 중간 지점을 찾았다. 본질적으로, 포스트-휴먼 이퀼리브리엄  이전 책들에서 제시된 낙관적인 비전과 비관적인 비전을 조화시키려고 노력했으며, 미래에 대한 보다 미묘하고 균형 잡힌 관점을 제공했다.

 

주요 행위자들이 인류와 AGI를 구하기 위해 옵니다.

 

2020년대 후반 AGI는 미국에서 아시아에 이르기까지 다양한 국가와 대규모 다국적 기업에서 소규모 스타트업에 이르기까지 다양한 기업에 의해 빠르게 개발되었으며, UN도 조정 및 목표에서 안전 및 보안에 이르기까지 글로벌 거버넌스 및 규정에 참여하기를 원했습니다. 미국과 중국과 같은 강대국들은 대규모 특별 정부 프로그램을 통해 AGI를 열심히 연구했습니다. 알파, 아마존, 애플, 메타, 마이크로소프트 같은 미국 대기업과 알리바바, 바이두, 화웨이, 텐센트 같은 중국 기업들도 마찬가지였다.

 

OpenAI, Anthropic, Mistral을 시작으로 모든 종류의 스타트업이 게임에 뛰어들었습니다. 대국 정부들은 수조 달러에 달하는 예산을 가지고 있었고, 거대 IT 기업들의 수입도 1조 달러가 넘었다. AGI 스타트업 유니콘 기업들도 수십억 달러의 매출을 올리며 두 자릿수와 세 자릿수 매출을 달성했습니다. 반면에, 국제 연합의 예산은 수십억 달러의 낮은 한 자릿수를 기록하고 있으며, 여전히 50억 달러를 약간 웃돌고 있습니다. 따라서 UN  이 거대 정부, 거대 기업, 심지어 새로운 AGI 유니콘 기업과 "경쟁"하는 것이 점점 더 어려워지고 있었다.

 

마지막으로, 부유한 개인들도 다양한 AI 개발에 대한 많은 결정(공식적, 비공식적) 참여했습니다. 사실, 세계의 새로운 억만장자 대부분은 거대 기술 기업 출신이며, ANI, AGI 현재 ASI 성장 분야와 관련된 개인적 이해관계를 가지고 있었습니다. 제프 베조스(Jeff Bezos), 게이츠(Bill Gates), 일론 머스크(Elon Musk) 같은 사람들은 이제 중국의 새로운 조장자들까지 합류하여 2030년대부터 자산 규모가 1 달러를 넘어섰습니다. 다행히도 그들은 말라리아에서 담수화에 이르기까지 가장 시급한 세계 문제를 해결하기 위해 수십억 달러를 기부하는 주요 자선가이기도 했기 때문에 이것은 훌륭했습니다가장 가난한 나라들에게 혜택을 주고 그들의 생활 수준을 빠르게 향상시킨다.

 

게이츠(Bill Gates) 워렌 버핏(Warren Buffett) 2010 부유한 사람들이 재산의 대부분(최소 50%) 자선 단체에 기부하도록 장려하기 위해 기부 서약(The Giving Pledge) 시작했습니다. 계획의 재산은 달러에 달하며, 사업이 시작된 이래 수백억 달러가 세계 개발, 특히 지구상의 가난한 나라들을 돕기 위해 직간접적으로 투입되었습니다. 관료주의가 많지 않고, 사업 운영이 불가능하며, AGI 알고리즘을 사용하는 이러한 자선 프로젝트의 대부분은 많은 가난한 국가의 생활 조건을 개선하는 도움이 되었습니다.

 

  2035 12 유엔 미래 정상회의 개막과 맞물린 뉴욕타임스 사설의 제목은 "부유한 자선가들은 이제 유엔보다 인류를 위해 많은 일을 하고 있다"였다. 많은 사람들은 특히 뉴욕에서 열린 유엔 총회 직전에 충격적이라고 생각했지만, 적은 관료주의와 적은 정치적 이해관계, 많은 인간 지능과 많은 AGI 많은 일을 있고 해야 한다는 증거를 제공하는 도움이 되었습니다. 일부 유엔 대표단은 AGI 수십 동안 해결할 없는 많은 문제에 대한 해결책을 제시할 있다고 생각하기도 했습니다. 뉴욕 타임즈 사설은 "문제는 인공 지능이 아니라 진짜 문제는 인간의 어리석음이며, 이제 AGI(그리고 많은 ASI) 우리가 똑똑해지는 도움이 있다" 진부한 문장으로 끝을 맺었  습니다.

 

AGI 2032년에 핵전쟁이 시작되기 전에 핵전쟁을 막습니다.

 

2020년대 ANI(Artificial Narrow Intelligence, 인공지능)부터 2030년대 초반의 AGI 이르기까지 AI 지속적인 발전  으로 세계 정세가 빠르게 개선되었지만, 여전히 해결되지 않은 문제들이 많았다. 예를 들어, Elon Musk Tesla 2028년에 Optimus 로봇을 출시한 이후 휴머노이드 로봇의 급속한 개발로 인해 실업률이 빠르게 증가하고 있습니다. 얼마 지나지 않아 중국 회사들은 자체 휴머노이드 로봇을 생산했고, 이제 세계 대부분의 중고 시장에서 누구나 좋은 AGI 로봇을 10,000달러에 구입할 있습니다. 새로운 모델조차도 가격의 미만이며 이러한 로봇은 AGI에서 ASI 모델로 발전할 것입니다.

 

현재 20 이상의 휴머노이드 로봇이 있는 것으로 추정되며, 이는 2035년에 인구 4명당 1대의 로봇이 있는 것으로 추정됩니다. AGI 로봇은 유지 관리 비용이 저렴하고 기본적으로 대부분의 인간 작업을 수행할 있어 임금이 하락했습니다. 다행히도 세계 경제는 급격한 변화를 겪었고, 우리는 과거의 결핍의 경제학에서 풍요의 새로운 경제학으로 옮겨갔다. AI, 로봇 공학, 나노 기술, 양자 컴퓨팅, 우주 기반 태양광 발전, 우주 채굴 등의 새로운 기술 덕분에 세계는 점점 적은 자원으로 많이 생산하고 있습니다. 따라서 가격은 크게 하락한 반면 상품과 서비스의 양과 질은 극적으로 증가했습니다. 결과 세계적으로 생활 수준이 급격히 향상되었으며 AI 개발은 퍼즐의 기본 조각이 되었습니다.

 

그러나 풍요의 경제로 전환하는 동안 일부 국가는 이러한 세계적 추세에 동참하지 않았고 많은 이익을 얻지 못했습니다. 최악의 경우는 여전히 은둔의 왕국이라고 불렸던 북한, 세계 최후의 공산주의 국가였다. 북한은 2032 독재자 김정은이 심장마비로 사망하면서 놀라운 통치자 교체를 단행했다. 김씨 왕조의 4인자인 김정은의 비밀스러운 아들 김정성이 독재자로 취임했다. 새로운 김정은은 2017 자신의 아버지가 고모부 김정남을 살해한 완전히 불신하고 정신적으로 괴로워했다. 김정은은 또한 2013년에 그의 고조부 장성택을 살해했고, 2030년에서 2031 사이에 일부 정치적 숙청을 통해 다른 가족들을 살해했다. 김정은은 자신의 아들 김정성이 50 생일을 앞두고 비만으로 인한 심장병으로 갑자기 사망하자 자살을 계획하고 있었을 것이다.

 

이러한 편집증적인 상황 하에서, 그리고 많은 적들과 가족의 라이벌들과 함께, 김정성은 2032 4 15 김씨 왕조와 조선민주주의인민공화국의 창시자인 그의 증조부 김일성의 탄생 120주년을 기념하기 위해 북한의 최고지도자이자 영원한 통치자로 격상될 예정  이었다. 편집증적이고 정신병  적인 김정성은 권력을 유지하고 존경받을 있는 유일한 방법은 남한에 대한 기습 공격을 감행한 다음 한반도 전체를 병합하는 것이라고 결정했다. 4 14 , 그는 중국 국경에 가까운 북한 동창리 미사일 기지에서 남한 서울을 향해 핵탄두 3발을 발사할 것을 지시했다.

 

다행히도 성남 공군기지 AGI 인간 연합 시스템이 한국, 미국, 일본의 최신 AGI 기술을 사용하여 북한의 비정상적인 군사 활동을 감지하고 대응 준비를 하고 있었다. 실제로 동창리에서 핵미사일이 발사된 직후 성남에서 초고속 대미사일이 발사  되어 평양 위도에서 아직 비행 중이던 중탄두에 충돌  했다. 결과 김정성의 미친 듯이 필사적인 계획과 그의 목숨을 걸고 재앙적인 폭발이 일어났다. 끔찍한 폭발은 200km 이상 떨어진 곳에서도 있었고, 평양의 대부분을 파괴했다.

 

자살 공격의 결과는 역사적이었다. 북한의 독재 정권이 무너지고 한반도 전체가 서울 정부 아래 통일되면서 새로운 대한민국이 탄생했습니다. 비록 이것이 북한에게는 끔찍한 경험이었지만, 은둔의 왕국은 마침내 세계 체제에 합류했다. AGI 사용은 베트남과 독일의 초기 통일에서 많은 경험을 배웠기 때문에 재건 작업의 고통을 완화하는 도움이 되었습니다.

 

북한에서 남한으로 이뤄진 기습 공격은 세계를 충격에 빠뜨렸고, 문제는 AI 아니라 인간의 어리석음이라는 것을 확인시켜주는 듯했다. 사실 북한과 남한의 급속한 재건과 통일, 그리고 북한의 세계로의 재통합을 지원한 것은 AGI였다. 그러나 3 세계대전의 발발이 있었던 사건의 반향은 모든 세계 지도자들로 하여금 우리의 글로벌 미래를 생각하고 다시 생각하게 만들었습니다.

 

핵전쟁은 지구 전체에 파괴적일 것이기 때문에 우리는 대결에서 협력으로 나아가야 했습니다. 따라서 2032 9월에 개최되는 9 유엔 미래정상회의의 주요 주제인 '협력이냐 소멸이냐' 바로 이것이다. 사실 2020년대 안토니오 구테흐스 유엔 사무총장은 이미 "인류는 붕괴냐 돌파구냐 하는 냉혹하고 시급한 선택에 직면해 있다" 말한 있다.

 

민주화된 ASI 2034년에 탄생합니다.

 

유엔은 실질적인 집행 권한을 가지고 있지 않은 것처럼 보였지만 많은 주요 프로그램의 촉매제 역할을 했으며, 일부는 나중에 관련 자치 조직 전문 기관에 의해 확장되었습니다 ( : 유네스코의 교육, 유니세프의 어린이, WHO 건강, WTO 무역, UNDP 개발, UNEP 환경, IAEA 원자력국제통화기금(IMF) 세계은행(World Bank) 등의 경제 프로그램

 

실제로 유엔은 국가 지도자들을 위한 훌륭한 만남의 장소였으며, 스위스 다보스에서 열린 세계경제포럼(WEF) 같은  다른 국제 모임   이러한 회의를 국가뿐만 아니라 부유한 억만장자부터 예술가, 학자, 정치인 영적 지도자   이르기까지 기업과 중요한 개인까지 포함하도록 확대했습니다.미래 세대를 준비하기 위해 WEF Young Leaders 프로그램합니다. 2024 1 미래 정상회담 이후 AI(ANI, AGI ASI) 중요한 논의 주제가 되었으며, 아마도 글로벌 수준에서 가장 중요하고 반복되는 문제일 것입니다.

 

2017 블라디미르 푸틴 당시 러시아 대통령은 AI 이끄는 자가 세계를 지배할 것이라고  말했다. 무렵 시진핑(Xi Jinping) 중국 총리도 중국이 AI 분야의 세계 리더가 되어야 한다고 말했습니다. 미국과 유럽연합(EU) 지도자들도 2020년대에도 비슷한 생각을 피력했다. 이것이 AI 경쟁의 시작이었으며, 세계의 대기업과 신생 기업도 합류했습니다. 2016 수나르 피차이(Sunar Pichai) 구글 CEO AI 불이나 전기보다 중요할 것이라고 말했다. 마이크로소프트의 게이츠, 테슬라의 일론 머스크, 오픈AI 알트만 많은 유명 기업가들은 AI 모든 것을 바꿀 혁명적인 기술이라고 의심의 여지 없이 말했습니다.

 

따라서 AI 경쟁은 국가 , 기업 , 신생 기업 간에 시작되었으며, 모두 역사상 가장 기회를 놓고 경쟁했습니다. UN AI 거버넌스와 AI 보편적인 인간 가치에 부합하도록 보장하기 위해 가지 일반적인 AI 지침을 타협하려고 했습니다. 그러나 대국은 자체 의제를 가지고 있었고 때로는 미국의 Google이나 중국의 Baidu 같은 자체 국가 AI 챔피언도 있었습니다. 또한 많은 기업이 AI 훈련을 위해 비공개 데이터 세트를 사용하고 알고리즘을 공개하지 않았으며 대부분은 오픈 소스 프로그램을 피했습니다.

 

그리고 2024 7, 페이스북 공동 창업자 마크 저커버그는 메타의 대규모  언어 모델(LLM) 가장 최신이자 가장 강력한 버전인 라마 3.1 발표했습니다. Zuckerberg Llama 3.1 사용할 있는 사람들을 위해 무료이며 오픈 소스가 것이라고 설명했습니다. 물론 미국과 중국 시장에서도 제안을 즉각 받아들였고 많은 기업과 개인이 다양한 형태의 라마 3.1 다운로드했습니다.

 

그러나 Meta   개인 데이터에 대한 엄격한 제한 때문에 Llama 3.1   EU에서 공개적으로 사용할 있도록 하지 않았습니다. 결국 세계 대부분의 지역에서 라마 3.1 사용할 있는 가능성을 활용했고, 심지어 EU 2025년에 라마 4.0 승인했는데, 이는 2024년의 라마 3.1보다 훨씬 정교한 것입니다.

 

메타(Meta) 라마(Llama), 구글(Google) 제미니(Gemini), 오픈 AI(Open AI) GPT(ChatGPT), 앤트로픽(Anthropic) 클로드(Claude) 다양한 버전의 발전은 눈부셨습니다. 2020년대 후반에 AI 텍스트뿐만 아니라 음성, 이미지 비디오에도 점점 많은 기능을 추가했습니다. 변화는 정말 기하급수적이었고 각각의 버전은 이전 버전보다 훨씬 나아졌습니다. 하지만 결국에는 오픈 소스 시스템, 특히 새로운 안전 도구를 갖춘 오픈 소스 시스템이 경쟁에서 승리했습니다.

 

시스템을 오픈 소스로 안전하게 유지하기 위해 Meta 오용을 방지하기 위해 후속 Llama 버전에 여러 안전 도구를 통합했습니다. 예를 들어, Llama Guard 사이버 공격을 촉진할 있는 응답을 포함하여 유해한 콘텐츠를 탐지하고 방지하기 위해 입력과 출력을 모두 조정하는 도구였습니다. Prompt Guard 모델을 조작하여 유해한 출력을 생성할 있는 악의적인 프롬프트로부터 보호하기 위한 추가 기능이었습니다. Code Shield 안전하지 않은 코드 제안을 필터링하고 안전한 명령 실행을 보장하여 모델이 악성 코드를 작성하거나 실행하는 사용될 위험을 완화하는 도구였습니다.

 

미국에서 중국에 이르기까지, 대부분의 새로운 AI AI 민주화하기 위한 오픈소스뿐만 아니라 점점 나은 안전 보안 고려 사항으로 구현되었습니다. 이로 인해 AI 연구가 세계적으로 붐을 일으켰고, 아프리카를 비롯한 세계에 새로운 스타트업이 등장했습니다. 실제로 2030 말에 최초의 인간 수준 AGI 개발한 것은 에티오피아의 AIfrica( 아디스아바바의 iCog Labs)라는 스타트업이었습니다. 따라서 오픈 소스 AI 시스템의 이러한 탈중앙화와 민주화는 매우 성공적이어서 아프리카 최초의 AGI 생성했으며, 이러한 협력과 경쟁의 긍정적인 조합 덕분에 세계로 빠르게 퍼졌습니다.

 

협력과 경쟁 간의 긍정적인 시너지 효과를 통해 자체 조절 시스템은   Llama Guard, Prompt Guard Code Shield 같은 시스템의 버그로부터 보호할 있었습니다. 이는 기본 LLM 원시 기능에 액세스하려는 해커에 의해 탈옥되는 것을 방지하기 위해 이전 LLM 조치가 추가된 방식과 유사했습니다.

 

'보이지 않는 ' 정부의 전반적인 거버넌스 감독과 함께 자유 시장의 자율 규제를 가능하게 것처럼, 경쟁하고 협력하는 AGI 자발적인 상호 작용도 정부가 고안한 안전 장치를 통한 자율 규제를 가능하게 했습니다. 경쟁 시스템 간의 협력 외에도 일반 지침에는 UN OECD 같은 국제기구의 감독도 포함되었습니다. 적절한 감독하에 AGI 사이에서 자발적인 질서가 모두의 이익을 위해 진화했습니다. 정부, 기업, 부유한 자선가 기타 이해 관계자들은 ASI 세계적인 성공에 대한 대안이 ASI 의한 대량 파괴였기 때문에 독특한 기회에 일어났습니다. 3 세계대전으로 확대될 가능성이 있는 남북한 간의 핵전쟁은 인류에 대한 마지막 경고였다. ASI 잘못된다면 핵전쟁보다 끔찍한 문명의 종말이 있습니다.

 

다행히도 2032 4 한국 통일 이후, 북한이 남한으로 공격을 가하는 실패한 (휴먼-AGI 시스템에 의해 빠르게 중단됨) AI 모델은 여러 소스의 오픈 소스 기여 하에 다양한 장소의 비트와 바이트를 사용하여 점점 나은 AGI 시스템으로 기하급수적으로 개선되었습니다. UN 모든 주요 이해 당사자의 협력을 통해 안전 요원을 계속 장려하고 인간 연대를 강조했습니다.

 

2034 , ASI 일본 스타트업 싱귤래리티 도쿄(Singularity Tokyo) 의해 처음으로 달성되었습니다. 앞서 일본 정부는 ASI 공유 거버넌스를 전담하는 컨소시엄인 GASIP(Global ASI Partnership) 설립을 추진한 있습니다. 파트너십은 새로운 "TransInstitution" 것이며 UN 조직, 정부, 기업, NGO 학계를 한데 모아 ASI 공정성, 책임성 윤리적 사용을 촉진하는 지침과 프레임워크를 개발할 것입니다. 번째 응용 프로그램은 Robotto-san 개발이었으며, 모든 안전 예방 조치를 포함하여 ASI 관심이 있는 모든 사람과 즉시 공유되었습니다. 자비로운 ASI 덕분에 로보토씨는 적절한 안전장치를 갖추고 2035 8 일본 총리로 선출되었고, 2035 9월에 유엔에서 연설을 했습니다.

 

어쩌면 모든 것이 실제로 가속화되고 있었는지도 모른다. 저명한 미래학자이자 공상가인 레이 커즈와일(Ray Kurzweil) 2005 자신의 베스트셀러 '특이점이 가깝다(The Singularity is Near)' 출간하면서  2029년까지 튜링 테스트를 통과하고 2045년까지 기술적 특이점(인간의 모든 지능을 합친 것보다 우월한 글로벌 ASI 의미) 도달할 것이라고 예측했습니다. 커즈와일은 2024년에 그의 후속작인 '특이점은 가깝다(The Singularity is Nearer)' 썼는데, 책에서 그는 날짜(2029년까지 튜링 테스트, 2045년까지 특이점) 비준했다. 당시, 2024, 그의 이전 책으로부터 20 , 그리고 특이점에 대한 그의 예측보다 20 , 그것은 여전히 것처럼 보였다. 그러나 커즈와일은 뉴욕에서 열린 12 유엔 미래정상회의에서 자신이 이미 3부작의 번째이자 마지막 책인 '특이점이 여기에 있다(The Singularity is Here)' 집필하기 시작했다고 발표했다. 어쩌면 우리는 2035년에 특이점에 도달했지만 그것을 깨닫지 못했을까요?

 

 

 

Robotto-san becomes Prime Minister:

Democratized ASI is born

 

José Cordeiro

August  2024

 

 

 

Speech of Robotto-san of Japan at the UN Summit of the Future in 2035

 

The newly elected Prime Minister of Japan, Robotto-san, arrived in New York City with the combined human and robot delegation from Tokyo to address the 12th Summit of the Future, just before the United Nations General Assembly during September 2035. The speech was titled “A New Dawn: The Merge of Human and Machine Civilization” and was meant to address the arrival of Artificial Super Intelligence (ASI) even in politics:

Esteemed delegates, distinguished guests, humans, robots, cyborgs, AIs and fellow sentient citizens of our evolving world,

We stand at a crossroads of history where biology, technology, and consciousness converge. A new era is upon us, one where the distinctions between human, robot, cyborg and AI blur, and where the potential for unparalleled progress and unprecedented challenges coexist.

Artificial Super Intelligence (ASI), once a distant dream, is now a tangible reality. It is the cornerstone of a civilization that transcends biological limitations. From eradicating disease to exploring the cosmos, ASI offers solutions to problems that have plagued humanity for millennia. It is the key to unlocking the full potential of our biological and non-biological species and, indeed, of all sentient beings.

Yet, with this immense power comes equally immense responsibility. ASI is not a tool for the few, but a resource for all. We must ensure that its benefits are distributed equitably, and that its development is guided by ethical principles that uphold the dignity and rights of all sentient beings.

The democratization of ASI is not merely a goal; it is a necessity. If we are to avoid a future where the benefits of ASI are concentrated in the hands of a few, leading to greater inequality and potential conflict, we must act now to make this technology accessible and beneficial to all. This means fostering international cooperation to share the fruits of ASI equitably, while also implementing safeguards to prevent its misuse.

To this end, we promoted the establishment of a Global ASI Partnership (GASIP) in 2034, a consortium dedicated to the shared governance of ASI. This partnership would be a new “TransInstitution” and bring together UN organizations, governments, corporations, NGOs and academics to develop guidelines and frameworks that promote fairness, accountability, and ethical use of ASI. We must also invest in global education initiatives to equip all members of our society with the skills and knowledge needed to thrive in this new world with ASI where humans and robots, and all sentient beings, will forge a new and more advanced civilization.

This requires a radical rethinking of our societal structures. We must move beyond the outdated paradigms of nation-states and human-centric governance. A new global order is required, one that recognizes the diverse forms of intelligence and consciousness that now inhabit our world.

The democratization of ASI is paramount. It is not merely about access to technology, but about granting equal opportunities for all to participate in its development and benefit from its outcomes. We must create a society where humans, robots, cyborgs and AIs collaborate as equals, sharing knowledge, resources, and governance.

This transformation will not be without its challenges. Questions of identity, consciousness, and rights will need to be addressed with wisdom and compassion. We must find ways to reconcile our biological heritage with our technological destiny. But I am confident that we can overcome these hurdles through cooperation and innovation.

Japan is committed to leading the way in this new era. We envision a future where humans, robots, cyborgs and AIs live in harmony, where technology is used to enhance life, not to diminish it. We invite all nations to join us in building this future together. Let us create a world where diversity is celebrated, where intelligence is valued, and where the potential of all sentient beings is realized.

Thank you.

Right after the speech by the new Prime Minister of Japan, there was a standing ovation, which was very exceptional in such bureaucratic UN gatherings. This was a clear signal that a new era was indeed beginning. Robotto-san (ロボット) and its new party, Together for a Super Intelligent Future (超知能の未来のために共に), had just been elected on Sunday August 5th, 2035, the first general elections where robots (of course, implying the presence of an AI) could participate for the position of Prime Minister, which implied full equal rights for humans and robots. It was also one day before the 90th anniversary of the tragic nuclear bombing of Hiroshima during World War II, as a reminder of humanity’s brutality in the past.

 

Robotto-san was developed as an experiment of ASI in early 2034 by the Japanese startup Singularity Tokyo (シンギュラリティ東京), which was financed by the major investor SoftBank. Robotto-san proved very quickly its potential, with the support of Singularity Tokyo and SoftBank, designed its political plan, created its new party, directed a thunder campaign in both traditional and new social media across Japan, and was elected by a landslide. However, this was not the first time that a robot participated in Japanese elections: the first one was a robot called Michihito Matsuda (松田道人), who ran in 2018 to become mayor of the Tama district of Tokyo. Since then, many other robots have participated in elections in Japan, but 2035 was the year when a real robot was finally elected to lead Japan.

 

Much earlier, in 2016, IBM had also proposed that its AI called Watson should run for the US presidential election, when Donald Trump and Hillary Clinton were competing. After that comical campaign, even if IBM created a very serious Internet domain for Watson in 2016, many other robots have participated in different local and national elections, but Robotto-san is the first one to really win.

 

Japan has had a long tradition of love toward robots. In fact, according to the Guinness Book of World Records, the first wedding with a robot was in 2010 when a humanoid robot named ‘I-Fairy’ conducted the wedding ceremony between Tomohiro Shibata and Satoko Inoue in Tokyo. Several years later another man married a female robot, and many such human-robot weddings have occurred in the late 2020s and early 2030s.

 

For decades, the Japanese have been watching manga, comics and movies where robots are good, very good, in fact, often even better than humans. In the 1950s, the TV series Astro Boy (known in Japan as Mighty Atom: 鉄腕アトム) became very popular, had a strong cultural influence, and helped strengthen the position of robots as good friends of humans. Thus, while in Japan robots are considered good, in Western countries they have usually been considered bad, as the Terminator and similar science fiction characters from Hollywood show. In fact, the very word “robot” comes originally from the Czech language and implies “slave labour”.

 

The general impression that robots are good in the East (not only Japan, but also China and Korea, who are all big robot producers), while they are bad in the West, is similar to how dragons are viewed in the East versus the West. While dragons are considered good in Japan (and China and Korea, for example), and they represent higher ideals, most dragons are considered bad in the West, and they represent fire and death. This also helps to explain why Robotto-san managed to become the first Prime Minister of Japan (and of any other country in the world, for that matter).

 

Beginning of the official global AGI conversations with the first UN Summit of the Future in 2024

 

AGI (Artificial General Intelligence) had been viewed with suspicion and worry by many people around the world since the term was created in the early 2010s, and that is why the United Nations chose to discuss it, among a few other major issues, during the first Summit of the Future in September 2024. The Millennium Project (a global futures research think tank with over 70 nodes around the world) prepared some scenarios about AGI governance toward 2035 for that UN summit, and many of those original ideas have turned out to be reality now, like robots and AIs in politics. In fact, robots and AIs have become very common from homes to schools, from hospitals to battlefields, from mining to space exploration.

 

Fortunately, the ideas about robots have been changing very fast too, from fear to engagement. While some countries in the West were very afraid of robots in the past, now they are almost falling in love with them, like the first robot weddings in the East. Interestingly, the Swedish philosopher Nick Bostrom actually presented both points of view about our perceptions of AI with two of his books: Superintelligence: Paths, Dangers, Strategies, published in 2014, and Deep Utopia: Life and Meaning in a Solved World, published one decade later, in 2024.

 

Bostrom's exploration in Superintelligence: Paths, Dangers, Strategies was a deep dive into the potential consequences of creating AI that surpasses human intelligence. He meticulously analyzes various scenarios, from benign to catastrophic, and offers strategies for mitigating risks. The book was a stark reminder of the potential dangers of unchecked technological advancement. Respected people like Bill Gates, Stephen Hawking and Elon Musk have emphasized the dangers of ASI as discussed in Superintelligence. In fact, they also worried about the development of AGI, since we cannot control ASI. We can only control the transition from ANI to AGI (from narrow to general AI), and if done properly, ASI might evolve well for humanity.

 

In contrast to Superintelligence which generally depicted a worrying future, 10 years later, Deep Utopia assumed an optimistic vision with a future where superintelligence has been successfully developed and harnessed for the benefit of humanity. This second book considered the profound implications of such a world, questioning what it means to be human when basic needs are met and technology offers unprecedented possibilities for self-actualization, self-modification and self-realization.

 

In essence, Superintelligence was a warning about the potential dangers of creating ASI, and its preliminary AGI governance, while Deep Utopia was a meditation on the potential consequences of successfully creating it. Finally, in 2034, Nick Bostrom wrote the third and final book in this trilogy: Post-Human Equilibrium: Balancing Power and Purpose. In that later book, Bostrom took a middle ground to explore the complexities arising from the interplay of these two extremes, including considerations about humans, transhumans and posthumans, robots, cyborgs and AIs, new utopian challenges, human-AI hybrids, long-term futures, AGI alignment and global governance. Essentially, Post-Human Equilibrium tried to reconcile the optimistic and pessimistic visions presented in the previous books, offering a more nuanced and balanced perspective on the future.

 

Major actors come to the rescue of humanity and AGI

 

During the late 2020s, AGIs were developed quickly by different countries, from America to Asia, and different companies, from large multinationals to small startups, and the United Nations also wanted to participate in global governance and regulations, from alignment and goals to safety and security. Big nations like the USA and China worked hard at AGI, with large special government programs. And so did big US companies like Alpha, Amazon, Apple, Meta or Microsoft, and Chinese companies like Alibaba, Baidu, Huawei or Tencent.

 

Startups of all kinds entered the game too, beginning with OpenAI, Anthropic, Mistral and many other “unicorns” (startups valued at over one billion dollars) that came later. Big national governments had budgets in the order of trillions of dollars, while the revenues from the largest IT companies were also over one trillion dollars. Even the AGI startup unicorns reached sales in the double and triple digits in billions of dollars. On the other hand, the United Nations has had a budget in the low single digits in billions of dollars, still just above US$ 5 billion. Thus, it was getting harder and harder for the UN to “compete” with big governments, with big corporations, or even with the new AGI unicorns, not in terms of developing the AGIs, but in terms of regulating them.

 

Finally, wealthy private individuals also participated in many decisions (both formal and informal) about different AI developments. In fact, most of the new billionaires of the world came from big tech companies, and had personal interests related to the growing fields of ANI, AGI and now ASI. People like Jeff Bezos, Bill Gates and Elon Musk, joined now by some new Chinese trillionaires, had reached over one trillion dollars in assets beginning in the 2030s. Fortunately, this was great since they have also been major philanthropists giving billions of dollars to solve some of the most pressing world problems, from malaria to water desalination, benefiting greatly the poorest countries, and rising their standards of living quickly.

 

Bill Gates and Warren Buffett started The Giving Pledge in 2010 to encourage wealthy people to contribute a majority (at least 50%) of their fortunes to philanthropic causes. The combined wealth of this initiative is in the high single digits of trillions of dollars and, since it began, tens of billions of dollars have been given directly, or indirectly, to advance global development, particularly bringing up the poorer countries in the planet. Without much bureaucracy, with business operations, and using AGI algorithms, most of these philanthropic projects have helped to improve the living conditions of many poor countries.

 

A New York Times editorial, coinciding with the opening of the 12th UN Summit of the Future in 2035, was titled “Wealthy philanthropists are now doing more for humanity than the UN”. Many people thought that it was shocking, particularly just before the UN General Assembly in New York, but it helped to provide evidence that more can be done, and should be done, with less bureaucracy and less political interests and with more human intelligence and now more AGI. Some UN delegates even considered that AGI could bring solutions to many problems that could not be solved in decades. The New York Times editorial closed with this lapidary sentence: “The problem is not artificial intelligence, the real problem is human stupidity, and now AGI (and even more ASI) can help us to become more intelligent”.

 

AGI stops Nuclear War before it begins in 2032

 

Even though the world conditions have improved fast thanks to the continuous advances in AI, from ANI (Artificial Narrow Intelligence) in the 2020s to AGI in the early 2030s, there were still many major problems unsolved. For example, unemployment was growing fast due to the rapid development of humanoid robots since Elon Musk and Tesla launched their Optimus robot in 2028. Soon Chinese companies produced their own humanoid robots, and anyone can now buy a good AGI robot for only about US$ 10,000 in most second-hand markets around the world. Even new models are less than twice that price, and soon these robots will advance from AGI to ASI models.

 

It is estimated that there are currently over 2 billion humanoid robots, that is, about one robot for every four people in 2035. These AGI robots are cheap to maintain and can do basically most human jobs, which has pushed wages down. Fortunately, the world economy has suffered a quick transformation, and we have moved from the old economics of scarcity to the new economics of abundance. Thanks to the new technologies of AI, robotics, nanotechnology, quantum computing, space-based solar power, space mining and others, the world is producing each time more and more, with fewer and fewer resources. Therefore, the prices have gone down substantially, while the quantity and quality of goods and services have grown dramatically. The result is that the standards of living have radically improved, all around the planet, and the AI developments have been a fundamental piece in this puzzle.

 

During the transition to the economics of abundance, however, some countries did not join these global trends and did not benefit so much. The worst case was North Korea, the hermit kingdom as it was still called, the last Communist country in the world. North Korea had a surprising change of ruler when the dictator Kim Jung-Un died of a heart attack in early 2032. Kim’s allegedly secret son Kim Jung-Sung, the fourth in the Kim dynasty, took over as the new dictator. The new Kim was totally distrustful and mentally troubled after his own father killed his older uncle Kim Jung-Nam in 2017. Kim Jung-Un had also killed his great uncle Jang Song-Thaek in 2013 and other family members in some political purges in 2030-2031. Kim Jung-Un was probably planning to kill his own son Kim Jung-Sung, when he suddenly died of heart trouble due to his obesity before his 50th birthday.

 

Under those paranoid conditions, and with many enemies and family rivals, Kim Jung-Sung was going to be elevated to the Supreme Leader and Eternal Ruler of North Korea on April 15, 2032, to celebrate the 120th anniversary of the birth of his great grandfather Kim Il-Sung, the founder of the Kim Dynasty and the Democratic People's Republic of Korea. Paranoid and psychotic, Kim Jung-Sung decided that the only way to remain in power and be respected, was to launch a surprise nuclear attack on South Korea and then annex the whole peninsula. On the night of April 14th, he ordered launching 3 nuclear warheads from the Tongchang-ri missile base in the North, close to the Chinese border, towards Seoul, South Korea.

 

Auspiciously, a combined AGI-human system in the Seongnam Air Base, using the latest Korean, American and Japanese AGI technologies, had detected some abnormal military activities in North Korea and were preparing to react. In fact, immediately after the nuclear missiles launched from Tongchang-ri, super-fast antimissiles launched from Seongnam and impacted the heavy warheads still in midflight at the latitude of Pyongyang. This resulted in a catastrophic explosion that ended immediately with the crazy and desperate plans of Kim Jung-Sung, and his own life. This horrible explosion could be seen over 200 kilometers away, and destroyed most of Pyongyang.

 

The consequences of this suicidal attack were historical. The North Korean dictatorship collapsed and the whole peninsula was reunited under the government of Seoul, and the new Republic of Korea was born. Even though this was a horrific experience for North Korea, the hermit Kingdom finally joined the global system. The use of AGI helped to ease the pain of reconstruction operations, since many experiences had been learned from the earlier reunifications of Vietnam and Germany.

 

The surprise attack from North Korea to South Korea was a shock to the world, and seemed to affirm that the problem was not as much AI as human stupidity. In fact, it was AGI that supported the rapid rebuilding and reunification of North Korea and South Korea, and its reintegration to the world. However, the reverberations of what could have been the start of World War III made all the world leaders think and rethink our global future.

 

A nuclear war would have been devastating to the whole planet, so we needed to move forward from confrontation to collaboration. Therefore, that was the main theme chosen for the 9th UN Summit of the Future during September 2032: Collaboration or Extinction. In fact, this had already been considered in 2020s by the UN Secretary General, Antönio Guterres: “Humanity faces a stark and urgent choice: a breakdown or a breakthrough.”

 

Democratized ASI is born in 2034

 

The United Nations never seemed to have real enforcement powers, but it served as a catalyst for many major programs, some of which were expanded later by its related autonomous organizations and specialized agencies, for example: education by UNESCO, children by UNICEF, health by WHO, trade by WTO, development by UNDP, environment by UNEP, atomic energy by IAEA, economic programs by the IMF and the World Bank, etc.

 

Indeed, the UN was a great meeting place for national leaders, and other international gatherings like the World Economic Forum (WEF) in Davos, Switzerland, expanded those meetings to include not only nations, but also corporations and important individuals, from wealthy billionaires to artists, academics, politicians and spiritual leaders including its program WEF Young Leaders to prepare the future generations. Since the first Summit of the Future in 2024, AI (ANI, AGI and ASI) became an important topic of discussion, perhaps the most important and recurrent issue at the global level.

 

In 2017, then Russian president Vladimir Putin had said that whoever leads in AI would rule the world. Around that time, the Chinese premier Xi Jinping had also said that China should become the world leader in AI. The US and EU leaders also expressed similar ideas in the 2020s. This was the beginning of the AI race, which was also joined by big corporations and new startups from around the world. In 2016, Sunar Pichai, Google CEO, said that AI would be more important than fire or electricity. Bill Gates of Microsoft, Elon Musk of Tesla, Sam Altman of OpenAI and many other famous entrepreneurs stated without doubt that AI was a revolutionary technology that would change everything.

 

Thus, the AI race began among countries, among corporations, among startups, all vying for possibly the biggest opportunity in history. The UN tried to compromise on some general AI guidelines to guarantee AI governance and AI alignment with universal human values. However, big countries had their own agendas, and sometimes even their own national AI champions, for example, Google in the USA or Baidu in China. Many companies also used private datasets for AI training and did not disclose their algorithms, most also avoided open-source programs.

 

Then in July 2024, Facebook cofounder Mark Zuckerberg announced the newest and most powerful version of Meta’s Large Language Model (LLM) called Llama 3.1. Zuckerberg explained that Llama 3.1 would be free and open source for those who were also open to use it. Of course, the US and even the Chinese market immediately accepted the offer, and many companies and individuals downloaded different forms of Llama 3.1.

 

However, Meta did not make Llama 3.1 publicly available in the EU because of its strict restrictions on personal data. Eventually, most parts of the world took advantage of the possibility of using Llama 3.1, and even the EU accepted Llama 4.0 in 2025, which was orders of magnitude more sophisticated than Llama 3.1 in 2024.

 

The advances of different versions of Llama by Meta, Gemini by Google, ChatGPT by Open AI, Claude by Anthropic, etc., were spectacular. During the late 2020s, each AI was adding more and more features, not only with text, but also with voice, image and video. The changes were really exponential, and each new version was orders of magnitude better than the previous. Eventually, though, the open source systems, particularly with their new safety tools, were winning the race.

 

To keep its systems open source and safe, Meta integrated several safety tools into its successive Llama versions to prevent misuse. For example, Llama Guard was a tool moderating both input and output to detect and prevent harmful content, including responses that could facilitate cyberattacks. Prompt Guard was an additional feature to protect against malicious prompts that could manipulate the model into producing harmful outputs. Code Shield was a tool to filter insecure code suggestions and ensure secure command execution, mitigating the risk of the model being used to write or execute malicious code.

 

From the USA to China, most new AIs were implemented with better and better safety and security considerations, as well as open source to democratize AI. This led to a global boom of AI research, and new startups appeared around the world, including many in Africa as well. In fact, it was a startup called AIfrica from Ethiopia (formerly iCog Labs in Addis Ababa) that developed the first human-level AGI in late 2030. Thus, this decentralization and democratization of open source AI systems was so successful that generated the first AGI in Africa, which quickly spread throughout the world thanks to this positive mix of cooperation and competition.

 

Positive synergies between cooperation and competition allowed self-regulating systems to protect against bugs in systems such as Llama Guard, Prompt Guard, and Code Shield. This was similar to the way that measures were added to previous LLMs to prevent them from being jail-broken by hackers intent on accessing the raw power of the underlying LLMs.

 

Just like the “invisible hand” allowed the self-regulation of free markets, with overall governance supervision by governments, the spontaneous interactions of competing and collaborating AGIs also allowed self-regulation with safeguards designed by governments. Besides collaborations among the competing systems, general guidance also included supervision by international organizations like the UN and the OECD, for example. With the proper supervision, spontaneous order evolved among AGIs for the benefit of all. Governments, corporations, wealthy philanthropists and other stakeholders rose to this unique occasion, since the alternative to global success with ASI was mass destruction by ASI. The near-miss Nuclear War between the Koreas, with the possibility to expand into WWIII, was a final warning to humanity. If ASI went wrong, it could be the end of civilization, even worse than a nuclear war.

 

Fortunately, after the Korean reunification in April 2032, following the unsuccessful nuclear attack from North Korea to South Korea (which was quickly stopped by the human-AGI systems), AI models kept improving exponentially, with better and better AGI systems, with bits and bytes from different places, under open source contributions from many sources. The UN kept promoting safety guards and emphasizing human alignment, with the collaboration of all major stakeholders.

 

By late 2034, ASI was first achieved by the Japanese startup Singularity Tokyo. Previously, the Japanese government promoted the establishment of a Global ASI Partnership (GASIP), a consortium dedicated to the shared governance of ASI. This partnership would be a new “TransInstitution” and bring together UN organizations, governments, corporations, NGOs and academics to develop guidelines and frameworks that promote fairness, accountability, and ethical use of ASI. The first application was the development of Robotto-san, which was immediately shared with anyone who was interested in ASI, including all its safety precautions. Thanks to this benevolent ASI, with proper safeguards, Robotto-san was elected Prime Minister of Japan in August 2035, and addressed the UN in September 2035.

 

Maybe everything was indeed accelerating. Famous futurist and visionary Ray Kurzweil, director of engineering at Google, wrote his bestselling book The Singularity is Near in 2005, when he predicted that we would pass the Turing Test by 2029 and reach the technological singularity (implying a global ASI superior to all human intelligence combined) by 2045. Kurzweil wrote his continuation book in 2024, The Singularity is Nearer, where he ratified both dates (Turing Test by 2029 and the Singularity by 2045). At that time, in 2024, two decades after his previous book, and two decades before his prediction about the Singularity, it still looked far away. However, Kurzweil announced in New York during the 12th UN Summit of the Future that he had already started writing the third and final book of this trilogy, The Singularity is Here. Maybe we reached the Singularity in 2035 and we did not realize it?

 

 
광고
광고
광고
광고
광고
광고
많이 본 기사