제롬 글렌의 UNCPGA 참석, 발제 내용

 

 

방한목적

 

제롬 글렌 박사가 방한하는 목적은 한승수 전국무총리가 주최하는 10월 30일 롯데호텔에서 개최되는 유엔총회의장협의회 (UNCPGA)에 참석하는 전 유엔총회의장단에게 왜 인공지능의 관리가 시급한지, 그 방안으로 UN IAIA를 설립해야 하는 이유를 설명하기 위함이다.

 유엔총회의장협의회는 전현직 유엔 총회의장들로 구성된 협의체로, ▴주요 유엔 기구와의 협력 촉진 ▴전직 총회 의장 간 소통 강화 ▴유엔의 평화·안보·개발 활동 지원 등을 목적으로 1997.11월 출범하였다. 한승수 전 국무총리(제56차 유엔 총회의장)는 2022.10월 3년 임기의 유엔총회의장협의회 의장으로 당선된 바 있다.

 

엄청난 속도로 발전하는 인공지능에 대해 이제는 글로벌관리가 필요함을 누구나 느끼고 있다. 특히 오픈AI의 샘 알트만은 유엔의 IAEA와 비슷한 AI감독을 위한 국제기구를 만들자로 제안하였다. 알트만은 AI의 이점을 확산하고 개방형 접근성을 유지하기위해 미국이 주도로하는 글로벌연합이 시급하다고 강조하였고, 강력한 보안대책, 인프라 투자, 일관된 무역 외교등을 위한 글로벌 AI러버너스 모델을 제시하기도 했다. 권위주의 정권이나 개인이 AI기술을 장악할는 노력에 대응하는 동시에 AI개발에서 미국이 선두를 유지하자고 주장하였다.

 

 

UN IAIA설립을 위한 조치, 결의안 등 준비

 

 새로운 UN 기관 설립을 위한 타당성 조사를 시작하려면 다음과 같은 과정을 거친다:

1. UN 총회와 같은 주요 UN 기구 중 하나로부터 승인을 받아야 한다. 총회는 결의안을 통해 타당성 조사를 승인할 수 있다.
2. 따라서 한국은 UN총회결의안을 제안하고, 다른 국가들의 지지를 얻어 결의안을 통과시키며, 타당성 조사비용을 지원할 의사를 표명해야 한다.
3. 타당성 조사는 한국 정부가 직접 수행하는 것이 아니라, UN이 임명한 독립 전문가나 컨설턴트, 또는 관련 전문성을 가진 기존 UN 기구나 기관이 수행한다.
4. 전문가 선정은 UN 총회가 담당하며, UN 총회 의장실과 UN 사무총장실의 자문을 받을 수 있다. 또한 현재 AI 관련 주요 UN 기관인 ITU와 UNESCO도 참여할 수 있고 한국기관도 참여 가능하다.
5. 전문가 선정 위원회가 타당성 조사팀을 선정한다. 공개 모집을 통해 지원서를 받고 위원회가 검토 후 추천한다. 이 위원회는 보통 관련 UN부서대표들과 회원국 대표들로 구성되며, 한국도 참여할 수 있다.
6. 한국은 조사 범위를 정의하는 데 참여할 수 있으며, 다른 회원국 및 UN관계자들과 협력하게 된다.
7. 한국이 조사 비용 전액을 지원하겠다고 제안하면 편향성이나 부당한 영향력 행사에 대한 우려가 제기될 수 있어서 부분적인 자금 지원을 제안하거나 관심 있는 회원국들의 공동 자금 지원을 장려하는 것이 더 외교적인 접근 방식일 수 있다. 이 모든 과정은 한국 외교부 장관과 협의하여 진행해야 한다.

제롬글렌의 밀레니엄 프로젝트란?

 

밀레니엄프로젝트(제롬 글렌 CEO)는 이미 4년 전부터 UN IAIA 설립을 제안하였고, 글렌은 이미 AI 감독 관리기구의 필요성에 대한 연구서를 2편 발표하였다. 3편은 이런 기구를 만들지 않을 경우 전 세계는 어떤 고통을 겪게 되는지 '미래예측 시나리오'를 써 놓았다. 그러면서 미국이 아닌 중립위치의 한국에서 주도하는 UN IAIA 설립을 위한 타당성조사팀을 한승수의장과 구윤철전국무조정실장, 박영숙 유엔미래포럼대표 등과 논의 중이다.

제롬 글렌은 세계적으로 유명한 미래학자로 밀레니엄 프로젝트를 운영하면서 매년 한국에서는 박영숙교수와 함께 [세계미래보고서]를 출판한다. 다양한 글로벌포럼에서 기조연설자로 '미래사회변화와 부상기술'에 대해 강연한다.  밀레니엄 프로젝트는 1996년 유엔대학을 위한 미국협의회산하에 설립된 글로벌 미래예측 싱크탱크로 설립, 2009년에 독립적인 비영리단체가 되었고, 현재 전세계 77개 국가대표단을 보유하며 한국에서는 유엔미래포럼대표 박영숙교수가 대표를 맡고있다.  

밀레니엄 프로젝트 목적은 더 나은 미래를 건설하기위한 인류의 전망을 개선; 사명은 미래에 대한 예측이나 사고방식을 개선하고, 전 세계지부로부터 미래를 위한 더 나은 결정을 내리기 위해 지혜를 축적한다. 비전은 정보, 소프트웨어로 구성된 글로벌 포사이트 네트워크로, 인류의 전망을 개선하는 능력으로 인정받는 글로벌 집단 지능 시스템을 구축한다. 정부, 이슈, 이념을 대신하는 것이 아니라 우리 모두를 위한 더 나은 미래를 구축하기 위한 싱크탱크로 존재한다.

 

한승수총리가 회장으로 만든 유엔총회의장협의회 30일 2시부터 제롬 글렌 등 발제

 

October 30 (Wednesday)

 

Visit to the DMZ (10:30-11:30, Joint Security Area) 09:00 Gathering at the Lottel Hotel Lobby 09:10 Departure from the Lottel Hotel

10:30 Arrival at the Joint Security Area (JSA)

10:30-11:30 Visit to the Demilitarized Zone (DMZ) Luncheon (12:30-13:30, Lotte Hotel, 36th floor Asto Suite)

11:30 Departure from the JSA

12:30 Arrival at the Lottel Hotel

12:30-13:30 Luncheon (lunch box) UNCPGA Meeting (14:00-18:45, Lotte Hotel, 36th floor Asto Suite)

14:00-15:30 Panel Discussion (Artificial Intelligence) Jerome Glenn, Youngsook Park, Koo YC

15:45-17:15 Session 3 (UNCPGA Work Program and Institutional Issues)

17:30-18:30 Review of Draft Declaration

18:30-18:45 Closing Session Dinner (19:00-20:30, Nearby Restaurant (TBC))

19:00-20:00 Dinner

 

발제문 요약

 

Why UN GA leadership on global governance of the transition from today’s AI to future Artificial General Intelligence (AGI) is critical

 

Two UNGA resolutions on AI have been adopted this year. The UN Summit of the Future’s Global Digital Compact calls for international governance of artificial intelligence. The Council of Europe’s Convention on AI is open for ratification. These Resolutions, Compact, and Convention are good foundations for the next step: governing the transition from the current forms of AI to future forms of Artificial General Intelligence (AGI).

 

There are three kinds of AI: narrow, general, and super. Artificial Narrow Intelligence (ANI) including generative AI (or GenAI) is a tool with narrow focus, and is pre-trained exists today and will continue to improve over the coming years. Artificial General Intelligence (AGI) does not exist yet, but could before the end of this decade. AGI is expected to act more like an agent than a tool, and can re-write its own code as need to achieve objectives. It can create novel solutions to novel problems similar to humans (sometimes called human-level AI) and can learn moment by moment to continually get smarter and smarter.

 

Artificial Super Intelligence (ASI) sometimes called Artificial Superintelligence is expected to emerge from AGI. It will have the ability to set is own goals independent from human control. We cannot directly control how ASI emerges and acts. But we can control how AGI is created and used; and hence, have indirect control of Artificial Superintelligence.

 

There are good statements about values and ethics for AI development and use by UNESCO, OECD, ITU, and the Global Partnership on AI, and good regulations with the EU AI Act and China’s Artificial Intelligence Law. These international and national efforts address artificial narrow intelligence, not AGI. Now we have to begin to define how AGI should be created and used worldwide before it arrives.

 

Unregulated AGI systems created by several countries and many corporations could proliferate creating millions of AGI agents that interact on the Internet and everything connected to the Internet producing serious threats to humanity. Some countries and corporations are racing to be the first to create AGI and may cut corners on safety to win that race. Since many AGIs could arrive within this decade, and since it will take several years to create both national licensing systems and international coordination and governance, it is wise to begin addressing the transition to AGI now.

 

 

Some suggestions for UN Council of Presidents of the GA:

 Recommend AGI experts who understand the urgency of working on AGI governance be appointed to the Independent International Scientific Panel on AI as called for in the Global Digital Compact.

 Recommend a special GA session specifically on AGI that would stimulate Member States to review their readiness to address this issue and fucus world attention on the GA’s role in leading a global conversation on AGI cooperation.

 Such a GA session could call for a group of the willing to draft the text of a UN Convention on AI with two sections: one on ANI and one on AGI.

 Call for a feasibility study of establishing an International AI Agency

 

Governing the transition to AGI could be the most complex, difficult management problem humanity has ever faced. To which AI pioneer Stuart Russel states, “Failure to solve it before proceeding to create AGI systems would be a fatal mistake for human civilization. No entity has the right to make that mistake.”

 

사진들

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자

 

© 운영자