광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

유투브[AGI글로벌관리에 관한 설문조사 참여부탁] 유엔미래포럼본부 the Millennium Project는 유엔의 AGI 글로벌 거버넌스기구 탄생에 꼭 필요한 각국 MP 대표단및 일반 관심자들에게 델파이서비스를 요청하고 있습니다

박영숙세계미래보고서저자 | 기사입력 2023/12/27 [13:49]

유투브[AGI글로벌관리에 관한 설문조사 참여부탁] 유엔미래포럼본부 the Millennium Project는 유엔의 AGI 글로벌 거버넌스기구 탄생에 꼭 필요한 각국 MP 대표단및 일반 관심자들에게 델파이서비스를 요청하고 있습니다

박영숙세계미래보고서저자 | 입력 : 2023/12/27 [13:49]

 

유엔미래포럼본부 the Millennium Project는 유엔의 AGI 글로벌 거버넌스기구 탄생에 꼭 필요한 각국 MP 대표단및 일반 관심자들에게 델파이서비스를 요청하고 있습니다. 이 서베이에 참여해주시기 바랍니다.

Access the Real-Time Delphi study: https://realtimedelphi.net/ then use code BNW1 여기에 들어와서 자신을 등록하면되는데, 서베이 비번은 BNW1

 

많은 나라들의 UN의 AGI 글로벌관리에 관해 의견을 내고 있습니다. 한국에서 많이 참여해주시기 바랍니다. 맨 밑에는 박영숙이 서베이에 답한 내용도 올려드립니다. 한국에서 AI관리 저작권 등에 관심이 많다는 것을 꼭 알려주시기 바랍니다. 데드라인은 12월 30일까지 입니다. 4일 남았습니다. 다 답변을 못해도 마지막에 submit을 눌러야 관심자로 등록이 됩니다.

 

 

 

Recent News from The Millennium Project:
 

 
  • The Millennium Project’s Real-Time Delphi on future issues of Global Governance of Artificial General Intelligence (AGI) will be open until Dec. 31, 2023: All those studying or working on future AI and governance are invited to share their judgements on the elements necessary for safe and productive global governance of AGI. If you gave your answers already, please return to see what others have written. You are also welcome to edit and add to your statement. See: https://www.millennium-project.org/agi-global-governance-real-time-delphi-deadline-dec-31-2023/
         
  • Dubai Future Forum – Nov. 27-28, 2023: DFF was the second edition of one of the world’s largest gatherings of Futurists taking place at the Museum of the Future in Dubai. Read the mini reports of the sessions with members of The Millennium Project and watch the recordings: https://www.millennium-project.org/dubai-future-forum-nov-27-28-2023/
 
  • Beneficial AGI Summit & Unconference – Feb. 27/March 1, 2024: a new event organized by SingularityNet and TrueAGI that brings together the leading voices in AI in actions to catalyze the emergence of beneficial AGI. Jerome Glenn and José Cordeiro (MP Board and RIBER and Venezuela Nodes Chair) are members of the organizing committee of the event and David Wood (UK Node Co-Chair) will be also speaker for the event. Read more: https://www.millennium-project.org/beneficial-agi-summit-unconference-feb-27-march-1-2024/
     
  • 2023 in reviewJerome Glenn prepared his annual 2023 year in review, a list of some of the most important events and news of 2023. Read the list at https://www.millennium-project.org/2023-year-in-review/ and compare with previous years.
 
Recent News - The Millennium Project Nodes
       
  • Asanga Abeyagoonasekera (SAFN and Sri-Lanka Nodes Chair) met Counselor and Deputy Chief of Mission of Cambodia, Socheat Oum, in Washington DC, discussing on regional geopolitics and the challenges faced by Cambodia. The Millennium Project 2050 Work Tech report was also illustrated. Watch the picture: https://www.facebook.com/photo/?fbid=10161004989478859&set=a.389449943858
     
New in Press
 
  • PublicationLiberal.gr, "Τεχνητή ΝοημοσύνηΓιατί δεν είναι αρκετό ένα ευρωπαϊκό ρυθμιστικό πλαίσιο" (a.t. Artificial Intelligence: Why a European regulatory framework is not enough) by Epaminondas Christophilopoulos (Greece Node Chair), with references to a Global Technology Observatory proposed by The Millennium Project.
   
  • Publicationdreamsanddiruptions.com, "Dreams and Disruptions launched at the Dubai Future Forum 2023" by Shermon Cruz, Philippines Node and APF Chair, with pictures of The Millennium Project Planning Committee Meeting in Dubai.
     
  • Publication: 2baheadStrategic Foresight 2034, including an interview to Shermon Cruz (Philippines and APF Chair) on the democratization of strategic foresight.
 
  • Interview: bta.bg, "Ние сме тезикоито започваме да се нагаждаме към изкуствения интелект, а не той към нас, каза футурологът доц. Мариана Тодорова" (a.t. We are the ones who are starting to adapt to Artificial Intelligence, not it to us), interview to Mariana Todorova, (Bulgaria Node Chair) on AI.
 
  • Video interview: IFTF Foresight Talk - Dreams and Disruptions: Gamification for the Future with Shermon Cruz (Philippines Node and APF Chair).
 
  • Video Interview: IFTF Foresight Talk, "Innovating Global Social Enterprise through Foresight" video interview to Ibon Zugasti (Deputy Director and Spain Node Chair).
   
  • PressLa Nacion, "La Global Futures Society de Dubái, la mayor red mundial de futurólogos, crece en el Foro del Futuro de Dubái con la adhesión de 36 nuevas instituciones" with references to the Global Future Society co-funded by The Millennium Project.
 
  • PressAlternative Planetary Futures Institute, “Securing Our Future: Addressing AGI Governance and Security Threats on a Planetary Scale”, with references to The Millennium Project' study on AGI and speeches by Jerome Glenn.
 
  • Press: Los Andes, "Si quieres la paz, prepárate para la guerra: Un error gravísimo, repetido por más de 17 siglos" by Miguel Gutierrez (Argentina Node Co-Chair), with references to The Millennium Project' Middle East Peace Scenarios.
 
Reminder:
 
 
Stay up to date: 
 
 
Happy Holidays,
Mara Di Berardo, PhD
MP Communications Director and Italy Node Co-Chair

 
 

The Millennium Project is a global participatory think tank founded in 1996 under the American Council for the United Nations University. It became an independent NGO in 2009 and has grown to 71 Nodes around the world, produced 58 global futures research studies (most recent is Work/Technology 2050: Scenarios and Actions), published 19 State of the Future reports, produced Futures Research Methodologies 3.0and has supervised over 400 Tele-Interns and in-person Interns in Washington, DC

   

 

 

Millennium Project의 인공 일반 지능
연구 2단계

AGI의 글로벌 거버넌스 요구 사항

 

아래 양식에 질문에 답해주세요. 돌아올 때 재참가자로 입력하고 이메일 주소: Unfutures@gmail.com 및 이 연구 코드: BNW1을 사용하십시오. 본 연구는 2023년 12월 31일에 종료될 예정입니다.

 

 

바이패스 소개

밀레니엄 프로젝트의 AGI 거버넌스 연구 1단계에서 미국, 중국, EU, 러시아, 영국의 AGI 리더 55명이 22개 질문에 대한 견해를 60페이지 보고서 로 정리했습니다 . 이 보고서를 분석하여 다음과 같은 실시간 델파이 설문지의 질문을 작성했습니다. 모든 질문에 답할 필요는 없으며, 원하는 질문에만 답하시면 됩니다. 귀하는 이 설문지를 여러 번 방문하여 다른 사람들이 작성한 내용을 확인하고 위에 언급된 마감일까지 원하는 만큼 자주 답변을 편집하라는 요청을 받습니다. 

 

이 실시간 델파이 설문지는 신뢰할 수 있는 UN AGI 거버넌스 기관에 필요할 수 있는 기능에 대한 귀하의 판단을 수집하는 반면, 두 번째 실시간 델파이 설문지는 몇 가지 짧은 시나리오 또는 삽화를 통해 거버넌스 모델을 테스트합니다.  

 

이 실시간 Delphi 설문지의 결과와 거버넌스 모델 및 삽화에 대한 후속 설문조사 결과는 대체 AGI 거버넌스 시나리오를 작성하는 데 도움이 될 것입니다. 이 내용은 밀레니엄 프로젝트의 전 세계 70개 노드의 도움으로 번역 및 출판되고 회의에서 논의되며 의회와 공유되고 UN 사무총장 사무국에 전달됩니다.

 

답변을 제공하는 모든 사람은 2단계 보고서에 나열되며(귀하가 원하지 않는 한) 2단계 보고서의 사본을 받게 됩니다. 어떠한 귀속도 이루어지지 않습니다. 귀하의 이름을 답변 텍스트와 함께 넣지 않는 한 귀하의 이름은 어떤 답변에도 연결되지 않습니다. 

 

이 실시간 델파이를 사용하면 각 항목에 대한 평균 평가, 해당 항목에 대한 지금까지의 응답 수, 열 끝 부분에서 해당 항목에 대한 댓글 텍스트, 설명을 볼 수 있습니다.

 

자신의 판단을 내릴 때 다른 사람들의 말을 고려할 수도 있습니다. 원하는 질문은 생략할 수 있으며, 한 번의 방문으로 답변을 완료할 필요는 없습니다. 귀하는 최초 방문 시에만 귀하에 대한 정보를 제공하라는 요청을 받게 됩니다. 이 설문지를 여러 번 다시 확인하시는 것이 좋습니다. 나중에 방문하면 이전 답변을 볼 수 있으며 답변을 추가하거나 변경할 수 있습니다. 

 

어려움이 있으시면 info@millennium-project.org 로 이메일을 보내주세요. 

 

귀하의 정보가 저장되는 데이터베이스의 보안은 표준 상업 미분류 수준에 불과하다는 점을 기억하십시오.

 

 

자주 설문지로 돌아오시기 바랍니다. 돌아올 때 재참가자로 입력하고 이메일 주소: Unfutures@gmail.com 및 이 연구 코드: BNW1을 사용하십시오 .

 

                                                

모든 답변이 저장되었는지 확인하려면 설문지 끝부분에 있는 제출을 누르는 것을 잊지 마세요..

설문지

 

 

         
 
1
UN AGI 거버넌스 기관의 설계에 포함될 수 있는 몇 가지 요소는 다음과 같습니다. 1에서 10까지 평가해 주십시오.

10= 필수, 반드시 포함해야 함
5= 포함 가능함
1= 파괴적, 제외해야 함

각 열의 하단에서 귀하의 판단에 대한 추론을 공유해 주십시오.

 

 

 

 

항목이 AGI 비군사 AGI 시스템의 국가 라이센스에 대한 UN 기관의 설계 개념의 일부인지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10= 필수, 1=제외).

 

AGI에 관한 잠재적인 UN 협약을 준수해야 합니다. ( 8.0 ) ( 159 )

 

AGI 거버넌스, 인공 협소 지능 및 생성 AI를 명확하게 구분합니다. ( 7.8 ) ( 158 )

 

국가 AGI 허가 절차(신뢰 라벨) ( 7.3 ) ( 153 )

 

지속적인 실시간 감사를 위해 AGI에 내장된 소프트웨어를 통해 모든 AGI 및 국가 거버넌스 시스템에 연결됩니다. ( 6.5 ) ( 155 )

 

운영 규칙을 위반할 경우 AGI를 끌 수 있는 인간 및 자동 기능을 제공합니다. ( 8.9 ) ( 158 )

 

AGI 변화를 예측하고 적응할 만큼 민첩하다 ( 8.3 ) ( 156 )

 

운영 및 라이센스 규칙 준수를 지속적으로 모니터링하는 IPCC와 유사한 독립 시스템에 연결됩니다. ( 7.3 ) ( 155 )

 

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

항목이 AGI 비군사 AGI 시스템에 대한 UN 기관의 국가 라이센스 절차 인증의 일부인지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10=필수, 1=제외).

 

 

UN의 국가 라이센스 인증에 앞서 AGI 개발자는 초기 감사의 일부로 안전성을 입증해야 합니다. ( 8.2 ) ( 141 )

 

UNECSCO, OECD, AI에 대한 글로벌 파트너십, ISO 및 IEEE와 같은 합의된 국제 원칙, 가치, 표준과의 일치 증명. ( 7.8 ) ( 140 )

 

AI 시스템이 사회적 가치와 우선순위에 맞춰 개발되고 사용되도록 보장하기 위한 지속적인 감사 시스템을 포함하는 국가 라이선스 절차를 인증합니다. ( 7.6 ) ( 138 )

 

엄격한 보안, 방화벽, 보안 인프라 및 직원 조사. ( 8.3 ) ( 141 )

 

딥 페이크와 허위 정보의 생성 및 사용을 방지하는 방법을 보여줍니다. ( 7.9 ) ( 138 )

 

AGI 활동에 대한 국가 책임법과 UN AGI 기관의 역할이 명시되었습니다. ( 7.5 ) ( 138 )

 

사용자에게 결정을 재현할 수 있는 기능과 결정에 포함된 요소를 갖춘 비행 기록 장치처럼 AGI 사용 로그를 유지하도록 요구합니다(6.9)(139).

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

규칙이 비군사 AGI 시스템의 AGI 거버넌스에 포함되어야 하는지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10=필수, 1=제외).

 

 

 

AGI가 유틸리티 기능에서 예상되지 않은 예기치 않거나 바람직하지 않은 작업을 수행할 때 평가를 일시 중지하고 트리거하는 AGI에 내장된 감사 소프트웨어를 사용하여 실패하거나 피해를 입힌 이유와 방법을 확인합니다. (8.0) (136)

 

과거 데이터나 기록의 수정은 허용되지 않습니다. ( 8.3 ) ( 140 )

 

AGI는 승인되지 않은 사람이나 기계에 의한 작동이나 변경을 허용해서는 안 됩니다. ( 8.9 ) ( 137 )

 

인간을 조종하기 위해 잠재의식적 또는 심리적 기술을 사용하는 것을 금지합니다. ( 8.6 ) ( 137 )

 

AGI 출력에서 ​​작업이 요청되는 이유, 관련된 가정, 우선순위, 필요한 조건 및 제한 사항을 결정하는 능력. ( 7.6 ) ( 133 )

 

AGI는 결코 사람이 아닌 AI로 식별되어야 합니다. ( 8.9 ) ( 139 )

 

풍부한 자기성찰과 자비로운 능력을 가지고 있다 ( 6.5 ) ( 136 )

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

2
UN AGI 거버넌스 기관의 설계에 포함될 수 있는 몇 가지 추가 요소는 다음과 같습니다. 이전과 같이 1부터 10까지 평가하십시오. 여기서:

10= 필수, 포함해야 함
5= 포함 가능
1= 파괴적, 제외해야 함

각 열의 하단에 판단의 근거를 공유해 주십시오.

 

 

 

 

항목이 AGI 비군사 AGI 시스템의 국가 라이센스에 대한 UN 기관의 설계 개념의 일부인지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10= 필수, 1=제외).

 

중범죄자에 대한 칩 판매/배송, 전력사용 규제/차단 능력 ( 7.0 ) ( 124 )

 

모든 AGI에 UN 거버넌스 소프트웨어가 내장되어 있으며 바이러스 백신 소프트웨어와 마찬가지로 지속적으로 업데이트됩니다. ( 6.6 ) ( 122 )

 

UN AGI 기관을 설계할 때 NPT, CWC, BWC 검증 메커니즘을 배우십시오. ( 6.7 ) ( 109 )

 

경영진에는 공공 및 민간 부문의 AGI 전문가와 윤리학자가 포함되어야 합니다. ( 8.4 ) ( 127 )

 

정부와 기업의 중앙 집중식 AGI 시스템과 많은 개발자의 상호 작용을 통해 나타나는 분산형 AGI 시스템을 모두 관리할 수 있는 능력. ( 7.6 ) ( 119 )

 

다양한 국가 및 기업의 AGI 상호작용을 위한 프로토콜 개발 ( 7.5 ) ( 123 )

 

위험한 AGI 군비 경쟁을 해결하고 억제하는 능력. ( 8.3 ) ( 125 )

 

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

항목이 AGI 비군사 AGI 시스템에 대한 UN 기관의 국가 라이센스 절차 인증의 일부인지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10=필수, 1=제외).

 

 

기계 훈련에 사용되는 자료는 국가 라이센스 이전에 편견을 피하고 공유된 인간 가치를 심어주기 위해 감사되어야 합니다. ( 7.8 ) ( 124 )

 

출력이 AGI에 의해 생성되도록 지정해야 합니다. ( 8.6 ) ( 125 )

 

규칙이나 가드레일을 위반한 경우 자동 종료 기능을 증명합니다. ( 8.6 ) ( 123 )

 

자율적 행동이 이루어질 수 있는지 또는 AGI가 먼저 인간을 확인해야 하는지 여부를 결정하기 위해 AGI가 사용할 기준을 포함합니다. ( 8.2 ) ( 118 )

 

AGI는 인간이 제어하는 ​​끄기 스위치나 다른 AGI의 스위치를 끄거나 인간의 개입을 방지할 수 없습니다. (8.9) (124)

 

라이센스 조건의 지속적인 준수 여부를 확인하기 위해 승인된 제3자에 의한 예정되지 않은 검사 및 테스트. ( 7.8 ) ( 122 )

 

UN AGI 기관이 AGI 코드에 무작위로 액세스하여 윤리를 검토하는 동시에 코더/회사의 IP를 보호하도록 허용합니다. ( 7.4 ) ( 120 )

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

규칙이 비군사 AGI 시스템의 AGI 거버넌스에 포함되어야 하는지 여부를 나타내려면 1에서 10 사이의 숫자를 입력하십시오(10=필수, 1=제외).

 

 

 

AGI는 자신의 전원 스위치나 다른 AGI의 전원 스위치를 켜거나 끌 수 없습니다. ( 8.5 ) ( 122 )

 

인간 감독을 통한 반복적 자기 개선 및 자기 복제 ( 7.5 ) ( 117 )

 

Asimov의 세 가지 법칙을 존중합니다. ( 8.1 ) ( 118 )

 

행동하는 방식과 행동해야 하는 방식을 구별하는 능력. ( 7.2 ) ( 116 )

 

개인의 상품화보다는 인간 발전을 강화합니다. ( 8.0 ) ( 119 )

 

회원국과 UN 기관의 조기 경고 및 제안된 조치를 제공하는 인공 초지능(AI)의 잠재적 출현에 대한 주요 지표를 식별하고 모니터링합니다. ( 8.4 ) ( 120 )

 

기타(이유를 구체적으로 기재) ( 5.1 ) ( 25 )

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

이 행에서는 위의 요소를 고려하여 세 가지 잠재적 UN AGI 기관 모델의 효율성에 대한 판단을 요청합니다.

각 열의 하단에서 귀하의 판단에 대한 추론을 공유해 주세요.

 

 

 

 

UN AGI 기관을 주요 조직으로 하는 다중 기관 모델이지만 일부 거버넌스 기능은 ITU, WTO 및 UNDP에서 관리합니다.

이것이 얼마나 효과적일 것이라고 생각하시나요?

 

 
 
 
 
 
 
 
매우 높음 (20)
높은 (47)
50/50 (40)
낮은 (21)
매우 낮은 (9)

 

 

귀하의 답변이 입력되었으며 언제든지 변경할 수 있습니다.

 

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

가장 강력한 AI 훈련 칩과 AI 추론 칩을 국제 감독하에 제한된 수의 컴퓨팅 센터에 배치하고 해당 조약에 가입한 모든 국가에 대칭 접근 권한을 부여하는 조약을 맺습니다.(Eliezer Yudkowsky 제안) 이것이 얼마나

효과적이라고 생각하십니까? 그럴까요?

 

 

 
 
 
 
 
 
 
매우 높음 (18)
높은 ( 38)
50/50 ( 29)
낮은 ( 30)
매우 낮은 (18)

 

 

귀하의 답변이 입력되었으며 언제든지 변경할 수 있습니다.

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

다중 이해관계자 기관(TransInstitution)은 협소한 인공 지능 시스템과 협력하여 각 ANI가 위에 나열된 기능과 요구 사항을 구현하여 다중 이해관계자 기관과 국가 AGI 거버넌스 기관의 인간에게 지속적으로 피드백을 제공합니다.

이것이 얼마나 효과적일 것이라고 생각하시나요?

 

 

 

 
 
 
 
 
 
 
매우 높음 (20)
높은 (41)
50/50 (42)
낮은 (22)
매우 낮은 (7)

 

 

귀하의 답변이 입력되었으며 언제든지 변경할 수 있습니다.

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

4
이 행에서는 위의 요소를 고려하여 두 가지 추가 잠재적 UN AGI 기관 모델의 효율성에 대한 판단을 요청하고 AGI의 개발 및 사용을 가장 잘 관리하는 데 효과적이라고 생각하는 거버넌스 모델을 설명하도록 요청합니다.

각 열의 하단에서 귀하의 판단에 대한 추론을 공유해 주세요.

 

 

 

 

UN AI Agency에 두 개의 부서를 만듭니다. 하나는 프론티어 모델을 포함한 협소한 인공 지능을 담당하고 두 번째는 AGI만을 담당합니다.

 

 
 
 
 
 
 
 
매우 높음 (19)
높은 ( 36)
50/50 (43)
낮은 (22)
매우 낮은 (20)

 

 

귀하의 답변이 입력되었으며 언제든지 변경할 수 있습니다.

 

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

Singularity Net(https://singularitynet.io)과 같은 개발자의 많은 AI 조직의 상호 작용을 통해 아무도 소유하지 않는(아무도 인터넷을 소유하지 않는 것처럼) AGI의 분산화된 출현

 

 

 
 
 
 
 
 
 
매우 높음 (24)
높은 ( 36)
50/50 (44)
낮은 (20)
매우 낮은 (14)

 

 

귀하의 답변이 입력되었으며 언제든지 변경할 수 있습니다.

 

 

이 셀만 제출하세요 

이유를 제공하고 변경 사항을 제안하려면 여기를 클릭하세요.

AGI의 개발 및 사용을 관리하는 데 효과적이라고 생각하는 글로벌 거버넌스 모델을 설명하세요.

 

 

 

답변 양식으로 이동하려면 여기를 클릭하세요.

 

 

 

 

추가 제안 사항은 여기를 클릭하세요

처음으로 돌아가려면 여기를 클릭하세요

로그아웃하려면 여기를 클릭하세요.

날짜:2023년 12월 25일

 
광고
광고
광고
광고
광고
광고
많이 본 기사
유미포 해외기관/기업 한국지사 많이 본 기사