광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고

AI넷

세상을 바꾸자

AGI가 완전히 달성되기 전에 국가 허가 시스템을 구축하세요.

박영숙세계미래보고서저자 | 기사입력 2025/01/20 [10:53]
세상을 바꾸자

AGI가 완전히 달성되기 전에 국가 허가 시스템을 구축하세요.

박영숙세계미래보고서저자 | 입력 : 2025/01/20 [10:53]

 

 

AGI가 완전히 달성되기 전에 국가 허가 시스템을 구축하세요.

18 서명했습니다. 50명 으로 가봅시다. 50
 
  •  
    Jan이 signed 5 hours ago
  •  
    Jerome G. signed 5 hours ago
계속하면 Avaaz 이메일을 받는 데 동의하게 됩니다. 당사의 개인정보 보호정책은 귀하의 데이터를 보호하고 사용 방법을 설명합니다. 언제든지 구독을 취소할 수 있습니다. 미국에서 13세 미만이거나 전 세계에서 16세 미만인 경우 계속하기 전에 부모나 보호자의 동의를 받으십시오.
이 청원은 Jerome G.가 작성하였으며, Avaaz 커뮤니티의 견해를 대변하지 않을 수 있습니다.
 
제롬 G.
 이 청원을 시작했습니다 
국가 입법자들에게 영향을 미칠 수 있는 사람들
 
 
 
 
 
규제되지 않은 미래의 AI는 재앙이 될 가능성이 높다고 전 세계 전문가들은 경고합니다. AI에는 좁은 AI, 일반 AI, 초 AI의 세 가지 종류가 있습니다. 생성 AI(또는 GenAI)를 포함한 인공 좁은 지능(ANI)은 현재 존재하고 향후 몇 년 동안 계속 개선될 좁은 사전 훈련된 도구입니다.
 
인공 일반 지능(AGI)은 아직 존재하지 않지만 간단한 도구보다 에이전트처럼 행동할 것으로 예상되며 자체 코드를 다시 작성하고 인간과 유사한 새로운 문제에 대한 새로운 솔루션을 만들 수 있으며(때로는 인간 수준의 AI라고 함) 순간순간 학습하여 지속적으로 더 똑똑해질 수 있습니다.

AGI는 이 10년 안에 등장할 수 있습니다. 인공 초 지능(ASI)은 때때로 인공 초지능이라고도 하며 AGI에서 등장하여 인간의 통제에서 독립적으로 자체 목표를 설정합니다.

ANI 거버넌스에 대한 일부 진행 상황:
  • 미국 주도의 유엔 총회 AI 결의안은 AGI가 아닌 ANI를 다룹니다.
  • 중국 주도의 유엔 총회 AI 결의안, AGI가 아닌 ANI에 대한 언급
  • EU AI법과 중국의 인공지능법은 AGI가 아닌 ANI를 다룬다
  • 28개 정부가 서명한 블레츨리 선언은 AGI가 아닌 ANI를 다룬다
  • AI에 관한 유럽 이사회 협약은 AGI가 아닌 ANI를 다룹니다.
지금 무엇이 필요한가?
  • 국가 AGI 허가 시스템을 승인하기 위한 국가 법안 초안
  • AGI의 안전성을 시험하고 입증하기 위한 국가 컴퓨터 시뮬레이션에 대한 지원을 허가 절차의 일부로 포함합니다. 미국에서는 NIST가 허가 전에 AGI의 안전성을 시험하기 위한 시뮬레이션을 준비할 수 있습니다.
  • AGI에 관한 유엔 총회 특별 세션 지원 
Millennium Project Phase 2 AGI https://millennium-project.org/ 보고서에서 언급했듯이 "AGI를 관리하는 것은 인류가 직면한 가장 복잡하고 어려운 관리 문제가 될 수 있습니다." 더욱이 AGI 시스템을 만들기 전에 이를 해결하지 못하면 인간 문명에 치명적인 실수가 될 것입니다. 어떤 기관도 그런 실수를 할 권리가 없습니다.
---- Stuart Russell
연락처: Jerome.Glenn@Millennium-project.org 1단계 및 2단계 AGI 보고서 사본을 원하시면 여기로 연락하세요.
 

Establish National Licensing systems for AGI before it is fully achieved.

19 have signed. Let's get to 50
 
  •  
    Jan signed 5 hours ago
  •  
    Jerome G. signed 5 hours ago
By continuing you agree to receive Avaaz emails. Our Privacy Policy will protect your data and explains how it can be used. You can unsubscribe at any time. If you are under 13 years of age in the USA or under 16 in the rest of the world, please get consent from a parent or guardian before proceeding.
This petition has been created by Jerome G. and may not represent the views of the Avaaz community.
 
Jerome G.
 started this petition to 
Those who can influence National Legislators
Unregulated future AI is likely to be a disaster, warns experts around the world. There are three kinds of AI: narrow, general, and super. Artificial Narrow Intelligence (ANI) including generative AI (or GenAI) is narrow, pre-trained tool that exists today and will continue to improve over the coming years.
 
Artificial General Intelligence (AGI) does not exist yet, but is expected to act more like an agent than a simple tool, and can re-write its own code, create novel solutions to novel problems similar to humans (sometimes called human-level AI) and can learn moment by moment to continually get smarter.

AGI could emerge within this decade. Artificial Super Intelligence (ASI) sometimes called Artificial Superintelligence emerges from AGI to set is own goals independent from human control.

Some progress on ANI governance:
  • US-lead UN General Assembly Resolution on AI addresses ANI, not AGI
  • China-Lead UN General Assembly Resolution on AI addresses ANI not AGI
  • The EU AI Act and China’s Artificial Intelligence Law address ANI, not AGI
  • Bletchley Declaration signed by 28 governments addresses ANI, not AGI
  • European Council Convention on AI addresses ANI not AGI

 

What is needed now?
  • Draft national legislation to authorize a national AGI licensing system
  • Include support for a national computer simulation to test and prove AGI's safety as part of the licensing procedures. In the US that could be NIST to prepare simulations to test the safety of AGI prior to licensing.
  • Support a special UN General Assembly session on AGI 

 

As The Millennium Project Phase 2 AGI https://millennium-project.org/ report states, "Governing AGI could be the most complex, difficult management problem humanity has ever faced." Furthermore, failure to solve it before proceeding to create AGI systems would be a fatal mistake for human civilization. No entity has the right to make that mistake.
---- Stuart Russell
Contact: Jerome.Glenn@Millennium-project.org for copies of the Phase 1 and 2 AGI reports.
Posted 20 January 2025
 
 
 
 
 
 
 
<저작권자 ⓒ ainet 무단전재 및 재배포 금지>
박영숙세계미래보고서저자의 다른기사보기
 
광고
광고
광고
광고
광고
광고
많이 본 기사
1
[Midjourney는 이제 무료 사용할 수 있다] 미드저니, 누구나 웹에서 무료로 즐길 수 있는 AI 이미지 생성기로 진화 복잡한 절차는 이제 그만! 미드저니, 웹 버전 공개로 누구나 쉽게 AI 아트를 경험하다
2
[OpenAI 책임자 Altman, DeepSeek 혼란 후 한국의 Kakao와 계약 체결] 오픈AI 수장 샘 알트만(Sam Altman)은 중국 라이벌 딥시크(DeeSeek)가 글로벌 AI 산업을 뒤흔든 후 미국 기업이 새로운 동맹을 모색하는 가운데 화요일 한국에서 기술 대기업 카카오와 계약을 체결했다.
3
AI법[DeepSeek을 사용하면 100만 달러의 벌금을 물게 되나?] DeepSeek 사용 시 100만 달러 벌금? 조쉬 홀리 의원의 새로운 법안, 중국 AI 제재 논란
4
유미포[Hugging Face, 오픈소스 버전의 "Deep Research" 도구로 OpenAI에 도전] ChatGPT의 Deep Research가 더 안정적이고 정확한 연구 결과를 제공] 문헌 검토를 생성하는 데 도움이 될 수 있는 인용된 페이지 길이의 보고서를 만들어 준다.. ChatGPT와 Gemini의 Deep Research 기능을 비교한 최신 분석 결과, 두 AI 시스템은 각각 고유한 장단점을 보여주고 있다.
5
[기업용 AI 시장, 프리미엄 가격 경쟁 심화되다] ChatGPT Plus가 월 20달러라는 다소 높은 가격에도 불구하고 인기를 얻었던 것을 기억하는가? 이제 AI 시장은 더욱 고가화되고
6
[OpenAI, ChatGPT 를 위한 새로운 '심층 연구' 도구 발표] 중국의 딥시크(DeepSeek) 챗봇이 AI 분야에서 경쟁을 가열하고 있는 가운데 미국 기술 대기업 오픈AI(OpenAI)가 월요일 상세한 보고서를 생성할 수 있는 "딥 리서치(deep research)"라는 챗GPT 도구를 공개했다.
세상을 바꾸자 많이 본 기사
1
[ChatGPT로 자동 글로벌 뉴스 브리핑을 받는다.] OpenAI의 ChatGPT는 사용자가 주요 글로벌 이벤트와 놀라운 전개 사항을 강조한 개인화된 일간 뉴스 요약을 받을 수 있는 새로운 작업 기능을 제공
2
kyc AI법[8월 EU가 AI법을 시행한다] 세계 최초의 AI 전문 대학, MBZUAI와 글로벌 AI 경쟁
3
[OpenAI, 미국 AI 전략 개요 및 정치적 중립성 입장 조정] OpenAI가 미국 AI 개발을 위한 야심찬 청사진을 제시하며 AI 업계에 새로운 논쟁을 불러와
4
kyc AI법[미국 국세청(IRS)이 AI 기술을 활용해 새로운 형태의 세금 사기에 대응하고 있다.] IRS, AI로 무장하고 사기꾼과의 전쟁 선포
5
AGI가 완전히 달성되기 전에 국가 허가 시스템을 구축하세요.
최신기사
[세계미래보고서2025-2035] 박영숙신간, 책소개. 교보 경제경영 10위. 유엔에 AI거버넌스 기구를 만드는 사람들, 역사상 최대 산업, 최대 발명인 인공지능의 시대 도래, 또한 모든 산업을 뒤흔들 기후비상사태
[여행과 일] 미국 전역의 많은 회사에서 원격 근무가 새로운 표준이 되면서 많은 직원이 노트북을 챙겨 전 세계의 이국적인 장소로 떠나고 있다. 현재 미국 근로자의 약 11%가 '디지털 유목민'으로 자처한다. 디지털 유목민은 원격으로 일하면서 여행하고 전 세계를 탐험하는 전문가다.
[AI 비용이 극적으로 감소하면서 경제 전반에 광범위한 영향을 미칠 것]
[연구원들은 50달러 이하의 가격으로 OpenAI의 o1 '추론' 모델 공개 경쟁자를 만들어]
[2월 9일 AI뉴스 모음] 신데렐라에서 로보스타까지 Elf Labs는 역사상 가장 높은 수익을 올린 캐릭터 중 일부를 특징으로 하는 상징적인 포트폴리