kyc AI법[인공지능(AI) - 안전보장이사회, 제9821차 회의 2024. 12. 19] 유엔은 글로벌 AI 거버넌스 과제를 다루고 국제 AI 거버넌스에 대한 권고안을 제시하기 위해 39명의 AI 자문단을 설립
박영숙세계미래보고서저자| 입력 : 2024/12/28 [22:51]
공유하기 더보기
인공지능(AI) - 안전보장이사회, 제9821차 회의 분석
2024년 12월 19일, 인공지능(AI)의 미래를 놓고 국제사회가 뜨거운 논쟁을 벌였다. 유엔 안전보장이사회는 이날 제9821차 회의를 열고, 급속도로 발전하는 AI 기술이 가져올 안보 위협과 기회에 대해 심도 있게 논의했다.
회의 핵심은 AI의 양날의 검 같은 성격에 대한 인식이었다. AI는 질병 치료, 기후 변화 대응, 경제 성장 등 인류의 난제 해결에 기여할 잠재력이 무궁무진하다. 반면, AI가 잘못 활용될 경우 대량살상무기 개발, 사이버공격, 가짜뉴스 생산 등을 통해 국제 평화와 안전을 심각하게 위협할 수 있다는 우려가 제기되었다.
특히 AI 무기 개발에 대한 우려가 집중되었다. 알고리즘이 스스로 판단하고 공격을 실행하는 자율무기시스템은 인간의 통제를 벗어나 예측 불가능한 결과를 초래할 수 있다는 지적이 나왔다. 또한, AI 기반 감시 시스템이 인권 침해에 악용될 가능성도 제기되었다.
유엔사무총장 안토니우 구테흐스는 이날 회의에서 AI의 위험성을 강조하며, 국제사회가 AI 개발과 활용에 대한 규범을 마련해야 한다고 역설했다. 그는 "AI 없이 세계는 맹목적인 상태가 될 것이며, 특히 세계평화와 안보에 있어 더욱 위험하고 무모한 상황에 처할 수 있다"고 경고했다.
미국 국무부는 이번 회의를 통해 AI의 긍정적인 측면과 부정적인 측면을 모두 조명하고, 국제사회가 AI 개발에 대한 공동의 노력을 기울여야 한다는 점을 강조했다. 또한, AI기술의 발전 속도가 인간의 규제 능력을 넘어서는 상황을 우려하며, 국제적인 협력체계 구축의 필요성을 역설했다.
이번 회의에서 참가국들은 AI 기술의 발전에 따른 도전 과제를 인식하고, 국제적인 차원에서 AI 개발과 활용에 대한 규범을 마련해야 한다는 데 공감대를 형성했다. 하지만, AI 기술의 복잡성과 다양한 이해관계 때문에 구체적인 규제 방안 마련에는 상당한 시간이 소요될 것으로 예상된다.
전문가들은 AI 기술이 인류에게 가져다줄 혜택과 함께 위험성 또한 간과할 수 없다고 지적하며, 국제사회가 AI기술의 발전을 책임감 있게 관리해야 한다고 강조했다. 또한, AI 기술 개발에 있어 윤리적 고려를 강화하고, 인간의 통제 하에서 AI 기술이 활용될 수 있도록 제도적 장치를 마련해야 한다고 주장했다.
결론적으로, 이번 안전보장이사회 회의는 AI기술이 가져올 미래에 대한 국제사회의 우려와 함께 협력의 필요성을 보여주는 중요한 계기가 되었다. 앞으로 국제사회는 AI 기술의 발전에 따른 도전 과제를 해결하고, 인류의 미래를 위한 지혜로운 선택을 해야 할 것이다.
유엔 안보리, AI 군사적 이용과 국제 평화·안보 논의 심층 분석
서론
유엔 안보리가 인공지능(AI)의 군사적 이용과 국제 평화·안보에 대한 논의를 시작하면서, AI 거버넌스에 대한 국제적인 관심이 고조되고 있다. AI 기술의 발전은 인류에게 큰 혜택을 가져다줄 수 있지만, 동시에 자율 무기 시스템 개발, 사이버 공격, 가짜 정보 확산 등 새로운 안보 위협을 야기할 수 있다는 우려가 제기되고 있다. 이에 따라 유엔 안보리는 AI 기술의 발전에 따른 도전 과제를 해결하고, 국제 평화와 안전을 위한 규범을 마련하기 위해 노력하고 있다.
AI 군사적 이용과 국제 평화·안보
유엔 안보리가 주목하는 AI의 주요 군사적 이용은 다음과 같다.
자율 무기 시스템: 인간의 개입 없이 스스로 목표를 식별하고 공격하는 무기 시스템으로, 국제 인도법 위반 가능성과 예측 불가능한 결과에 대한 우려가 제기된다.
사이버 공격: AI를 활용한 사이버 공격은 더욱 정교화되고 대규모화될 가능성이 있으며, 국가 인프라 마비, 정보 유출 등 심각한 사회적 혼란을 야기할 수 있다.
정보 조작: AI를 활용한 가짜 뉴스 생산과 확산은 사회 분열을 조장하고 민주주의를 위협할 수 있다.
이러한 AI의 군사적 이용은 국제 평화와 안보에 심각한 위협이 될 수 있다. 특히, 자율 무기 시스템은 한번 개발되면 통제가 어렵고, 인간의 생명을 경시하는 결과를 초래할 수 있다는 점에서 더욱 우려된다.
유엔의 AI 거버넌스 노력 시작
유엔은 AI 거버넌스를 위해 다양한 노력을 기울이려한다.
국제적인 논의 플랫폼 제공: 유엔 안보리뿐만 아니라, 유엔총회, 유엔 인권이사회, 유엔 교육과학문화기구(UNESCO) 등 다양한 기구에서 AI 관련 논의가 진행되고 있다.
국제 규범 마련: AI 개발 및 활용에 대한 국제적인 규범을 마련하기 위한 노력이 진행되고 있으며, 이를 위해 회원국 간 협력을 강화하고 있다.
전문가 네트워크 구축: AI 전문가, 정책 입안자, 시민 사회 등 다양한 이해관계자들이 참여하는 네트워크를 구축하여 정보를 공유하고 협력 방안을 모색하고 있다.
AI 거버넌스 기구 설립
유엔 산하에 AI 거버넌스 기구를 설립해야 한다는 주장이 제기되고 있지만, 아직까지 구체적인 합의에 이르지는 못했다. AI 거버넌스 기구 설립에 대해 다음과 같은 쟁점을 포함한다.
기구의 성격: 자문 기구, 규제 기구, 또는 실행 기구 등 다양한 형태의 기구가 논의.
권한: 기구의 권한 범위를 어떻게 설정할 것인지에 대한 논의가 필요.
구성: 어떤 국가와 기관이 기구에 참여할 것인지, 의사결정 과정은 어떻게 이루어질 것인지 등에 대한 합의가 필요하다.
결론
AI 기술의 발전은 인류에게 큰 기회와 함께 새로운 위협을 가져다주고 있습니다. 유엔은 AI 기술의 발전에 따른 도전 과제를 해결하고, 국제 평화와 안전을 위한 규범을 마련하기 위해 노력해야 합니다. AI 거버넌스 기구 설립은 이러한 노력의 일환으로, 국제 사회의 지속적인 논의와 협력을 통해 구체적인 방안이 마련되어야 할 것.
퍼플렉시티: 유엔 안보리, AI 군사적 이용과 국제 평화·안보 논의
유엔 안전보장이사회가 2024년 12월 19일 제9821차 회의에서 인공지능(AI)의 군사적 이용과 국제 평화·안보에 미치는 영향을 논의했다.
주요 논의 내용
안토니우 구테흐스 유엔 사무총장은 AI가 세계를 재편하고 있으며, 인류의 통제력을 위협할 수 있다고 경고했다. 특히 최근 분쟁에서 AI가 군사적으로 시험되고 있으며, 정보 평가부터 표적 선정까지 생명과 죽음을 결정하는데 알고리즘이 사용되고 있다고 지적했다.
각국 입장
토니 블링컨 미국 국무장관은 AI가 지속가능발전목표의 80%를 달성하는데 도움이 될 수 있지만, 파괴적인 사이버 공격과 언론인 탄압에도 악용될 수 있다고 우려를 표명했다. 한국 대표는 9월 네덜란드와 공동 주최한 '군사 분야 AI 책임있는 이용에 관한 고위급회의'의 행동계획이 국제사회의 중요한 이정표가 될 수 있다고 강조했다.
향후 과제
구테흐스 사무총장은 AI 거버넌스의 분열을 줄이기 위해 '전례 없는 글로벌 협력'이 필요하다고 강조했다. 특히 국제과학패널 설립과 유엔 내 AI 거버넌스에 관한 글로벌 대화를 시작할 것을 촉구했다.
주요 결의안
안보리는 AI의 군사적 이용에 관한 결의안을 채택했으며, 이는 국제법과 인도주의법, 인권법의 적용을 확인하고 책임있는 인간 중심의 AI 사용을 강조했다. 결의안은 165개국이 찬성했으며, 2개국이 반대하고 6개국이 기권했다. 유엔 안전보장이사회 제9821차 회의의 주요 발제자들과 발언 내용은 다음과 같다:
1. 안토니우 구테흐스 유엔 사무총장
AI가 인류의 통제력을 위협하고 있으며, 특히 군사적 응용이 최근 분쟁에서 시험되고 있다고 경고했다.
AI 거버넌스의 분열을 줄이기 위한 전례 없는 글로벌 협력이 필요함을 강조했다
6
2. 얀 르쿤 (Meta 수석 AI 과학자)
AI의 인간 감독없는 사용이 글로벌 평화와 안보에서 무모한 결정을 초래할 수 있다고 지적했다
딥페이크가 외교적 위기와 불안을 촉발할 수 있다고 경고했다
3. 페이페이 리 (스탠포드 대학교)
공간지능(Spatial Intelligence) 개념을 강조하며 AI 시스템의 3D 세계 인식과 상호작용 중요성을 설명했다
다자간 AI연구소설립의 필요성과 책임있는 AI 개발을 위한 글로벌 규범 수립을 촉구했다
4. 토니 블링컨 미국 국무장관 (의장)
AI가 UN 지속가능발전목표의 80% 달성에 도움이 될 수 있다고 언급했다
파괴적인 사이버 공격과 언론인 탄압에 AI가 악용될 수 있다는 우려를 표명했다.
유엔 안보리의 AI 안보 논의 정리
유엔 안전보장이사회는 AI의 군사적 이용과 국제 평화에 대한 위협을 다루는 역사적인 회의들을 개최했다. 구테흐스 사무총장은 AI의 군사적·비군사적 활용이 세계 평화와 안보에 심각한 결과를 초래할 수 있다고 경고했다.
AI 군사적 이용의 주요 우려사항
군사적 위험
AI 무기 시스템의 자율적 표적 선정
7
핵무기와 AI 통합 위험성
7
딥페이크를 통한 외교적 위기 유발
7
국제 대응
한국과 네덜란드가 주도한 "군사 분야 AI 활용과 국제 평화·안보 영향" 결의안이 채택됨
2
165개국 찬성, 2개국 반대, 6개국 기권으로 통과
2
UN의 AI 거버넌스 해결방안
7대 핵심 메커니즘.
AI 국제 과학 패널 설립
AI 거버넌스 정책 대화
AI 표준 교환
역량 개발 네트워크
AI 글로벌 펀드
글로벌 AI 데이터 프레임워크
UN 사무국 내 AI 사무실 구축
거버넌스 기구 설립
UN은 IAEA나 ICAO와 같은 모델을 기반으로 한 새로운 AI 감시기구 설립을 제안
39명의 전문가로 구성된 고위급 자문기구가 설립되어 글로벌 AI 거버넌스 과제 해결
OpenAI, Microsoft, Sony 등 기술기업 임원들과 정부 관료, 학계 전문가들이 참여.
국제협력 과제
주요 도전과제
국가간 이해관계와 가치관 차이 극복
5
빠른 기술발전 속도에 맞춘 유연한 거버넌스 체계 구축
5
민간 기업들의 적극적 참여 유도
5
AI 기술과 거버넌스에 대한 국가간 역량 격차 해소
Speaker Name
Presentation Topic
Key Points
Organization or Affiliation
Antony Blinken
Regulations for artificial intelligence to minimize risks to international peace and security
8
1. Urged nations to set rules for AI use to minimize risks. 2. Highlighted that AI could accelerate progress on nearly 80% of the UN Sustainable Development Goals. 3. Warned that misuse of AI poses tremendous threats to international peace and security. 4. Discussed the risk of AI-enhanced cyberattacks that are more destructive and harder to trace.
8
U.S. Department of State
António Guterres
Implications of artificial intelligence for global peace and security
9
1. AI is revolutionizing the world but poses significant risks that outpace our ability to govern it. 2. Urged for international guardrails to ensure a safe and inclusive AI future. 3. Highlighted the dangers of AI in military applications without human oversight, which could lead to life-and-death decisions being made by algorithms. 4. Stressed the importance of accountability and ethical considerations in AI governance.
9
United Nations
Yann LeCun
The implications of artificial intelligence in conflicts
10
1. The dangers of artificial intelligence without human oversight could lead to reckless decisions in global peace and security. 2. 'Deep fakes' could incite unrest and trigger diplomatic crises. 3. There is a pressing need for unprecedented global cooperation to reduce fragmentation in AI governance.
10
Chief AI Scientist at Meta
10
Fei-Fei Li
Artificial Intelligence and its implications for global peace and security
10
Fei-Fei Li highlighted the concept of Spatial Intelligence, which allows AI systems to perceive and interact with the 3D world. She emphasized the need for a multilateral AI research institute to advance tech innovation and set global norms for responsible AI development. She warned that AI must serve humanity and called for equitable access to AI tools, urging member states to act with urgency and unity.
10
Stanford University, Co-Director of Stanford Institute for Human-Centered AI
11
유엔 AI 거버넌스 기구 설립에 대한 심층 분석 및 질의응답
유엔 AI 거버넌스 기구 설립 제안의 의미
유엔이 IAEA(국제원자력기구)나 ICAO(국제민간항공기구)와 같은 모델을 기반으로 AI 감시기구 설립을 제안한 것은 AI 기술의 발전이 가져올 잠재적인 위험에 대한 국제적인 우려가 심각하다는 것을 보여준다. 이는 AI 기술의 발전이 국제 평화와 안전에 미칠 수 있는 영향을 인지하고, 이에 대한 효과적인 관리 체계를 구축하려는 국제 사회의 노력의 일환이다.
39명의 전문가 구성에 대한 궁금증
39명의 전문가로 구성된 고위급 자문기구가 설립되었다는 정보는 아직 알려지지 않았다.
정보 공개의 제한: 유엔의 회의 내용이나 의사 결정 과정은 비공개로 진행되는 경우가 많아, 구체적인 인원 구성이나 논의 내용이 외부에 공개되지 않을 수 있다.
계획 단계: 아직 구체적인 기구 설립 계획이 확정되지 않아, 구성원 명단이 확정되지 않았을 수 있다.
정보 오류: 보도 과정에서 오류가 발생하거나, 정보가 과장되었을 가능성도 있다.
유엔 AI 거버넌스 기구 설립 시 고려해야 할 사항
기구의 성격: 자문 기구, 규제 기구, 또는 실행 기구 등 다양한 형태의 기구가 논의.
권한: 기구의 권한 범위를 어떻게 설정할 것인지에 대한 논의가 필요.
구성: 어떤 국가와 기관이 기구에 참여할 것인지, 의사결정과정은 어떻게 이루어질 것인지 등에 대한 합의가 필요.
자금: 기구 운영에 필요한 자금은 어떻게 마련할 것인지에 대한 논의가 필요.
기술 발전 속도: AI 기술의 발전 속도가 매우 빠르기 때문에, 기구의 구성과 운영 방식은 유연하게 변화할 수 있어야 한다.
유엔 AI 거버넌스 기구 설립의 어려움
국가 간 이익 충돌: 각국의 경제적 이익, 안보 관심, 기술 개발 수준 등이 다르기 때문에, 합의점을 찾기 어려울 수 있다.
기술의 복잡성: AI 기술은 매우 복잡하고 빠르게 변화하기 때문에, 이를 효과적으로 규제하고 관리하기가 어렵다.
윤리적 딜레마: AI 개발과 활용에 대한 윤리적 문제는 여전히 논쟁의 여지가 많다.
결론
유엔 AI 거버넌스기구 설립을 제안한 것은 의미 있는 첫걸음이지만, 실제 기구를 설립하고 운영하기 위해서는 많은 어려움을 극복해야 한다. 국제 사회는 AI 기술의 발전에 따른 긍정적인 측면과 부정적인 측면을 종합적으로 고려하여, 인류에게 이로운 방향으로 AI 기술이 발전할 수 있도록 지속적인 노력을 기울여야 할 것.
퍼플렉시티
유엔은 글로벌 AI 거버넌스 과제를 다루고 국제 AI 거버넌스에 대한 권고안을 제시하기 위해 39명의 AI 자문단을 설립 중
자문단 구성
주요 기술 임원: • 키타노 히로아키 - 소니 그룹 최고기술책임자 • 미라 무라티 - OpenAI 최고기술책임자 • 나타샤 크램프턴 - 마이크로소프트 책임 AI 최고책임자주요 정부 관료: • 오마르 알 올라마 - UAE 인공지능부 장관 • 카르메 아르티가스 - 스페인 디지털화 및 AI 담당 국무장관 • 고학수 - 한국 개인정보보호위원회 위원장 학계 대표: • 에마 아리사 - 도쿄대학교 부교수 • 이 쩡 - 중국과학원 교수 • 안나 아브라모바 - 러시아 MGIMO대학 AI센터장
일정 및 목표
자문단은: • 2024년 말까지 중간보고서 발표 • 2024년 12월 31일까지 최종 권고안 제출
운영 구조
자문단은 세 개의 주요 실무그룹을 통해 운영됩니다: • AI의 국제 거버넌스 • 위험과 과제에 대한 공통 이해 • 주요 기회와 촉진요인이들의 권고안은 다음 기관들에서 제안, 기여할 것: • 미래 정상회의 (제롬 글렌 발표자) • 글로벌 디지털 협약 협상 • 새로운 국제 AI 거버넌스 기구 설립 가능성유엔은 사무총장 안토니오 구테흐스가 AI 거버넌스에 대한 글로벌하고 다학제적인 접근의 필요성을 강조하면서, 이 이니셔티브를 AI의 혜택을 극대화하고 잠재적 위험을 최소화하는 데 핵심적인 것으로 보고 있다.
영문:Advisory Body Composition
Key Technology Executives:
Hiroaki Kitano - Chief Technology Officer, Sony Group Corporation
Mira Murati - Chief Technology Officer, OpenAI
Natasha Crampton - Chief Responsible AI Officer, Microsoft
3
Notable Government Officials:
Omar Al Olama - UAE Minister of Artificial Intelligence
Carme Artigas - Secretary of State for Digitalization and AI, Spain
Haksoo Ko - Chairman of Korea's Personal Information Protection Commission
10
Academic Representatives:
Arisa Ema - Associate Professor, University of Tokyo
Yi Zeng - Professor, Chinese Academy of Sciences
Anna Abramova - Director of MGIMO-University AI Centre, Russia
10
Timeline and Objectives
The advisory body will:
Release an interim report by the end of 2023
Provide final recommendations by August 31, 2024
7
Working Structure
The advisory body operates through three main working groups focusing on:
International governance of AI
Shared understanding of risks and challenges
Key opportunities and enablers
2
Their recommendations will contribute to:
The Summit of the Future
Negotiations on the Global Digital Compact
Potential establishment of a new international AI governance agency
1
7
The UN sees this initiative as crucial for maximizing AI's benefits while minimizing potential risks, with Secretary-General António Guterres emphasizing the need for a global, multidisciplinary approach to AI governance
미국 등 전세계 언론의 기사모음
9821번째 회의(오전)
SC/15946
2024년 12월 19일
안전보장이사회, 갈등에서 인공지능 사용에 대해 논의, 유엔 프레임워크에 분열된 거버넌스 피하기 위한 촉구 청취
러시아 연방, 서방 주도 규칙, 규범 부과에 경고
유엔 사무총장은 오늘 안전보장이사회 브리핑에서 급속히 진화하는 인공지능(AI)이 인간의 통제 능력을 앞지르고 있으며, 심지어 무기 시스템에 대한 인간의 통제를 위협하고 있다고 경고하며, 회원국에 모든 사람을 위한 안전하고 보안적이며 포괄적인 AI 미래를 보장하기 위한 "국제적 보호 장치"를 신속히 구축할 것을 촉구했습니다.
"인공지능은 우리의 세계를 재편하는 데 그치지 않고 혁명을 일으키고 있습니다." 안토니우 구테흐스 사무총장이 강조했습니다. AI 도구는 식량 불안을 파악하고 극한 현상과 기후 변화로 인한 이주를 예측하며, 지뢰를 탐지하고 제거하며, 곧 폭력이 터지기 전에 불안의 패턴을 파악할 수 있을 것입니다.
하지만 최근 갈등은 AI 군사 응용 프로그램의 시험장이 되었다고 그는 지적하며, 지능 기반 평가에서 표적 선택에 이르기까지 알고리즘이 생사의 결정을 내리는 데 사용되었다고 보고했습니다. 그는 "인간의 감독이 없는 인공 지능은 세상을 눈멀게 할 것입니다. 그리고 아마도 세계 평화와 안보보다 더 위험하고 무모할 곳은 없을 것입니다."라고 경고하며 "딥페이크"가 외교적 위기를 촉발하고 불안을 조장하며 사회의 기반을 훼손할 수 있다고 덧붙였습니다. 그는 AI와 핵무기의 통합은 어떤 대가를 치르더라도 피해야 한다고 강조했습니다.
AI 거버넌스의 단편화를 줄이기 위한 "전례 없는 글로벌 협력"에 대한 절실한 필요성 속에서, AI에 대한 그의 고위자문기구는 AI가 인류에게 제시하는 엄청난 위험과 기회를 모두 해결하기 위한 청사진을 개발했다고 그는 언급하며, "또한 기존 이니셔티브를 연결하는 프레임워크의 기반을 마련했으며, 모든 국가가 디지털 미래를 형성하는 데 도움을 줄 수 있도록 보장했습니다."라고 덧붙였습니다.
회원국은 유엔 글로벌 디지털 협약에 명시된 대로 유엔 내에서 AI에 대한 국제 과학 패널을 설립하고 AI 거버넌스에 대한 글로벌 대화를 시작하는 데 신속하게 움직여야 합니다. 그는 "우리는 AI가 '불평등 증진'을 위해 나서는 것을 결코 허용해서는 안 됩니다."라고 덧붙이며 개발도상국의 AI 역량 구축을 지원해야 할 필요성을 강조했습니다. 그는 "이 위원회의 회원국은 모범을 보여야 하며 신흥 기술에 대한 경쟁이 국제 평화와 안보를 불안정하게 하지 않도록 해야 합니다."라고 촉구했습니다.
스탠포드 대학 컴퓨터 과학부의 Sequoia 교수이자 스탠포드 인간 중심 AI 연구소의 공동 이사, 사무총장 과학 자문 위원회 위원인 페이페이 리는 화상 회의를 통해 AI 시스템이 3D 가상 및 물리적 세계를 인식하고 상호 작용할 수 있게 해주는 공간 지능이라는 새로운 기술을 조명했습니다. 그녀는 "이 연구는 이 기술의 더 많은 약속을 밝혀주었고, 우리를 혁신의 가장 흥미로운 전선으로 인도했습니다."라고 말하며, 생명을 구하기 위해 재난 지역을 탐색하는 로봇, 식량 불안을 해결하는 정밀 농업 시스템, 의료 결과를 개선하는 고급 의료 영상 도구와 같은 예를 들었습니다.
"하지만 우리는 또한 경계해야 합니다." 그녀는 AI가 해를 끼칠 수 있는 능력을 강조하며 경고했습니다. 회원국은 "AI가 인류를 훼손하기보다는 인류에게 봉사하도록" 그리고 "모든 사람이 AI 도구에 공평하게 접근할 수 있도록" 긴급하고 단결하여 행동해야 합니다.
그녀는 다자간 AI 연구 기관(다양한 분야의 전문가를 모으고 국가 간 자원을 모으는 연구 허브 네트워크)이 기술 혁신을 발전시키고 책임 있는 AI 개발 및 배포에 대한 글로벌 규범을 정할 것이라고 말했습니다. 그녀는 정부가 공공 부문 리더십을 육성하고, 글로벌 협업을 옹호하며, 증거 기반 정책 결정을 발전시켜야 하며, 그렇게 함으로써 "우리는 책임 있는 개발을 보호하면서 AI의 변혁적 잠재력을 끌어낼 수 있습니다"라고 말했습니다.
또한 협의회에 브리핑을 한 사람은 Meta의 수석 AI 과학자 Yann LeCun과 뉴욕 대학교의 컴퓨터 과학, 데이터 과학, 신경 과학, 전기 및 컴퓨터 공학 교수인 Jacob T. Schwartz로, "미래 어느 시점에서 AI 시스템이 인간의 지적 능력과 맞먹거나 이를 능가할 것이라는 데는 의심의 여지가 없습니다."라고 말했습니다. AI는 인간의 지능을 증폭함으로써 새로운 산업 혁명뿐만 아니라 "인류에게 새로운 계몽의 시대"를 가져올 수 있으며, "지식의 확산을 가속화하고 세계 경제 성장을 촉진"함으로써 국제적 평화와 안보를 유지하는 데 기여할 수 있습니다.
그는 "정부와 민간 부문은 전 세계 사람들이 공통 자원의 창출에 참여할 수 있는 방식으로 AI 개발을 지원하는 이 글로벌 인프라 네트워크가 존재하도록 보장하기 위해 협력해야 합니다."라고 말했습니다. 국제 협력은 두 가지 이니셔티브에 초점을 맞춰야 합니다. 문화적 자료 수집, 전 세계 여러 지역에 AI 중심 슈퍼컴퓨터 제공, 자유롭고 개방적인 보편적 기반 모델의 분산된 교육을 위한 행동 방식 확립, 규제 환경을 통합하여 오픈 소스 기반 모델의 개발 및 배포가 방해받지 않도록 하는 것입니다.
그는 소수의 기업이 "시민의 디지털 식단"을 통제하는 것에 대한 정부의 우려에 대해 Meta가 무료 오픈 소스 기반 모델을 제작하고 배포하는 데 주도적인 역할을 했다고 말했습니다. AI가 생성한 허위 정보에 대해 그는 "현재의 AI 형태가 검색 엔진 및 교과서와 같은 기존 기술에 비해 실존적 위험을 나타내거나 위협이 상당히 증가했다는 증거는 없습니다."라고 말했습니다.
이어진 고위급 토론에서 이사회 회원국은 AI의 오용, 특히 세계 평화와 안보에 대한 위협을 방지하기 위한 조율된 조치의 시급한 필요성을 강조하는 한편, 다양한 거버넌스 이니셔티브를 주목했습니다.
12월 이사회 의장인 앤토니 J. 블링컨 미국 국무장관은 국가적 자격으로 연설하면서 AI가 지속 가능한 개발 목표의 80%를 달성하는 데 도움이 될 수 있지만, 파괴적이고 추적하기 어려운 사이버 공격에 배치될 수 있으며, 언론인을 표적으로 삼는 억압적인 정권에 의해 배치될 수도 있다고 말했습니다. 그는 국가가 모든 행위자에 의한 악의적인 사용을 비난하고 거부할 것을 촉구하면서, 그의 나라는 AI 사용에 대한 규칙을 정하고 집단적 대응을 동원하기 위해 노력해 왔다고 말했습니다. 예를 들어, 미국의 주요 기술 회사는 AI 생성 콘텐츠에 워터마크를 사용하기로 약속했으며, 지난달에는 테스트 및 안전에 대한 벤치마크를 설정하기 위해 인공 지능 안전 연구소의 국제 네트워크가 출범했습니다.
에콰도르의 외무부 장관인 가브리엘라 조머펠트는 조기 경보 시스템과 중재 지원을 통해 평화 유지 활동을 뒷받침할 수 있는 AI의 잠재력을 강조했습니다. 그러나 규제와 인권 존중 없이 인공 지능을 제한 없이 개발하면 권력 집중, 지정학적 긴장 악화, 민주적 절차 약화 등의 위험이 있습니다. 그녀는 비국가 행위자가 모집, 조정 및 선동에 AI를 오용할 수 있다고 덧붙이며 인공 기술을 관리하기 위한 조정된 노력을 촉구했습니다. 기후 변화에 관한 정부 간 패널과 같이 AI의 "현황"에 대한 국제 패널을 구성하는 것은 "흥미로운" 옵션이라고 그녀는 말했습니다.
모잠비크의 외무협력부 장관인 베로니카 나타니엘 마카모 들로보는 "전력망이 1억 명의 사용자를 확보하는 데 50년이 걸렸지만, ChatGPT와 같은 최근의 AI 애플리케이션은 2022년에 불과 2개월 만에 같은 이정표에 도달했습니다."라고 지적했습니다. 그녀는 AI 기반 기술의 이중 용도 특성이 선제적 거버넌스의 시급성을 시사하며, AI가 유엔 헌장과 세계인권선언에 부합해야 한다고 강조했습니다. 그녀는 이사회가 AI가 "세계 평화, 진보, 안정을 위한 힘"이 되도록 하는 데 중요한 역할을 한다고 덧붙였습니다.
스위스의 토마스 귀르버 국무장관은 지난 2년 동안 유엔 외교에 미친 AI의 주요 영향을 강조하며, AI 시스템이 안전하고 보안이 유지되며 책임감 있게 관리되고 모든 국가 및 비국가 이해 관계자를 포함하는 규칙이 필요하다고 강조했습니다. 그는 AI가 이사회의 위임을 이행할 수 있는 능력을 강조하면서, 스위스에서 조직한 2024년 5월 아리아 공식 회의가 평화 유지 활동에서 이러한 잠재력을 보여주었다고 회상했습니다. 그녀는 제네바에 있는 DiploFoundation과 협력하여 스위스는 특히 평화를 위한 새로운 의제에 초점을 맞춘 10개 이사회 회의의 데이터 분석을 용이하게 하는 AI 기반 도구를 개발했다고 덧붙였습니다.
여러 연설자는 사무총장의 자율 무기에 대한 적절한 규제에 대한 반복적인 요청에 동참했습니다. 몰타 대표는 제네바에서 치명적 자율 무기에 대한 정부 전문가 그룹 내에서 논의를 진전시키기 위한 합의를 촉구했습니다. 게다가 유엔 교육 과학 문화 기구(UNESCO)의 AI 윤리 선언에서 요구한 대로 윤리적 고려 사항이 인공지능 개발에 포함되어야 합니다.
프랑스 대표는 2025년 2월 10일과 11일에 인공지능 행동 정상회담을 개최하여 "거버넌스를 위한 공통 기반"을 형성할 것이라고 말했습니다. 그는 이사회가 제재 제도 이행 모니터링을 포함하여 인공지능에 대한 고려를 개선할 것을 촉구했습니다.
영국의 대표는 그의 나라가 유럽 위원회의 인공지능 및 인권, 민주주의, 법치주의에 관한 기본 협약의 창립 가입국이라고 말했습니다. 이 분야에서 최초로 법적으로 구속력이 있는 국제 조약입니다. 그는 또한 런던이 AI for Development 이니셔티브의 후원 하에 6개 아프리카 국가가 AI 연구를 수행할 수 있도록 역량 강화를 위해 5,800만 파운드를 기부한 것을 강조했습니다.
가이아나 대표는 점령된 팔레스타인 영토에서 인공지능을 사용하는 것에 대해 우려를 표명한 연설자 중 한 명이며, AI 무기도 인간의 추가 승인 없이 표적을 선택하도록 프로그래밍되고 승인되고 있다고 지적했습니다. 슬로베니아 대표는 이에 더해 안전보장이사회가 국제법을 준수하도록 AI 관련 위험을 다루도록 촉구했습니다. 그녀는 "이러한 위험은 추측적이거나 먼 이야기가 아닙니다. 현대 갈등에서 현실입니다."라고 강조했습니다.
대한민국 대표는 9월에 네덜란드와 공동 주최한 서울에서 열린 군사 분야에서 책임 있는 인공지능에 대한 정상회의의 행동 청사진이 핵심 원칙을 제시하고 있으며 국제 사회가 AI의 책임 있는 군사적 활용을 달성하기 위한 귀중한 디딤돌이 될 수 있다고 말했습니다. 일본의 대표는 군사 AI 역량의 수명 주기 전반에 걸쳐 적절한 조치를 시행해야 한다고 말했습니다. 비군사적 영역에서는 다양한 AI 거버넌스 네트워크 간의 상호 운용성을 보장해야 합니다.
러시아 연방 대표는 급속한 AI 개발 시대에 인류의 운명을 고려하려는 미국의 야망은 이해할 만하지만 역사에서 얻은 중요한 교훈을 인식하는 것도 마찬가지로 중요하다고 말했습니다. 다른 사람들에게 규칙을 부과하는 동시에 자신은 같은 규칙에서 면제하려는 시도는 과거의 실수를 반복하고 진정한 세계적 협력으로 가는 길을 훼손할 위험이 있습니다. 그는 그의 나라의 국가 AI 전략은 남반구와 동방에 기술 지원을 제공하는 것을 예상하며, AI 시스템 알고리즘은 "각 문명의 문화적, 국가적 특성"에 기반해야 한다고 지적했습니다. 안전보장이사회는 AI를 고려하기에 적절한 형식이 아닙니다. 미래의 정상회담에서 이미 유엔 시스템에서 이 주제를 고려하기 위한 인프라의 윤곽을 설명했기 때문입니다.
시에라리온 대표는 인공지능을 이용한 허위 정보 유포 캠페인에 대해 경고했는데, 이는 아프리카의 취약한 사회 구조를 불안정하게 만들고 민주적 절차를 훼손할 수 있기 때문이다.
알제리 대표는 "군사 AI의 오용을 막는 구속력 있는 프레임워크가 필요한 시점"이라고 강조하며, AI 격차가 "기계와 알고리즘에 대한 것이 아니라 주권 자체에 대한 것"이라고 지적했습니다. AI 기반 국경 없는 공격은 사회에 피해를 줄 수 있고 "조작된 정보는 정신을 독살할 수 있기 때문입니다. 아프리카 대륙 인공지능 전략과 디지털 협약은 평화를 위한 AI에 대한 대륙의 비전이며, 개발도상국이 "공동의 미래를 위한 동등한 설계자"가 되는 포괄적인 국제 메커니즘을 촉구했습니다.
중국 대표는 2021년에 발표된 차세대 AI 윤리 강령을 포함한 AI 거버넌스에 대한 중국의 작업을 강조하고, AI가 전쟁을 벌이고 패권을 추구하는 도구가 되지 않도록 명확한 지침을 수립하고 "스마트 거버넌스"와 기술 혁신을 강화할 것을 촉구했습니다. 그는 "AI 기술은 소수의 사람들을 위한 케이크가 아니다"고 강조하며, 유엔이 글로벌 AI 거버넌스의 주요 채널이 되어야 한다고 강조했습니다.
Security Council Debates Use of Artificial Intelligence in Conflicts, Hears Calls for UN Framework to Avoid Fragmented Governance
Russian Federation Warns Against Imposing West-Led Rules, Norms
Rapidly evolving artificial intelligence (AI) is outpacing human ability to govern it, even threatening human control over weapons systems, the United Nations chief warned during a Security Council briefing today, urging Member States to swiftly establish “international guard-rails” to ensure a safe, secure and inclusive AI future for all.
“Artificial intelligence is not just reshaping our world — it is revolutionizing it,” underscored Secretary-General António Guterres. AI tools are identifying food insecurity and predicting displacements caused by extreme events and climate change, detecting and clearing landmines, and soon will be able to spot patterns of unrest before violence erupts.
However, recent conflicts have become testing grounds for AI military applications, he pointed out, noting that algorithms, from intelligence-based assessments to target selection, have reportedly been used in making life-and-death decisions. “Artificial intelligence without human oversight would leave the world blind — and perhaps nowhere more perilously and recklessly than in global peace and security,” he warned, adding that “deep fakes” could trigger diplomatic crises, incite unrest and undermine the very foundations of societies. The integration of AI with nuclear weapons must be avoided at all costs, he emphasized.
Amid the pressing need for “unprecedented global cooperation” in reducing fragmentation of AI governance, his High-Level Advisory Body on AI has developed a blueprint for addressing both the profound risks and opportunities that AI presents to humanity, he noted, adding: It has also laid “the foundation for a framework that connects existing initiatives — and ensures that every nation can help shape our digital future”.
Member States should move swiftly in establishing the International Scientific Panel on AI and launching the Global Dialogue on AI Governance within the United Nations, as set forth in the UN Global Digital Compact. “We must never allow AI to stand for ‘Advancing Inequality’,” he added, underscoring the need to support developing countries in building AI capabilities. “Members of this Council must lead by example and ensure that competition over emerging technologies does not destabilize international peace and security,” he urged.
Fei-Fei Li, Sequoia Professor in the Computer Science Department at Stanford University, Co-Director of Stanford’s Human-Centered AI Institute, and Member of the Secretary-General’s Scientific Advisory Board, via videoconference, spotlighted new technology, called Spatial Intelligence, which allows AI systems to perceive and interact with the 3D virtual and physical world. “This work has illuminated further promises of this technology, bringing us to some of the most exciting frontiers of innovation,” she said, citing examples, such as robots that navigate disaster zones to save lives, precision agriculture systems that address food insecurity, and advanced medical imaging tools that improve healthcare outcomes.
“Yet, we must also remain vigilant,” she warned, spotlighting AI’s ability to harm. Member States must act with urgency and unity to ensure that “AI serves humanity rather than undermining it” and that “everyone has equitable access to AI tools”.
A multilateral AI research institute — a network of research hubs bringing together experts from across disciplines and pooling resources across nations — would advance tech innovation and set global norms for responsible AI development and deployment, she said. Governments must foster public sector leadership, champion global collaboration, and advance evidence-based policymaking, she said, and in doing so, “we can unlock AI’s transformative potential while safeguarding its responsible development”.
Also briefing the Council was Yann LeCun, Chief AI Scientist, Meta, and Jacob T. Schwartz, Professor of Computer Science, Data Science, Neural Science and Electrical and Computer Engineering at New York University, who said: “There is no question that, at some point in the future, AI systems will match and surpass human intellectual capabilities.” By amplifying human intelligence, AI may bring, not just a new industrial revolution, but “a new period of enlightenment for humanity”, contributing towards the maintenance of international peace and security by “supercharging the diffusion of knowledge and powering global economic growth”.
“Governments and the private sector must work together to ensure this global network of infrastructure exists to support AI development in a way that enables people all over the world to participate in the creation of a common resource,” he said. International cooperation must focus on two initiatives: collecting cultural material, providing AI-focused supercomputers in multiple regions around the world and establishing a modus operandi for the distributed training of a free and open universal foundation model; and unifying the regulatory landscape, so that the development and deployment of open-source foundation models is not hindered.
Regarding Governments’ concerns about a handful of companies controlling the “digital diet of their citizens”, he said Meta has taken a leading role in producing and distributing free and open-source foundation models. About AI-generated disinformation, he said: “There is no evidence that current forms of AI present any existential risk, or even a significantly increased threats over traditional technology such as search engines and textbooks.”
In the ensuing high-level discussion, Council members underscored the urgent need for coordinated action to prevent the misuse of AI, especially threats to global peace and security, while spotlighting various governance initiatives.
Antony J. Blinken, Secretary of State of the United States, Council President for December, speaking in his national capacity, said that while AI can help achieve 80 per cent of the Sustainable Development Goals, it can also be deployed for destructive and hard-to-trace cyberattacks, and by repressive regimes in targeting journalists. Urging States to condemn and reject its malicious use by any actor, he said his country has been working to set rules around the use of AI and mobilize a collective response. Leading American technology companies have committed to the use of watermarks for AI-generated content, for example, and last month, an international network of artificial intelligence safety institutes was launched to set benchmarks for testing and safety.
Gabriela Sommerfeld, Minister for Foreign Affairs and Human Mobility of Ecuador, highlighted AI’s potential to buttress peacekeeping operations through early warning systems and support for mediation. However, the unbridled development of artificial intelligence, without regulation and respect for human rights, poses risks, including concentrating power, exacerbating geopolitical tensions and weakening democratic processes. Non-State actors can misuse AI in recruitment, coordination and incitement, she added, calling for a coordinated effort to govern artificial technologies. Setting up an international panel on the “state of play” for AI, like the Intergovernmental Panel on Climate Change, is an “interesting” option, she said.
Verónica Nataniel Macamo Dlhovo, Minister for Foreign Affairs and Cooperation of Mozambique, pointed out that “while the electrical power grid took 50 years to reach 100 million users, recent AI applications, like ChatGPT, reached the same milestone in just two months in 2022”. The dual-use nature of AI-based technologies points to the urgency of anticipatory governance, she said, stressing that AI must be aligned with the Charter of the UN and the Universal Declaration of Human Rights. The Council has a crucial role in ensuring that AI is a “force for global peace, progress and stability,” she added.
Thomas Gürber, State Secretary of Switzerland, highlighting AI’s major impact on UN diplomacy over the past two years, stressed the need for rules to ensure that AI systems are safe, secure and responsibly managed, and inclusive of all State and non-State stakeholders. Spotlighting AI’s ability to implement the Council’s mandates, he recalled the Switzerland-organized May 2024 Arria-formula meeting to illustrate this potential in peace operations. In collaboration with the Geneva-based DiploFoundation, Switzerland has developed an AI-based tool that facilitated data analysis from ten Council meetings, particularly focusing on the New Agenda for Peace, she added.
Several speakers joined the Secretary-General's repeated calls for adequate regulation on autonomous weapons. Malta’s delegate urged consensus to advance discussions within the Group of Governmental Experts on Lethal Autonomous Weapons in Geneva. Moreover, ethical considerations must be embedded into artificial intelligence development, as called for by the United Nations Educational, Scientific and Cultural Organization’s (UNESCO) AI Ethics Declaration.
France’s representative said it will host the Artificial Intelligence Action Summit on 10 and 11 February 2025, to form “a common bedrock for governance”. He urged the Council to improve its consideration of artificial intelligence, including in the monitoring of the implementation of sanctions regimes.
The United Kingdom’s delegate said his country is an inaugural signatory to the Council of Europe’s Framework Convention on Artificial Intelligence and human rights, democracy and the rule of law — the first-ever international legally binding treaty in the field. He also highlighted London’s £58 million contribution for capacity building, under the aegis of the AI for Development initiative, to help six African countries conduct AI research.
Guyana’s delegate was among speakers who voiced concern about the use of artificial intelligence in the Occupied Palestinian Territory, noting that AI weapons are also being programmed and authorized to select their targets without further human authorization. Slovenia’s representative, adding to that, urged the Security Council to address AI-related risks to ensure its compliance with international law. “These risks are not speculative or distant; they are a reality in contemporary conflicts,” she emphasized.
The Republic of Korea’s representative said the Blueprint for Action from the Summit on Responsible Artificial Intelligence in the Military Domain in Seoul, which his country co-hosted with the Netherlands in September, lays out key principles and can serve as a valuable stepping stone for the international community to achieve the responsible military use of AI. His counterpart from Japan said appropriate measures should be implemented throughout the lifecycle of military AI capabilities. In the non-military domain, interoperability among different AI governance networks must be ensured.
The Russian Federation’s delegate said that while the United States’ ambitions to consider the fate of humanity in the age of rapid AI development are understandable, it is equally important to recognize a key lesson from history. Attempts to impose rules on others while exempting themselves from those same rules risk repeating past mistakes and undermining the path toward genuine global cooperation. His country’s national AI strategy foresees provision of technical assistance to the Global South and East, he said, noting that AI system algorithms must be based on “cultural and national specifics of each civilization”. The Security Council is not an appropriate format for considering AI as the Summit of the Future already outlined the contours of infrastructure for considering this subject in the UN system.
Sierra Leone’s delegate warned against artificial intelligence-enabled disinformation campaigns, which could destabilize fragile social fabrics and undermine democratic processes in Africa.
“The time has come for a binding framework that prevents the misuse of military AI”, underscored Algeria’s representative, pointing out that a growing AI divide “is not about machines and algorithms — it is about sovereignty itself”, as AI-powered, border-proof attacks can damage societies and “manipulated information can poison minds”. Africa's Continental Artificial Intelligence Strategy and Digital Compact are the continent’s vision for AI for peace, he said, calling for inclusive international mechanisms where developing countries are “equal architects for our shared future”.
China’s representative spotlighted his country’s work on AI governance, including its Code of Ethics for the new generation of AI released in 2021, and called for establishing clear guidelines and enhancing “smart governance” and technological innovation, so that AI will not become the tool for waging wars and pursuing hegemony. “AI technology is not a cake for a small group of people”, he emphasized, stressing that the UN should become the main channel for global AI governance.
블링컨 장관: 리 씨, 귀하의 통찰력을 공유해 주셔서, 귀하의 아이디어를 협의회와 공유해 주셔서 대단히 감사합니다. 깊이 감사드립니다.
저는 이제 미국 국무장관으로서 제 자격으로 성명을 발표하겠습니다. 그리고 다시 한 번, 다시 한 번, 우리의 브리핑 담당자 두 분, LeCun 씨, Li 씨께 오늘 저희와 생각을 공유해 주셔서 감사드리고 싶습니다.
방금 들었듯이, 우리 중 많은 사람이 알고 있다고 생각하지만, 인공지능은 엄청난 좋은 일을 할 잠재력이 있습니다. 과학자들은 AI를 사용하여 항생제 내성 박테리아와 싸울 수 있는 약물을 발견하고 있습니다. AI 모델은 지역 사회가 더 잘 대비할 수 있도록 자연 재해를 더 정확하게 예측하고 있습니다. 이러한 도구는 차세대 전기 자동차 배터리를 만드는 데 도움이 될 수 있는 새로운 결정 구조를 식별하고 있습니다.
이러한 방법과 그 외 여러 방법을 통해 AI는 유엔 지속 가능한 개발 목표의 약 80%를 달성하는 데 있어 진전을 가속화할 수 있습니다.
동시에, 우리가 들었듯이, AI가 오용된다면 이 위원회가 수호해야 할 국제 평화와 안보에 엄청난 위협을 가할 수 있습니다. 해커는 AI를 통해 사이버 공격을 더 파괴적으로 만들고 추적하기 어렵게 만들 수 있습니다. 억압적인 정권은 AI 지원 감시를 사용하여 언론인과 정치적 반체제 인사를 표적으로 삼아 사회를 불안정하게 만들고 있습니다. 알고리즘이 무기 시스템에 내장되어 있고 오작동하는 경우 실수로 갈등을 일으킬 수 있습니다.
AI에 대한 도로 규칙을 정함으로써 우리는 이러한 위험을 최소화할 수 있습니다. 우리는 이 기술의 탁월한 약속을 활용할 수 있습니다. 그리고 우리는 유엔이 글로벌 디지털 협약에 명시한 비전을 실현할 수 있습니다. 즉, 기술이 포용적이고, 개방적이며, 지속 가능하고, 공정하며, 안전하고, 모든 곳의 사람들에게 안전한 미래입니다.
지난 몇 년 동안 미국은 이러한 공통 목표를 향한 국제적 노력을 주도해 왔습니다. 세계 최고의 기술 기업의 본거지로서, 우리는 인공지능의 진화에 영향을 미칠 책임이 있습니다.
우리는 또한 집단적 대응을 동원하는 데 전념하고 있습니다. 그래서 우리는 전 세계 국가의 정부, 민간 부문, 시민 사회의 파트너와 협력하여 AI의 위험과 기회를 모두 해결했습니다.
첫째, 우리 정부는 AI 시스템을 더 안전하게 만들기 위해 미국의 주요 기업들로부터 약속을 확보했습니다. 예를 들어, 그들은 사용자가 AI에서 생성된 콘텐츠를 인식하는 데 도움이 되는 워터마크와 같은 도구를 만드는 데 동의했습니다. 또한 해커로부터 AI 모델을 보호하기 위해 사이버 보안을 강화할 것입니다.
일본의 리더십 하에 G7은 이러한 공약을 전 세계 AI 개발자를 위한 행동 강령으로 확대했습니다. 안전 위험을 식별하기 위한 테스트를 실행하고, 잠재적인 해악에 대한 연구를 우선시하고, AI의 한계에 대해 공개적으로 보고하여 책임을 강화할 것을 권고합니다.
그런 다음, 올해 초 미국은 AI에 대한 최초의 독립적인 UN 총회 결의안을 제출했고, 모든 회원국이 합의로 채택했습니다. 우리는 인권을 존중하고 경제적, 사회적 발전을 촉진하는 안전하고 보안이 유지되고 신뢰할 수 있는 AI 시스템을 촉진하기로 약속했습니다.
우리는 또한 전 세계에 여전히 존재하는 디지털 격차를 해소함으로써 부분적으로 AI의 이점을 더 쉽게 이용할 수 있도록 하는 데 동의했습니다. 이는 중국이 초안하고 유엔이 6월에 채택한 두 번째 결의안에서 강조한 것입니다.
미국과 우리 파트너들은 AI에 대한 세계적 합의를 이루었으며, 이제 우리는 그것을 바탕으로 더욱 발전해 나가고 있습니다.
지난달, 미국은 연구자와 전문가가 AI 시스템을 테스트하고 평가하기 위한 공유 벤치마크를 만드는 AI 안전 연구소의 국제 네트워크를 출범시켰습니다. 그들의 권장 사항은 개발자와 기술 회사에 실용적인 지침을 제공할 것입니다.
우리는 또한 정부를 위한 기본 규칙을 얻고 설정하고 있습니다. 올해 유럽 연합, 미국, 다른 9개국이 AI에 대한 최초의 국제 조약에 서명했습니다. 우리는 AI를 사용할 때 인권, 민주주의, 법치주의를 보호하겠다고 약속했습니다. 즉, 데이터 프라이버시를 보호하는 것을 의미합니다. 투명성과 책임성 조치를 채택하는 것을 의미합니다. 해를 제한할 수 있는 다른 전략을 구현하는 것을 의미합니다.
미국은 또한 군대에 대한 가이드라인을 준수하기 위해 거의 60개 정부를 결집했습니다. 예를 들어, 우리는 고위 공무원이 무기 시스템을 포함하여 AI의 개발 및 배치를 감독하고 이러한 도구가 국제 인도법을 따르는 방식으로 사용되도록 하기를 원합니다.
한편, 11월 회동에서 바이든 대통령과 시 주석은 핵무기 사용에 대한 결정은 오직 인간만이 통제해야 한다고 확언했습니다.
AI에 대한 공유 원칙을 고수하기 위해 노력하는 동안, 미국은 이 기술에 대한 접근성을 개선하여 모든 지역 사회가 혜택을 볼 수 있도록 하고 있습니다. 우리는 선도적인 기술 회사와 협력하여 교육을 주최하고, 지역 데이터 세트를 구축하고, 개발자와 연구자에게 AI 도구를 제공하고 있습니다. 이번 여름, 미국과 모로코는 또한 유엔에 모든 회원국에 개방된 그룹을 설립하여 모든 지역의 전문가들이 인공 지능을 도입하기 위한 모범 사례를 공유하고 있습니다.
이제, 그것이 진짜 진전입니다. 하지만 모든 진전에도 불구하고, 저는 우리 모두가 해야 할 일이 훨씬 더 많다는 것을 알고 있다고 생각합니다. 선도적인 기술 분야를 가진 국가는 보안 기준을 유지하고 AI가 남용되는 것을 방지하기 위해 더 많은 노력을 기울여야 합니다.
국제 사회는 AI 시스템의 무책임한 오용에 맞서 함께 뭉쳐야 합니다. 오늘날 국가 및 비국가 행위자들은 이러한 도구를 사용하여 여론에 영향을 미치고 왜곡하고, 지정학적 서사를 조작하고, 공격적인 사이버 작전을 더욱 효과적으로 만들고 있습니다. 그리고 이는 AI가 발전함에 따라 더욱 악화될 뿐입니다.
미국은 어떠한 행위자에 의한 AI의 악의적 사용에도 반대하며, 이 협의회의 다른 사람들에게 이러한 관행을 거부하고 비난할 것을 촉구합니다. 우리는 공유된 규범을 고수하고 진정으로 안전하고 보안이 유지되는 AI 시스템을 구축해야 합니다.
앞으로 몇 달, 몇 년 동안 이 위원회는 중요한 책임을 져야 합니다. 이 기구는 창설 이래 국제 평화와 안보에 대한 가장 큰 위협인 갈등, 테러리즘, 핵무기 확산에 대처하기 위해 적응해 왔습니다. 안전보장이사회가 이 책임을 계속 지려면(미국은 그래야 한다고 믿습니다) 회원국은 인공지능의 진화하는 위험에 맞서 싸워야 할 의무가 있습니다. 이를 위해서는 우리의 집단적 힘을 활용하여 AI에 대한 국제 규범을 설정, 업데이트하고 결국에는 시행해야 합니다. 간단히 말해서, 이는 지속 가능한 안보에 필수적이기 때문입니다.
오늘날 우리가 들은 뛰어난 두뇌들, AI의 진화에 대해 연구하고 생각하는 데 많은 노력을 기울인 사람들이 있음에도 불구하고, 우리 중 누구도 AI의 미래가 어떻게 될지 완벽하게 예측할 수 없다고 생각합니다. 이 기술이 시간이 지남에 따라 어떻게 변화하는지 완벽하게 이해하려면, 즉 이 기술이 초래할 수 있는 위험을 앞서가려면 계속해서 협력해야 합니다. 개발자, 기업 리더, 시민 사회 구성원들과 계속 협력해야 합니다.
이렇게 한다면 AI를 더 나은 방향으로 발전시킬 수 있고, 전 세계 사람들의 진보와 발전을 위한 힘으로 남을 수 있을 것이라고 확신합니다.
이로써 저는 협의회 의장으로서의 기능을 재개합니다. 그리고 이제 에콰도르의 외무부 장관이자 인적 이동성 장관인 가브리엘라 조머펠트 여사께 발언권을 드리고자 합니다.
2024년 12월 19일
유엔 안전보장이사회에 대한 사무총장의 연설 - 인공지능에 관하여 [양국어, 전달된 대로]
대통령님, 각하들,
미국이 인공지능과 국제 평화와 안보 유지에 관한 회의를 소집한 데 대해 감사드립니다.
저는 2023년 7월에 이 위원회에 AI에 대해 브리핑했습니다. 제가 그때 말했듯이, 기술이 매우 빠르게 발전하고 있다고 느끼는 사람들은 간단한 사실을 이해해야 합니다.
미래에는 기술이 오늘날처럼 느리게 발전하지 않을 것이다.
그 이후 짧은 시간 동안 인공지능은 숨가쁘게 발전했습니다.
기록적인 투자에 힘입어 오늘날의 AI 모델은 더욱 강력하고, 더 다양하며, 더 접근성이 높아지고 있습니다. 언어, 이미지, 사운드, 비디오뿐만 아니라 의사 결정을 자동화하는 기능도 갖추고 있습니다.
인공지능은 우리의 세계를 바꿀 뿐만 아니라 혁명을 일으키고 있습니다.
수년간 인간의 전문 지식이 필요했던 작업이 이제는 눈 깜짝할 새에 완료됩니다.
하지만 위험도 마찬가지로 큽니다.
이러한 급속한 성장은 우리의 통치 능력을 앞지르고 있으며, 책임, 평등, 안전 및 보안에 대한 근본적인 의문을 제기하고 있습니다.
그리고 의사결정 과정에서 인간의 역할에 대해서요.
인간의 감독이 없는 인공 지능은 전 세계를 눈멀게 할 것이고, 아마도 세계 평화와 안보보다 더 위험하고 무모한 일은 없을 것이다.
대통령님,
AI 도구는 이미 갈등과 불안정에 시달리는 국가에 긍정적인 변화를 가져다주고 있습니다.
극한 현상과 기후 변화로 인한 식량 불안을 파악하고 이주를 예측합니다.
지뢰 탐지 및 제거.
그리고 곧, AI는 폭력이 터지기 전에 불안의 패턴을 포착할 수 있을 것입니다.
하지만 AI는 훨씬 더 우려스러운 방식으로 전장에 들어왔습니다.
최근의 갈등은 AI 군사적 응용에 대한 시험장이 되었습니다.
보안 시스템에 대한 AI의 확장은 자율 국경 감시부터 예측적 경찰 활동 등에 이르기까지 인권, 존엄성, 법치주의에 대한 근본적인 우려를 제기합니다.
저는 오랫동안 AI 기반 시스템의 예상치 못한 결과에 대해 경고해 왔습니다. 각각의 발전은 새롭고 상상할 수 없는 취약점을 만들어냅니다.
"AI 군비 경쟁"은 오해, 잘못된 계산 및 실수를 불러올 수 있는 비옥한 토양을 조성합니다.
AI를 활용한 사이버 공격은 국가의 중요 인프라를 마비시키고 필수 서비스를 마비시킬 수 있습니다.
가장 중요한 것은, AI가 무력 사용에 대한 인간의 통제라는 기본 원칙을 침식하고 있다는 것입니다.
정보 기반 평가부터 대상 선택까지, 알고리즘은 이미 생사를 가르는 결정을 내리는 데 사용된 것으로 알려졌습니다.
AI와 다른 기술의 융합은 이러한 위험을 기하급수적으로 증폭시킵니다.
특히 AI와 핵무기의 통합은 잠재적으로 재앙적인 결과를 초래할 수 있어 우려스럽습니다.
우리는 어떤 대가를 치르더라도 이를 피해야 합니다.
그리고 미래를 내다보면, 양자 AI 시스템은 가장 강력한 방어선을 뚫고 하룻밤 사이에 디지털 보안 규칙을 다시 쓸 수도 있습니다.
분명히 말해두자면, 인류의 운명은 결코 알고리즘의 '블랙박스'에 맡겨져서는 안 됩니다.
인간은 언제나 국제법, 국제 인도주의 및 인권법, 윤리 원칙을 준수하여 의사 결정 기능에 대한 통제권을 유지해야 합니다.
인간의 손이 AI를 만들었습니다.
인류의 손이 이를 앞으로 이끌어야 한다.
대통령님,
무기 체계 이외에도 우리는 인공지능이 평화와 안보에 미치는 다른 위험도 해결해야 합니다.
AI는 온라인 플랫폼에서 즉시 퍼질 수 있는 매우 사실적인 콘텐츠를 만들어내 여론을 조작하고, 정보 무결성을 위협하고, 진실과 노골적인 거짓말을 구별할 수 없게 만듭니다.
딥페이크는 외교적 위기를 촉발하고, 불안을 조장하고, 사회의 기반을 훼손할 수도 있습니다.
AI가 환경에 미치는 영향은 뚜렷한 보안 위험을 초래합니다.
AI 데이터 센터의 엄청난 에너지 및 물 소비와 필수 광물에 대한 급한 수요로 인해 위험한 자원 경쟁과 지정학적 긴장이 조성되고 있습니다.
대통령님,
전례 없는 세계적 과제는 전례 없는 세계적 협력을 요구합니다.
2023년 7월, 저는 일부 회원국이 "AI를 관리하기 위한 공동의 노력을 지원하고" "국제적으로 합의된 모니터링 및 거버넌스 프레임워크와 메커니즘을 수립하고 관리하는 새로운 유엔 기관을 창설"하자는 요청을 환영했습니다.
그 이후로 일련의 이니셔티브를 통해 국제 평화와 안보에 미치는 영향에 대한 고위급 논의가 촉발되었습니다. 여기에는 군사 분야에서 AI의 책임 있는 적용에 대한 논의도 포함됩니다.
많은 회원국, 지역 그룹, 국제 기구에서 AI에 대한 선언이 발표되었습니다.
유엔은 AI 거버넌스의 단편화를 줄이고 이러한 별도의 이니셔티브를 공통 프레임워크로 통합하기 위해 노력해 왔습니다.
총회는 AI에 관한 두 가지 결의안을 채택하여 강화된 글로벌 협력과 역량 구축을 촉진했습니다.
군사 분야의 AI에 초점을 맞춘 세 번째 결의안은 제1위원회에서 권고되었으며 앞으로 며칠 안에 총회에서 검토될 예정입니다.
광범위한 글로벌 협의를 바탕으로, 저의 AI에 대한 고위 자문 위원회는 기록적인 시간 안에 AI가 인류에게 제시하는 엄청난 위험과 기회를 모두 해결하기 위한 청사진을 개발했습니다.
그들의 작업은 기존 이니셔티브를 연결하는 프레임워크의 기반을 마련했으며, 모든 국가가 디지털 미래를 형성하는 데 도움을 줄 수 있도록 보장했습니다.
유엔 글로벌 디지털 협약은 이러한 공유된 비전을 행동으로 전환합니다.
미래 정상회의에서 리더들이 채택한 이 협약은 AI 거버넌스에 관한 최초의 보편적으로 지지된 프레임워크입니다.
그것은 AI에 대한 독립적인 국제 과학 패널을 설립하고 유엔 내에서 AI 거버넌스에 대한 글로벌 대화를 시작하는 데 전념합니다. 모든 국가가 이 자리에 앉을 수 있도록 합니다.
그리고 협약은 가장 필요한 곳에 AI 역량을 구축하기 위한 혁신적인 자금 조달 옵션을 요청합니다. 이를 통해 개발도상국이 우리의 전적인 지원을 받을 수 있습니다.
AI를 가진 사람과 못 가진 사람이 공존하는 세상은 끊임없는 불안정의 세상이 될 것입니다.
우리는 AI가 "불평등을 심화시킨다"는 것을 결코 허용해서는 안 됩니다.
단편화된 AI 영역의 출현을 막는 것만이 기술이 인류 전체에 도움이 되는 세상을 만들 수 있는 방법입니다.
[프랑스 국민]
대통령 각하, 각하, 대통령 각하 ,
Les prochaines étapes seront importantes – et nos choix는 façonneront notre avenir를 제시합니다. 우리의 다음 단계는 매우 중요할 것이며 , 지금 우리가 내리는 선택이 우리의 미래를 정의할 것입니다.
Tout retard dans la mise en place de garde-fous internationaux accroît le risque pour nous tous를 홍보하세요. 국제 가드레일 구축이 지연되는 매 순간 우리 모두의 위험은 증가합니다.
J'exhorte les États membres à agir rapidement afin d'établir le Groupe scientifique International sur l'Intelligence Artificielle et d'engager le Dialogue mondial sur la gouvernance de l'Intelligence Artificielle – au sein de l'Organisation des Nations unies. 나는 회원국들이 AI에 관한 국제 과학 패널을 설립 하고 UN 내에서 AI 거버넌스에 관한 글로벌 대화를 시작하는 데 신속하게 움직일 것을 촉구합니다.
Je réitère également mon appel à interdire les armes autonomes létales. Nous devons établir de nouvelles 금지 및 제한 sur les systèmes d'armes autonomes d'ici à 2026. 저는 또한 치명적인 자율 무기를 금지해야 한다는 요구를 다시 한번 강조합니다. 우리는 2026년까지 자율 무기 시스템에 대한 새로운 금지 및 제한을 확립해야 합니다.
Aucun은 ne doit concevoir, 개발자, 배포자 또는 응용 프로그램 militaires de l'Intelligence Artificielle dans les conflits armés qui Violent le droit International, le droit Humanitaire et les droits humains에 대한 비용을 지불합니다. Cela에는 지능 인공지능에 대한 선택이 포함되어 있습니다. 어떤 국가도 국제법, 인도법 및 인권을 위반하는 무력 충돌에서 AI의 군사 응용 프로그램을 설계, 개발, 배포 또는 사용해서는 안 됩니다. 여기에는 AI를 활용하여 자율적으로 대상을 선택하거나 참여시키는 것이 포함됩니다.
Les membres de ce Conseil doivent montrer l'exemple et bayler à ce que la compétition autour des technology émergentes ne déstabilise pas la paix et la sécurité Internationales. 이 위원회 의 구성원은 모범을 보여야 하며 신기술을 둘러싼 경쟁이 국제 평화와 안보를 불안정하게 만들지 않도록 해야 합니다.
여러분은 bâtir l'avenir de l'Intelligence Artificielle – un avenir sûr, sécurisé et inclusif를 위한 단일 장치를 초대합니다. 저는 여러분 모두가 안전하고 포용적인 AI 미래를 구축하기 위해 힘을 합칠 것을 촉구합니다.
Je vous remercie. 고맙습니다.
인공지능: 고위 브리핑
내일 아침(12월 19일), 안전보장이사회는 "국제 평화와 안보 유지" 의제 항목에 따라 인공지능 (AI)에 대한 브리핑을 위해 소집될 예정입니다. 앤터니 블링컨 미국 국무장관이 회의를 주재할 예정이며, 이는 미국이 12월 안전보장이사회 의장국을 맡는 대표적인 행사 중 하나입니다. 유엔 사무총장 안토니우 구테흐스, Meta의 Fundamental AI Research(FAIR) 팀의 수석 AI 과학자 얀 르쿤, 스탠포드 대학 컴퓨터 과학부 교수이자 스탠포드 인간 중심 AI 연구소 공동 소장인 페이페이 리의 브리핑이 예상됩니다.
미국이 준비한 컨셉트 노트 에 따르면 , 이 회의는 신기술에 대한 이전 이사회 논의와 이러한 과제에 대한 글로벌 대화를 진전시키기 위한 회원국들의 최근 노력을 바탕으로 진행하는 것을 목표로 합니다. 컨셉트 노트는 논의를 안내하는 데 도움이 되는 몇 가지 질문을 제기합니다. 여기에는 다음이 포함됩니다.
국제 사회는 AI의 책임감 있는 개발과 사용을 어떻게 보장할 수 있을까?
국제 사회는 AI를 어떻게 관리하여 디지털 격차를 줄이는 동시에 국제 평화와 안보에 기여할 수 있을까?
회원국은 AI로 인한 위험을 파악하고 완화하는 동시에 혁신을 방해하고 개발도상국이 AI의 이점을 누리지 못하게 하는 글로벌 거버넌스의 패치워크를 피하는 강력한 국제 생태계를 육성하기 위해 어떤 추가 조치를 취할 수 있을까요?
회원국은 군사 분야에 AI를 적용하는 데 따른 잠재적 위험을 완화하고 적절한 안전 장치를 마련하기 위해 어떤 추가 조치를 취할 수 있을까요?
사무총장의 2023년 7월 정책 간략서 " 평화를 위한 새로운 의제" 는 AI를 광범위한 민간, 군사 및 이중 용도 응용 분야에서 점점 더 많이 사용되고 있는 지원 기술이자 파괴적 기술로 인정했습니다. 이 정책 간략서는 AI의 보편성 증가와 빠른 확장성, 투명성 부족, 혁신 속도가 결합되어 국제 평화와 안보에 잠재적 위험을 초래하고 거버넌스 문제를 야기한다고 강조했습니다. 이 정책 간략서는 회원국에 평화와 안보 영역 내에서 AI 기반 시스템을 규제하는 프레임워크를 개발하여 이러한 위험을 해결할 것을 촉구했습니다. 이와 관련된 한 가지 제안은 지속 가능한 개발을 촉진하는 잠재력을 활용하면서 AI와 관련된 위험을 완화하기 위한 글로벌 기구를 설립하는 것이었으며, 국제원자력기구(IAEA), 국제민간항공기구(ICAO), 기후 변화에 관한 정부간 패널(IPCC)과 같은 거버넌스 모델을 활용할 수 있습니다.
사무총장이 2023년 10월에 설립하여 국제 사회의 AI 거버넌스를 지도하기 위해 만든 AI 고위자문기구(HLAB-AI)의 최종 보고서는 현재 그러한 기관을 설립할 것을 권고하지 않았습니다. 그러나 AI 위험이 심화되면 회원국은 모니터링, 보고, 검증 및 집행 권한이 있는 보다 강력한 국제 기관을 설립하는 것을 고려해야 할 수도 있다고 언급했습니다. 이 보고서는 AI에 대한 공정하고 신뢰할 수 있는 과학적 지식을 제공하기 위해 AI에 대한 국제 과학 패널을 만들고, AI 거버넌스에 대한 UN 주도 정책 대화를 소집하고, 글로벌 AI 기금을 설립하고, 기술적 격차를 해소하기 위한 역량 강화 네트워크를 개발할 것을 권고했습니다.
9월 22일 미래 정상회의에서 회원국은 미래를 위한 협정 과 그 부속서인 글로벌 디지털 협약 (GDC)과 미래 세대에 관한 선언을 채택했습니다 . 국제 평화와 안보에 초점을 맞춘 협정 제2장 27(d) 조치는 회원국이 관련 이해 관계자와 협의하여 AI의 군사적 적용과 관련된 위험과 기회를 수명 주기 전반에 걸쳐 계속 평가하도록 규정했습니다. 나아가 GDC는 HLAB-AI의 권고에 따라 AI에 대한 학제간 독립 국제 과학 패널을 설립하고 UN 내에서 AI 거버넌스에 대한 글로벌 대화를 시작하기로 결정했습니다.
안전보장이사회는 최근에야 AI와 국제 평화와 안보 간의 연관성을 탐구하기 시작했습니다. 최근 몇 년 동안 이사회 회원국은 이러한 발전의 다양한 측면을 다루기 위해 여러 차례 공식 회의를 소집했습니다. 여기에는 기술과 평화 유지 (2021년 8월 18일), 기술과 안보 (2022년 5월 23일), 인공지능 (2023년 7월 18일), 과학적 발전이 국제 평화와 안보에 미치는 영향 예상 (2024년 10월 21일)이 포함됩니다. 이사회 회원국은 또한 신기술 (2021년 5월 17일), 인공지능과 증오 표현, 허위 정보 및 잘못된 정보 (2023년 12월 19일), 그리고 가장 최근에는 평화와 안보를 위한 과학의 잠재력 (5월 17일)을 포함한 유사한 주제에 대한 비공식적인 Arria-formula 회의를 조직했습니다.
평화와 안보의 맥락에서 AI에 대한 논의는 주로 정보통신기술(ICT)의 보안과 사용에 대한 개방형 실무 그룹(OEWG)과 치명적 자율무기 시스템(LAWS) 분야의 신기술에 대한 정부 전문가 그룹(GGE)과 같은 전문 포럼에서 이루어졌습니다.
총회는 또한 AI 관련 문제를 다루는 데 점점 더 적극적으로 나서고 있습니다. 3월 21일에 총회는 "지속 가능한 개발을 위한 안전하고 보안이 유지되며 신뢰할 수 있는 인공지능 시스템의 기회 포착"이라는 제목의 AI에 대한 첫 번째 결의안을 채택했는데, 이는 디지털 격차, 구조적 불평등, 인권 위협과 같은 위험을 강조했습니다. 7월 1일에 총회는 "인공지능 역량 강화에 대한 국제 협력 강화"라는 제목의 중국 주도 결의안을 채택했습니다 . 그 후 두 개의 별도 친구 그룹이 설립되었습니다. 미국과 모로코가 설립한 지속 가능한 개발을 위한 인공지능에 대한 친구 그룹과 중국과 잠비아가 공동 의장을 맡은 AI 역량 강화를 위한 국제 협력을 위한 친구 그룹입니다.
10월 16일, 유엔 총회 제1위원회는 네덜란드와 대한민국(ROK)이 공동으로 주도하는 "군사 분야의 AI와 국제 평화와 안보에 대한 의미"라는 제목의 결의안을 채택했습니다 . 이 결의안은 군사 분야에서 AI를 사용할 때 유엔 헌장, 국제 인도법, 인권법을 포함한 국제법의 적용 가능성을 확인하고 책임감 있고 인간 중심적인 AI 사용의 중요성을 강조했습니다. 이 결의안은 찬성 165표, 반대 2표, 기권 6표 를 받았습니다 . 반대표를 던진 러시아를 제외한 모든 이사회 회원국이 이 결의안에 찬성표를 던졌습니다. 러시아는 투표에 대한 설명에서 이 결의안이 진행 중인 다자간 노력, 특히 LAWS에 대한 GGE 하의 노력을 분열시킬 수 있다는 우려를 언급했습니다 . 모스크바는 또한 AI의 "책임 있는 적용"에 대한 기준이 포함되고 지역적 이니셔티브가 인정된 것을 비판했는데, 이는 군사 AI 거버넌스에 대한 국제적 논의에 대한 규범을 지시해서는 안 된다고 주장했습니다.
내일의 브리핑에서 이사회 회원들은 광범위한 AI 관련 이슈를 다룰 것으로 예상되며, AI 사용을 규제하고 표준을 확립하기 위한 국가 및 지역 이니셔티브를 강조할 것입니다. 몇몇 회원들은 유엔 헌장, 국제 인도주의법, 인권법을 포함한 국제법이 AI의 군사적 응용 프로그램에 적용될 수 있음을 강조할 가능성이 높습니다. 이러한 회원들은 혁신을 촉진하고 거버넌스 분열을 방지하는 상호 운용 가능한 보호 장치와 표준을 개발하기 위한 포괄적인 국제 협력을 옹호하면서 AI 시스템이 안전하고 보안이 유지되며 신뢰할 수 있어야 한다는 필요성을 강조할 수 있습니다.
또한 여러 이사회 회원은 비정부 기구, 민간 부문, 학계를 포함한 다양한 이해 관계자와 AI 관련 문제에 참여할 필요성을 강조할 것으로 예상됩니다. 여러 회원은 디지털 및 기술적 격차를 해소하기 위해 개발도상국에 대한 더 큰 지원을 요구할 것으로 예상됩니다. 또한 일부 회원은 유엔의 업무를 강화하고 이사회의 의사 결정 프로세스를 개선하기 위해 AI 기술을 활용하는 것의 중요성을 강조할 가능성이 높습니다. 이와 관련하여 2020년 3월 30일 결의안 2518 과 2021년 5월 24일 의장 성명 에 대한 언급이 있을 수 있으며 , 이는 평화유지 활동의 상황 인식과 운영 역량을 강화하기 위해 새로운 기술을 통합하려는 이사회의 의지를 재확인한 것입니다.
안전보장이사회 회원들은 국제 평화와 안보에 대한 AI 관련 위협에 대처하는 안전보장이사회의 역할에 대해 상충되는 견해를 제시할 것으로 예상됩니다. 일부 회원들은 국제 평화와 안보를 유지하는 주요 기관으로서 안전보장이사회가 세계 평화와 안보에 대한 위협을 효과적으로 예상하고 예방하기 위해 기술 발전에 발맞춰야 한다고 주장할 수 있습니다. 이러한 회원들은 안전보장이사회가 과학적 발전, 특히 국제 평화와 안보에 미치는 영향에 대한 과학적 발전을 보다 체계적으로 고려하겠다는 의지를 표명한 10월 21일 스위스에서 작성된 의장 성명을 참조 할 수 있습니다. 다른 회원들은 중복을 피하기 위해 총회와 전문 포럼에서 보다 광범위한 논의를 옹호하면서 안보적 맥락 내에서 문제를 좁게 규정하는 것에 대해 경고할 수 있습니다. 특히 러시아는 ICT의 보안 및 사용에 대한 OEWG와 LAWS에 대한 GGE와 같은 프로세스의 결과를 선점하는 것에 대해 우려를 표명했습니다
연설
AI는 국제 평화와 안보를 지원하는 중요한 기회를 제공합니다: 유엔 안전보장이사회에서 영국 성명
유엔 안전보장이사회 인공지능 회의에서 영국 유엔 차석대사인 제임스 카리우키 대사가 발표한 성명입니다.
블링컨 장관님께 감사드립니다. 이 중요한 회의를 소집해 주신 미국 대통령께 감사드리고, AI 거버넌스 분야에서 보여주신 국제적 리더십에 감사드립니다. 여기에는 인공지능에 대한 최초의 총회 결의안도 포함됩니다.
또한 통찰력 있는 브리핑을 해 주신 르쿤 교수님과 리 교수님에게도 감사드립니다.
그리고 저는 이 혁신적인 기술이 가져올 주요 기회와 심각한 위험을 우리의 주의를 끌기 위해 꾸준히 캠페인을 펼치고, 국제 사회의 대응을 형성해 온 사무총장께 경의를 표하고 싶습니다.
영국이 인공지능의 안보적 의미에 대한 첫 번째 안전보장이사회 회의를 소집한 지 18개월이 지났습니다. 사무총장이 말했듯이, 그 이후로 상황은 빠르게 진전되었습니다.
유엔 글로벌 디지털 협약 및 영국에서 시작한 AI 정상회담 시리즈를 비롯한 국제 협력에서 상당한 진전이 이루어졌습니다.
미국 총회 결의안 외에도 우리는 중국이 주도하는 AI 역량 강화에 관한 총회 결의안을 모두 만장일치로 채택했습니다.
그리고 AI 혁신가들에게 노벨상 두 개가 수여되었는데, 두 상 모두 영국 과학자들에게 수여되었습니다.
오늘은 평화와 안보에 대한 우리의 우선순위, 이 분야에서 AI가 제공하는 기회, 그리고 역량 강화를 통해 이러한 이점을 어떻게 공유할 수 있는지에 대해 이야기해보겠습니다.
첫째, 영국은 AI가 갈등을 심화시키고 피해를 입힐 수 있는 위험을 가져온다는 것을 인식합니다.
그러나 이 계획은 보다 나은 의사결정, 조기 경보 시스템 개선, 회복력과 비상 대비를 뒷받침하는 강화된 계획을 포함하여 국제 평화와 안보를 지원할 수 있는 중요한 기회도 제공합니다.
영국은 군사 분야 책임 있는 AI 정상회담과 미국이 주도하는 AI의 책임 있는 군사적 사용에 대한 정치 선언을 통해 군사적 맥락에서 국제적 이해를 높이기 위한 진전을 환영합니다.
“군사 분야에서의 인공지능”에 관한 총회 결의안은 AI의 안전하고 책임감 있는 개발을 위한 노력을 진전시킬 수 있는 중요한 기회를 제공합니다.
AI는 또한 평화 유지에 상당한 기회를 제공합니다. AI는 임무의 데이터 수집, 분석 노력, 상황 인식 및 의사 결정을 개선할 수 있습니다.
따라서 영국은 유엔 평화 유지 활동부의 요청에 따라 평화 유지 활동에서 AI의 잠재적 활용 방안에 관한 논문을 집필하고 있습니다.
두 번째, 대통령님, AI는 인권의 향유를 포함하여 평화와 안보에 영향을 미치는 광범위한 분야에 큰 기회를 제공합니다. AI는 정보에 대한 접근성을 높이거나 의료 데이터 해석을 개선하여 조기 건강 진단을 돕는 것입니다.
영국은 유럽 평의회 AI 협약의 초대 서명국으로서, AI가 인권, 민주주의, 법치주의에 미치는 위험으로부터 보호하기 위해 최선을 다하고 있습니다.
마지막으로, 영국은 또한 역량 강화를 통해 이러한 기회를 공유하는 데 전념하고 있습니다. 국제 평화와 안보에 기여하면서 디지털 격차를 좁히는 것을 목표로 하는 것이 중요합니다.
영국은 AI 개발 협력을 통해 아프리카 6개국에서 다학제적 책임 있는 AI 연구실에 5,800만 파운드를 기부했으며, 2025년에는 더 많은 연구실을 설립할 계획입니다.
궁극적으로 우리는 AI가 가져오는 기회를 포착하고, 국제 평화와 안보를 포함한 AI의 과제를 단호하고 낙관적으로 파악해야 합니다.
해밀턴, 캐나다 유엔대사 발
유엔 사무총장 안토니우 구테흐스는 목요일 인공지능(AI)의 위험에 대해 경고하면서, 특히 세계 평화와 안보에 있어서 인공지능의 오용을 방지하기 위한 국제적 조치를 촉구했습니다.
"인공지능은 우리의 세계를 재편하는 데 그치지 않고 혁명을 일으키고 있습니다. 수년간의 인간 전문성이 필요했던 작업이 이제는 순식간에 완료됩니다. 하지만 위험도 마찬가지로 큽니다." 구테흐스가 유엔 안전보장이사회 회의에서 말했습니다.
그는 AI의 급속한 발전이 "우리의 통제 능력을 앞지르고 있다"며 "책임, 평등, 안전 및 보안에 대한 근본적인 의문을 제기하고 있다"고 경고했습니다.
그는 "인간의 감독이 없는 인공 지능은 전 세계를 실명시킬 것이고, 아마도 세계 평화와 안보보다 더 위험하고 무모한 일은 없을 것"이라고 말했습니다.
구테흐스는 AI가 이미 식량 불안을 파악하고, 이주를 예측하며, 지뢰를 제거하는 등 갈등 지역에 도움을 주고 있다며, 전쟁에서의 AI 사용에 대해 우려를 표명했습니다.
그는 "최근 갈등은 AI 군사 응용 프로그램의 시험장이 되었다"며 "AI 군비 경쟁"이 "오해, 잘못된 계산 및 실수"의 위험을 증가시킨다고 덧붙였다.
구테흐스는 AI와 핵무기의 통합을 "특히 우려스러운" 일로 묘사하고 잠재적으로 치명적인 결과에 대해 경고했습니다.
구테흐스는 "우리는 어떤 희생을 치르더라도 이를 피해야 합니다"라고 말했습니다.
그는 의사결정에서 인간의 통제력을 유지하는 것이 중요하다고 언급하며 "명확히 말해 인류의 운명은 결코 알고리즘의 '블랙박스'에 맡겨져서는 안 됩니다."라고 말하며 국제법과 윤리 원칙을 준수할 것을 촉구했습니다.
그는 AI가 허위 정보를 퍼뜨릴 수 있는 능력을 강조하며, 딥페이크가 "외교적 위기를 촉발하고, 불안을 조장하며, 사회의 기반을 훼손할 수 있다"고 말했습니다.
그는 "우리는 AI가 '불평등을 심화시키는' 역할을 하도록 결코 허용해서는 안 됩니다."라고 말하며 긴급한 세계적 협력을 촉구했습니다.
구테흐스는 또한 AI에 관한 국제 과학 패널을 설립하고 AI 거버넌스에 관한 글로벌 대화를 시작할 것을 제안했습니다.
"이 위원회의 회원들은 모범을 보여야 하며, 신기술에 대한 경쟁이 국제 평화와 안보를 불안정하게 하지 않도록 해야 합니다. 저는 여러분 모두가 안전하고, 보안이 강화되고, 포용적인 AI 미래를 구축하기 위해 힘을 합치기를 촉구합니다."라고 그는 말했습니다.
유엔(AP) ― 앤토니 블링컨 국무장관은 재임 중 유엔을 방문한 마지막 방문으로 여겨지는 이번 방문에서 갈등으로 찢어진 수단에 대한 2억 달러 규모의 인도적 지원을 발표했습니다 .
유엔 안전보장이사회가 그 어느 때보다 분열된 가운데, 블링컨은 목요일에 유엔에서 가장 강력한 기관인 유엔 안전보장이사회에서 두 차례 회의를 주재했습니다. 이는 유럽에서 전쟁이 재발하고 중동에서 여러 차례 위기가 발생한 격동의 4년을 보낸 후 유엔과의 협의를 마무리하는 것이었습니다.
대신 블링컨은 최소한의 합의를 이끌어내려는 듯, 인공지능 과 수단 에 대한 유엔 안전보장이사회 회의를 주도했습니다 . 수단의 갈등으로 인해 심각한 인도적 위기가 발생했지만, 지원 기관에서는 이에 대한 충분한 관심을 기울이지 않았다고 말합니다.
블링컨이 발표한 자금은 수단 국민의 식량, 거주지, 의료에 쓰일 것입니다. 그는 또한 국무부가 의회와 협력하여 민주적 통치로의 전환을 돕기 위해 시민의 목소리를 높이기 위해 추가로 3,000만 달러를 제공할 것이라고 말했습니다.
유엔의 미국 최고 외교관을 살펴보겠습니다.
블링컨은 왜 유엔 안전보장이사회 회의를 주재했나요?
블링컨은 2021년 3월 바이든 행정부의 수석 외교관으로 취임한 직후부터 유엔 안전보장이사회에 직접 또는 원격으로 출석해 왔습니다.
블링컨은 2022년 2월 러시아가 우크라이나를 침공하기 직전에 있었던 회의를 포함하여 여러 차례의 일회성 이사회 회의에 참석한 것 외에도, 매년 9월에는 세계 지도자들이 모이는 연례 총회에 참석하기 위해 일주일 동안 뉴욕으로 갔습니다.
안전보장이사회 의장국은 매달 15개 회원국 사이에서 알파벳순으로 순환합니다. 이번 달은 미국 차례입니다.
대통령직을 맡고 있는 국가는 거의 항상 정부가 선택한 주제에 대한 여러 가지 시그니처 이벤트를 조직합니다. 대통령, 총리, 외무장관이 종종 이러한 회의를 주재하며, 다른 협의회 국가의 장관이 참석하도록 초대됩니다.
미국은 왜 중동이나 우크라이나를 강조하지 않았는가?
러시아와 중국은 우크라이나 침공을 비난하는 모든 안전보장이사회 조치를 차단했습니다.
이로 인해 미국 관리들은 특히 도널드 트럼프 대통령 당선자가 전쟁을 즉각 종식시키겠다는 목표를 내걸고 취임 준비를 하는 상황에서 이 주제에 대한 세션을 여는 것은 시간 낭비일 가능성이 높다고 믿게 되었다.
중동에서 미국은 가자지구의 하마스에 대한 이스라엘의 전술을 비난하는 안전보장이사회의 조치에 대해 자주 거부권을 행사했으며, 이로 인해 미국은 유엔에서 이스라엘을 지원하는 사실상 유일한 존재가 되었습니다.
미국은 왜 수단에 초점을 맞추었는가?
작년 수단에서 군을 이끄는 라이벌 장군과 준군사 조직 사이에 전쟁이 발발했습니다. 이 싸움으로 수만 명이 사망하고 수백만 명이 집에서 쫓겨났으며 수단 인구의 상당수가 굶주림에 시달렸습니다. 미국이 주목하고자 하는 종종 잊혀지는 세계적 위기가 발생했습니다.
목요일에 발표된 약 2억 3천만 달러의 지원금으로, 전투가 발발한 이후 지금까지 미국의 총 지원금은 23억 달러를 넘어섰습니다.
블링컨은 이 싸움이 세계 최악의 인도주의적 위기를 촉발했으며, 매일 “병원, 시장, 이주민, 캠프에 대한 공격, 즉결 처형, 여성과 소녀들이 형언할 수 없는 성적 폭력을 당하는 등 새로운 잔혹 행위가 발생한다”고 말했습니다.
그는 "우리는 수단의 광대한 지역에서 전쟁 범죄와 인도에 반한 범죄가 계속 저질러지는 것을 보고 있습니다."라고 말했습니다.
미국은 왜 AI를 선택했을까?
최근 발표된 스탠포드 대학 지수에 따르면 미국은 AI 기술 개발에서 세계를 선도하고 있으며, AI에 대한 UN 활동에서도 선두에 서 있습니다.
3월, 인공지능에 대한 첫 번째 유엔 결의안이 193개 회원국의 총회에서 채택되었습니다. 미국이 후원한 이 결의안은 강력한 기술이 모든 국가에 이롭고 인권을 존중하며 "안전하고 보안이 유지되며 신뢰할 수 있도록" 하는 국제적 노력에 대한 글로벌 지원을 제공합니다.
블링컨은 AI가 "엄청난 선행"을 할 수 있는 잠재력을 가지고 있지만, "이 위원회가 수호해야 할 국제 평화와 안보에 엄청난 위협"을 가할 수도 있다고 말했습니다.
그는 "억압적인 정권이 AI 기반 감시를 사용하여 언론인과 정치적 반체제 인사를 표적으로 삼고 있다"고 지적했으며 "알고리즘이 무기 시스템에 내장되어 있고 오작동하면 갈등이 발생할 수 있다"고 말했습니다.
그는 "AI에 대한 도로 규칙을 설정함으로써 우리는 이러한 위험을 최소화하고 이 기술의 탁월한 약속을 활용할 수 있습니다."라고 말했습니다.
블링컨은 러시아에 맞섰는가?
블링컨은 러시아의 우크라이나 침공부터 가자 전쟁까지 다양한 회의에서 미국을 대표해 유엔 안전보장이사회에 6차례나 참석했습니다.
러시아는 미국과 중국과 마찬가지로 15개 국가로 구성된 안전보장이사회에서 거부권을 행사할 수 있는 상임이사국이며, 두 나라 모두 안전보장이사회의 말굽 모양 테이블에 앉아 있습니다.
하지만 토론 중의 첨예한 의견 불일치를 제외하면 이전 유엔 회의에서 블링컨과 러시아 외교관 사이에 충돌이나 일대일 회동이 없었습니다. 그리고 목요일에도 그런 일은 없었습니다.
블링컨은 그의 발언 후 러시아 대사 바실리 네벤지아에게 관례에 따라 감사를 표했습니다. 네벤지아는 미국이 다른 나라에 규칙을 부과하면서도 이를 준수하지 않는다고 비난했지만요. 하지만 러시아 특사는 "AI가 인간과 인간의 가치를 지배하는 것을 허용할 수 없다"는 데 동의했습니다.
블링컨이나 다른 미국 고위 관리들이 러시아 관리들이 참석한 국제 회의나 컨퍼런스에 참석하는 것은 드문 일이 아니지만, 상호작용은 드뭅니다.