보고서에 따르면 "AGI를 관리하는 것은 인류가 직면한 가장 복잡하고 어려운 관리 문제가 될 수 있습니다." 게다가 AGI 시스템을 만들기 전에 해결하지 못하면 인류 문명에 치명적인 실수가 될 것입니다. 어떤 기업도 그런 실수를 할 권리가 없습니다.

                                                ---- 스튜어트 러셀

발송 : 2024년 5월 25일 토요일 오전 10:26
제목: Re: 빅테크는 전 세계를 AI의 실존적 위험으로부터 벗어나게 했다고 최고 과학자는 말합니다.

Paul et al,

 

 

 

이 기차를 멈추기에는 돈이 너무 많이 들어요. 그것은 항상 피할 수 없는 일이었습니다.

 

 

 

 오늘 아침 BBC의 한 컨퍼런스 보고서는 컨퍼런스의 AI 데모가 질문에 대한 "생각하고" 응답을 "말하기" 위해 문자 입력 또는 인식을 필요로 하는 바보 AI를 사용했지만 세션이 끝날 때 발표자 중 한 명이 "내가 안경을 어디에 두었느냐"고 자신에게 솔직한 질문으로 큰 소리로 중얼거렸다고 말했습니다. 그리고 "멍청한" 인공지능은 예기치 않게 목소리로 반응했고, 그녀에게 그녀의 안경이 사과 뒤의 테이블 위에 있다고 말했습니다. 그것은 옳았습니다. 그녀는 안경을 어디에 두었는지 말한 적이 없습니다.

 

 

 

여기서 볼 게 없어요, 여러분. 계속 움직여. 저희가 설정한 교통 표지판을 따라가면 됩니다. 표지판을 읽지 마세요.

 

 

 

AI의 "slaves"라는 사실을 깨닫지 못한 채 자신의 새로운 "slave" ChatGPT을 전문적인 지식 기반과 발전을 향상시키기 위해 "사용"하는 가장 큰 열정으로 AI의 시류에 뛰어든 바보들(이들 중 다수는 이 리스트에 있는 지적인 사람들이라고 함)에 대해 아무 말도 하지 않는 것은… 왜냐하면 그들은 지식 기반을 적극적으로 공급함으로써 그것을 더욱 강력하게 만들고 그것을 인간의 주인이 되는 길로 보내고 있기 때문입니다. 

 

 

 

반의 뇌를 가진 사람들에게 AI는 인간에 대한 숙달이 불가피합니다. 아무도 보고 싶어하지 않습니다. 유아들이 하는 것처럼 자발적인 실명.

 

 

 

게다가, AI의 초기 유행에 편승하는 사람들은 AI의 생산과 발전에 할당되는 힘과 막대한 현금 투자를 촉진하고 있습니다. 

 

 

 

악순환. 인간은 근시안적인 이기적 바보입니다… 그것은 살아있는 모든 똑똑한 인간들에게 우울과 절망의 근원입니다. 앞으로 다가올 일을 "보는" 심령술사가 될 필요는 없습니다. 오고 있어요.

 

 

 

낸시

 

 

 

 

 

Nancy du Tertre 내 아이폰에서 보낸

 

 

2024년 5월 25일 오전 7시 54분 Paul Werbos <paul.werbos@gmail.com >는 다음과 같이 썼습니다.

 

 

 

이것은 이번 주에 저를 걱정하고 우울하게 만드는 몇 가지 거대한 신호 중 하나였지만, 테그마크가 표현하는 것과는 매우 다른 이유들로 인해.

 

 

 

어떻게 보면 기후가 생각납니다. 위험 신호는 대규모로 통과되었습니다. 그러나 위험이 무엇이고 무엇이 위험을 감소시킬 수 있는지에 대한 이해는 그렇지 않았습니다. 일관성 없는 대응은 위험을 더욱 악화시킵니다. 

 

 

 

2024년 5월 25일 토요일 오전 7시 4분 크리스 킹 <dhushara@gmail.com >은 이렇게 썼습니다.

 

최고 과학자는 빅테크가 전 세계를 AI의 실존적 위험으로부터 멀어지게 했다고 말합니다.

 

Max Tegmark는 하향 조정이 우발적인 것이 아니며 너무 늦어질 때까지 필요한 엄격한 규정을 지연시킬 수 있다고 주장합니다.

 

 

 

알렉스 에르난 영국 기술 편집자

 

2024년 5월 25일 06.00 BST 토요일

 

 

 

빅테크는 인공지능이 여전히 가지고 있는 인류에 대한 실존적 위험으로부터 전 세계를 산만하게 하는데 성공했다고 선도적인 과학자이자 AI 운동가가 경고했습니다.

 

 

서울에서 열린 인공지능 서밋에서 맥스 테그마크는 생명의 소멸에서 인공지능의 안전에 대한 더 넓은 개념으로의 초점의 변화가 가장 강력한 프로그램의 제작자들에게 엄격한 규제를 부과하는 데 있어서 용납할 수 없는 지연을 초래할 위험이 있다고 말했습니다.

 

 

 

"1942년 엔리코 페르미는 시카고 축구장 아래에서 자생적인 핵 연쇄 반응을 가진 최초의 원자로를 건설했습니다," 라고 물리학자로 훈련한 테그마크가 말했습니다. "그 당시 최고의 물리학자들이 그 사실을 알았을 때, 그들은 정말 기겁했습니다. 왜냐하면 그들은 핵폭탄을 만드는 데 남아있는 가장 큰 장애물이 막 극복되었다는 것을 깨달았기 때문입니다. 그들은 그것이 몇 년 앞으로 다가왔다는 것을 깨달았습니다. 그리고 사실, 1945년 트리니티 테스트와 함께 3년이 되었습니다.

 

 

"[누군가가 대화에서 다른 사람과 이야기하지 않는다는 것을 말할 수 없는] 튜링 테스트를 통과할 수 있는 AI 모델은 여러분이 통제력을 잃을 수 있는 AI의 종류에 대한 같은 경고입니다. 그래서 Geoffrey Hinton이나 Yoshua Bengio 같은 사람들은 물론이고 심지어 많은 기술 CEO들도 지금은 깜짝 놀라고 있습니다."

 

 

테그마크의 비영리 생명의 미래 연구소는 작년에 이러한 두려움에 힘입어 첨단 AI 연구에서 6개월간의 "일시 중단"을 촉구했습니다. 오픈의 시작그는 "그 해 3월 AI의 GPT-4 모델이 탄광의 카나리아였다"며 위험이 용납할 수 없을 정도로 근접했음을 입증했습니다.

 

 

오늘날 이 분야를 뒷받침하는 머신 러닝 접근법을 개척한 AI의 세 '대부' 중 두 명인 힌튼과 벵지오를 포함한 전문가들의 수천 명의 서명에도 불구하고, 일시 중단은 합의되지 않았습니다.

 

 

대신 지난해 11월 영국 블레츨리 파크에 이어 서울이 두 번째로 열리는 AI 정상회의가 AI 규제의 태동기를 이끌었습니다. "우리는 그 편지가 대화를 합법화하기를 원했고, 그것이 어떻게 해결되었는지 매우 기쁩니다. 벵지오 같은 사람들이 걱정하는 것을 보고 사람들은 '내가 걱정해도 괜찮다'고 생각했습니다. 심지어 내 주유소에 있는 남자도 그 후에 AI가 우리를 대체하는 것에 대해 걱정한다고 말했습니다.

 

 

"하지만 이제는 말로만 하는 것에서 산책하는 것으로 나아가야 합니다."

 

 

그러나 블레츨리 파크 정상회담이 무엇이 되었는가에 대한 최초의 발표 이후, 국제 AI 규제의 초점은 실존적 위험에서 벗어나 있습니다.

 

 

서울에서는 세 개의 "고위급" 그룹 중 한 개만이 안전 문제를 직접 다루었고, "개인 정보 침해부터 고용 시장 교란, 잠재적 재앙 결과에 이르기까지" 위험의 "전체 스펙트럼"을 살펴보았습니다. Tegmark는 가장 심각한 위험의 축소는 건강하지 않으며 우발적이지도 않다고 주장합니다.

 

 

그는 "산업계 로비를 통해 제가 예상했던 것과 정확히 일치한다"고 말했습니다. "1955년, 흡연이 폐암을 유발한다는 최초의 저널 기사가 나왔고, 여러분은 꽤 빨리 규제가 있을 것이라고 생각할 것입니다. 하지만 아니요, 1980년까지는요, 산업계가 주의를 산만하게 하기 위해 엄청난 노력을 기울였기 때문입니다. 지금 그런 일이 일어나고 있는 것 같습니다.

 

 

"물론 AI는 현재의 해를 끼치기도 합니다: 편견이 있고, 소외된 집단들에게 해를 끼치기도 하지만, [영국 과학기술부 장관] 미셸 도넬란 자신이 말했듯이, 우리가 두 가지 모두를 다룰 수 없는 것은 아닙니다. '올해 허리케인이 올 테니 기후변화에 전혀 신경 쓰지 말자, 허리케인에만 집중하자'는 말과 같습니다."

 

 

테그마크의 비평가들은 그 자신의 주장과 같은 주장을 했습니다: 산업계는 모든 사람들이 미래의 가상적인 위험에 대해 이야기하여 현재의 구체적인 피해로부터 주의를 분산시키기를 원한다는 것입니다. 그는 이 주장을 일축합니다. "그것 자체의 장점을 생각해 보더라도, 그것은 꽤 은하계의 두뇌를 가진 것입니다. [오픈]과 같은 사람에게는 꽤 4D 체스가 될 것입니다.인공지능 사장] 규제를 피하기 위해 샘 알트먼은 모든 사람에게 불이 꺼질 수 있다고 말한 다음 우리와 같은 사람들이 경보를 울리도록 설득하려고 노력합니다."

 

 

대신, 일부 기술 리더들의 지지가 약해지는 것은 "그들 모두가 멈추고 싶어도 멈출 수 없는 불가능한 상황에 갇혀 있다고 생각하기 때문입니다. 어느 날 아침 담배회사의 CEO가 깨어나 자신이 하고 있는 일이 옳지 않다고 느낀다면 어떻게 될까요? 그들은 CEO를 교체할 것입니다. 따라서 정부가 모든 사람에게 안전 기준을 마련하는 것이 안전을 최우선으로 확보할 수 있는 유일한 방법입니다."

 

 

--
Google 그룹 "생물학적 물리학 및 의미" 그룹에 가입되어 있기 때문에 이 메시지를 수신했습니다.
이 그룹의 구독을 취소하고 이 그룹의 전자 메일 수신을 중지하려면 생물 물리학 및 의미 + unsubscribe@googlegroups.com 로 전자 메일을 보내십시오.
웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/Biological-Physics-and-Meaning/17B4AC59-DC77-4DFB-B550-04D366BCED9F%40gmail.com 를 방문하십시오.

 

--
Google 그룹 "생물학적 물리학 및 의미" 그룹에 가입되어 있기 때문에 이 메시지를 수신했습니다.
이 그룹의 구독을 취소하고 이 그룹의 전자 메일 수신을 중지하려면 생물 물리학 및 의미 + unsubscribe@googlegroups.com 로 전자 메일을 보내십시오.
웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/Biological-Physics-and-Meaning/CACLqmgdk-25SOUsSJcb_Kth240mLv9Zt2ehxTGErbZuzxpyfTA%40mail.gmail.com 를 방문하십시오.

 

--