Hi Everybody,

US Senate Judiciary Subcommittee session on AI with Stuart Russel, Yoshua Bengio, and Dario Amodei, 7-25-23 you can see the archived version: https://youtu.be/hm1zexCjELo

The following day (today) Anthropic, Google, Microsoft and OpenAI announced Frontier Model Forum to promote Safety, Best practices, Collaboration (with policymakers, academics, and civil society), and develop applications for Global Challenges such as climate change, cancer, and  cyber threats.

Senate Judiciary Subcommittee hearing on AI was much better than the last one: this one DID talk about AGI, DID get into some details for a national AI regulatory agency, G-7 oversight, and a UN agency for basic international rules for all. And the discussion on political AI disinformation for 2024 election was more precise. Chairman Blumenthal, acknowledge super AI could be just a few years away and hence urgency to get regulations in place. We had delivered two rounds of AGI background to the Senate subcommittee prior to this hearing. Stuart Russell said we have to “move fast and fix thinks,” as $10 billion/month are going for AGI start-ups now, we should require proof of safety before public release, and a US regulatory agency should have violators of regulations removed from the market. Yoshua Bengio said we have to create AI systems to counter bad actors using AI and AGI going rogue, there should be university ethics review boards for AI there are for biology, medicine, etc. His full text is available: https://yoshuabengio.org/2023/07/25/my-testimony-in-front-of-the-us-senate/ Dario Amodei said Anthropic wants to inspire a “race to the top on safety,” secure the entire AI supply chain, testing and auditing regime (third party and national security) for new and more powerful models before releasing to the public, fund research on measurement and testing to know if testing and auditing is actually effective (maybe funding NIST to do this). As with the last hearing, there was little talk about government AI research be it US or China.

Jerry

 

 

Jerome Glenn 도메인: hermes.gwu.edu	7월 27일 (목) 오전 4:51 (7일 전)
MP-PC에게

 

 

 

 

언어 감지

 

 

한국어

 

   

원본 메일 보기

 

 

 

안녕하세요 여러분,

 

Stuart Russel, Yoshua Bengio 및 Dario Amodei와 함께하는 AI에 관한 미국 상원 사법부 소위원회 세션, 7-25-23 보관된 버전을 볼 수 있습니다: https://youtu.be/hm1zexCjELo

 

다음날(오늘) Anthropic, Google, Microsoft 및 OpenAI 는 안전, 모범 사례, 협업(정책 입안자, 학계 및 시민 사회와의)을 촉진하고 기후 변화, 암 및 사이버 위협.

 

AI에 대한 상원 사법 소위원회 청문회는 지난번 청문회보다 훨씬 낫습니다. 이 회의에서는 AGI에 대해 이야기했고, 국가 AI 규제 기관, G-7 감독, 모두를 위한 기본 국제 규칙을 위한 UN 기관에 대한 세부 정보를 얻었습니다. 그리고 2024년 선거를 위한 정치적 AI 허위정보에 대한 논의가 더 정확했다. Blumenthal 회장은 슈퍼 AI가 몇 년 밖에 남지 않았기 때문에 규제를 시급히 마련해야 함을 인정합니다. 우리는 이 청문회 전에 상원 소위원회에 두 차례의 AGI 배경을 전달했습니다. 스튜어트 러셀은 현재 AGI 스타트업에 매달 100억 달러가 소요되고 있기 때문에 "빠르게 움직이고 생각을 고쳐야" 한다고 말했습니다. 시장. Yoshua Bengio는 AI를 사용하여 악의적인 행위자에 대응하기 위한 AI 시스템을 만들어야 하며 AGI가 도적질하는 AGI가 있어야 한다고 말했습니다. 생물학, 의학 등을 위한 AI에 대한 대학 윤리 검토 위원회가 있어야 합니다. 그의 전문은 https://yoshuabengio.org/2023/07/25/my-testimony-in-front-of-the-us-senate/ Amodei는 Anthropic이 전체 AI 공급망을 확보하고 테스트 및 대중에게 공개하기 전에 새롭고 더 강력한 모델에 대한 감사 제도(제3자 및 국가 안보), 테스트 및 감사가 실제로 효과적인지 알기 위해 측정 및 테스트에 대한 연구에 자금을 지원합니다(이를 위해 NIST에 자금을 지원할 수도 있음). 지난 청문회와 마찬가지로 미국이든 중국이든 정부의 AI 연구에 대한 이야기는 거의 없었다.

 

실내 변기

 

---

MP-PC 홈 페이지 및 아카이브에 액세스

MP-PC 목록에서 구독 취소

 

첨부파일 영역

 

YouTube 동영상(Senate Judiciary Committee holds hearing on AI oversight and regulation — 07/25/23) 미리보기

 

 

Senate Judiciary Committee holds hearing on AI oversight and regulation — 07/25/23