광고
광고
광고
광고
광고
광고
로고

[AI] AI를 발전시키려면 인간 지능을 더 잘 이해하고 이 4가지 오류를 수정해야 한다: 좁은 지능의 진보는 일반 지능으로의 진보이다. 인간에게 쉬운 것은 기계에게 쉬워야 한다. 인간의 언어는 기계 지능을 설명할 수 있다. 지능은 우리 머리 속에 있다.

https://singularityhub.com/2021/05/06/to-advance-ai-we-need-to-better-understand-human-intelligence-and-address-these-4-fallacies/

박영숙세계미래보고서저자 | 기사입력 2021/05/07 [01:00]

[AI] AI를 발전시키려면 인간 지능을 더 잘 이해하고 이 4가지 오류를 수정해야 한다: 좁은 지능의 진보는 일반 지능으로의 진보이다. 인간에게 쉬운 것은 기계에게 쉬워야 한다. 인간의 언어는 기계 지능을 설명할 수 있다. 지능은 우리 머리 속에 있다.

https://singularityhub.com/2021/05/06/to-advance-ai-we-need-to-better-understand-human-intelligence-and-address-these-4-fallacies/

박영숙세계미래보고서저자 | 입력 : 2021/05/07 [01:00]

 

인공지능은 시스템이 이미지 인식, 자연어 처리 및 게임과 같은 오랜 AI 과제에서 빠른 발전을 이루었기 때문에 거의 10년 동안 헤드라인을 장식했다. 기술 회사는 기계 학습 알고리즘을 검색 및 추천 엔진과 안면 인식 시스템에 뿌리고 있으며 OpenAI GPT-3 DeepMind AlphaFold는 글쓰기에서 코딩, 과학적 발견에 이르기까지 훨씬 더 실용적인 응용 프로그램을 약속한다.

 

실제로 우리는 기술에 대한 투자가 급증하고 있으며 언제 무엇을 달성할 수 있는지에 대한 낙관주의와 가능성에 대한 최우선의 감정으로 AI의 봄을 맞이하고 있다.

 

이번에는 앞서 언급한 실용적인 응용 프로그램과 좁은 AI가 스마트 폰, TV, 자동차, 진공 청소기 등 우리 중 많은 사람들이 매일 사용하는 기술로 확산되어 이전 AI 봄과 다르게 느껴질 수 있다. 그러나 1956년 창립 이래이 분야를 특징 짓는 발전, 자금 조달 및 정서에서 조만간 썰물과 흐름의 일부가 될 AI의 단기적인 발전의 물결을 타고 있을 수도 있다.

 

AI는 지난 수십 년 동안 이루어진 많은 예측에 미치지 못했다. 예를 들어, 2020년은 자율주행자동차가 도로를 채우고 승객들이 편안히 앉아서 탑승을 즐겼을 때 매끄럽게 이동하는 해로 많은 사람들에게 예고되었다. 그러나 문제는 예상보다 더 어려웠고, 수많은 로봇 택시 대신 가장 진보된 프로젝트가 시험 중에 있다. 한편, 이 분야의 일부는 인공지능의 지배적인 형태 (신경망을 기반으로 하는 일종의 기계 학습)가 일련의 중요한 돌파구 없이는 곧 활기를 잃을 수 있다고 믿는다.

 

지난주에 arXiv 프리 프린트 서버에 실린 AI가 생각보다 어려운 이유라는 제목의 논문에서 현재 산타페 연구소에 있는 포틀랜드 주립 대학의 컴퓨터 과학 교수인 Melanie Mitchell AI가 썰물에 갇혀 있다고 주장한다. 우리가 아직 인간 지능의 본질과 복잡성을 진정으로 이해하지 못하기 때문이다. Mitchell은이 중요한 점을 AI에 대한 네 가지 일반적인 오해로 나누고 이 분야의 미래에 대한 의미를 논의한다.

 

 

 

1. 좁은 지능의 진보는 일반 지능으로의 진보이다.

 

AI의 인상적인 새로운 업적에는 종종 이러한 동일한 업적이 인간 수준의 머신 인텔리전스에 더 가까워지고 있다는 가정이 동반된다. 그러나 Mitchell ​​지적했듯이 나무를 오르는 것과 달에 착륙하는 것과 같이 좁고 일반적인 지능은 다를뿐만 아니라 좁은 지능조차도 여전히 풍부한 작업 별 데이터와 인간이 주도하는 훈련에 크게 의존한다.

 

일부가 "좁은"지능을 능가했다고 언급한 GPT-3을 예로 들어 보겠다. 알고리즘은 텍스트를 작성하도록 훈련되었지만 다른 작업 중에서도 번역, 코드 작성, 이미지 자동 완성 및 수학 수행을 배웠다. 그러나 GPT-3의 기능은 제작자가 의도한 것보다 더 광범위한 것으로 밝혀졌지만 모든 기술은 여전히 ​​교육을 받은 영역, 즉 언어 (말하기, 쓰기, 프로그래밍) 내에 있다.

 

훈련없이 비 언어 관련 기술에 능숙 해지면 일반적인 지능을 알 수 있지만 GPT-3의 경우도 아니었고 최근에 개발된 다른 AI의 경우도 마찬가지였다. 그 자체로는 중요하지만 일반 지능에 필요한 세계를 철저히 이해하기위한 단계와 결합해서는 안된다.

 

 

 

2. 인간에게 쉬운 것은 기계에게 쉬워야 한다.

 

AI가 네살 보다 똑똑할까? 대부분의 의미에서 대답은 '아니요'이다. 그 이유는 Moravec Paradox가 지적했듯이 우리가 "쉬운"것으로 인식하는 기술과 작업이 실제로 우리가 인정하는 것보다 훨씬 더 복잡하기 때문이다.

 

네 살짜리 아이들은 주변 세계와의 상호 작용을 기반으로 인과 관계를 파악하는 데 꽤 능숙하다. 예를 들어 스토브의 냄비를 만져 손가락을 태운다면 둥글거나 은이 아니라 냄비가 뜨거워서 화상이 발생한 것임을 이해할 것이다. 인간에게 이것은 기본적인 상식이지만 알고리즘은 특히 대규모 데이터 세트가 없거나 훈련된 것과 다른 컨텍스트에서 인과적 추론을 하기가 어렵다.

 

인간의 무의식적 수준에서 일어나는 인식과 선택은뜨거운 것을 만지면 화상을 입을 것과 같은 초급 수준에서도 평생 동안 경험과 학습의 가치가 있다. 이런 종류의 지식은 의식적인 생각조차 요구하지 않고 반사적인 지점에 도달하기 때문에 "쉬운"것으로 보지만 그 반대이다. Mitchell "AI는 우리가 생각하는 것보다 어렵다. 왜냐하면 우리는 우리 자신의 사고 과정의 복잡성을 거의 인식하지 못하기 때문이다."

 

 

 

3. 인간의 언어는 기계 지능을 설명할 수 있다.

 

인간은 동물에서 무생물, 로봇 및 컴퓨터에 이르기까지 인간이 아닌 것을 의인화하는 경향이 있다. 이 과정에서 인간의 활동이나 지능에 대해 논의할 때 사용하는 것과 동일한 단어를 사용한다. , 문맥에 맞지 않고 실제로 AI에 대한 우리의 이해를 방해할 수 있다는 점을 제외하면 말이다. Mitchell 1970년대 컴퓨터 과학자가 만든 "희망적인 니모닉"이라는 용어를 사용한다. '읽기', '이해', '생각하기'와 같은 단어는 AI를 설명하고 평가하는 데 사용되지만 이러한 단어는 AI가 어떻게 작동하고 진행되고 있는지 정확하게 설명하지 못한다.

 

Mitchell "학습"조차도 잘못된 이름이다. 기계가 새로운 기술을 진정으로 "학습"했다면 다른 설정에서 해당 기술을 적용할 수 있기 때문이다. 데이터 세트에서 상관 관계를 찾고 식별된 패턴을 사용하여 예측하거나 다른 벤치 마크를 충족하는 것은 중요하지만 인간이 학습하는 방식에서 '학습'하는 것은 아니다.

 

그렇다면 단어에 대한 모든 소란이 우리가 가진 전부이고 요점을 전달하는 이유는 무엇일까? , Mitchell은이 부정확 한 언어는 대중과 미디어를 오도할 뿐만 아니라 AI 연구원이 자신의 시스템에 대해 생각하고 작업을 수행하는 방식에 영향을 미칠 수 있다고 말한다.

 

 

 

4. 지능은 우리 머리 속에 있다

 

Mitchell의 마지막 요점은 인간의 지능은 뇌에만 있는 것이 아니라 육체가 필요하다는 것이다.

 

이것은 자명한 것 같다. 우리는 감각을 사용하여 정보를 흡수하고 처리하며 우리 몸의 세계와 상호 작용하고 이동한다. 그러나 인공지능 연구에서 주로 강조되는 부분은 뇌를 이해하고, 형태나 기능의 다양한 측면을 복제하고, 인공지능을 더 비슷하게 만드는 것이다.

 

지능이 뇌에만 있다면 우리는 뇌가 시냅스 연결을 가지고 있는 것과 동일한 수의 매개 변수를 가진 신경망을 구축함으로써 인간 수준의 AI에 더 가까이 다가 갈 수 있을 것이다. 따라서 뇌의 "컴퓨팅 능력"을 복제할 수 있다.”

 

이러한 종류의 병렬 그리기는 "지능"이 정의된 목표를 향해 작동하기 위해 일련의 규칙에 따라 작동하는 것을 의미하는 경우에 적용될 수 있다. 예를 들어 체스게임에서 이기거나 단백질이 접히는 방식을 모델링하는 것과 같이 컴퓨터는 이미 상당한 작업을 수행할 수 있다. . 그러나 다른 유형의 지능은 감정, 편견 및 개인 경험에 의해 훨씬 더 형성되고 영향을 받는다.

 

GPT-3 예제로 돌아가서: 알고리즘은 기존의 주관적 지능(인간에 의해 작성)의 방대한 데이터 세트로 생성된 일련의 규칙과 매개 변수를 사용하여 "주관적"지능 (자체 작성)을 생성한다. GPT-3 "창조적"이라고 칭송받았지만 그 글은 감지된 패턴과 인간 글에서 단어와 구 사이에 그려진 연관성에 의존한다. 그것은 편견, 감정, 기존의 지식, 상식, 그리고 신체를 통해 경험하는 작가의 세계에 대한 독특한 경험으로 가득 차 있다.

 

Mitchell은 인간이 생각하고 운영하는 방식의 비합리적이고 주관적인 측면이 우리의 지능을 방해하는 것이 아니라 실제로 그 기반이자 원동력이라고 주장한다. 선도적인 인공지능 전문가인 Ben Goertzel은 이와 유사하게전체 유기체 아키텍처를 옹호한다. "인간은 마음만큼이나 신체이기 때문에 인간과 유사한 AGI를 달성하려면 일상적인 인간 세계와 미묘한 방식으로 상호 작용할 수 있는 물리적 시스템에 AI 시스템을 내장해야 한다."고 말했다.

 

 

 

여기에서 어디로?

 

이러한 오해는 AI 연구원과 개발자가해서는 안되는 일에 대해 의심의 여지가 없다. 덜 분명한 것은 앞으로 나아가는 방법이다. Mitchell은 우리는 작거나 간단한 작업이 아닌 지능에 대한 더 나은 이해로 시작해야한다고 말한다. 하지만 인공지능 연구자들이 볼 수 있는 좋은 곳 중 하나는 지능을 연구하는 다른 과학 분야이다.

 

어쨌든 우리가 인공적인 버전의 인간 지능을 만들려고 하는 이유는 무엇일까? 수백만 년에 걸쳐 발전해 왔으며 엄청나게 복잡하고 복잡하지만 여전히 단점이 있다. 아마도 답은 우리가 우리만큼 좋은 인공 두뇌를 만들려고 하는 것이 아니라는 것이다. 우리는 더 나은 것을 만들기 위해 노력하고 있으며 그것은 현재 해결할 수 없는 문제를 해결하는 데 도움이 될 것이다.

 

인간의 진화는 약 6백만 년에 걸쳐 일어났다. 한편 AI가 연구 분야가 된 지 65년이 지났고, 인간과 유사한 텍스트를 작성하고, 가짜 얼굴을 만들고, 자체 토론을 하고, 의학적 진단을 내리는 등의 작업을 하고 있다. 배워야 할 부분이 많이 남아 있지만 AI가 사물의 웅장한 계획에서 꽤 잘 발전하고 있는 것 같다. 더 나아가기 위한 다음 단계는 우리 자신의 마음에 대한 이해를 심화시키는 것이다.

 

 
인공지능, AI 관련기사목록
광고
광고
광고
광고
광고
많이 본 기사