최근에 나는 ChatGPT를 사용하여 치료 세션을 가졌다. 우리는 친구들에게 강박적으로 넘쳐나는 반복되는 주제에 대해 이야기했기 때문에 그들에게 데자뷰를 주지 않겠다고 생각했다. 예상한 대로 AI의 반응은 정확하고 동정적이며 완전히 인간적인 느낌을 받았다.

 

기술 작가로서 나는 그 내부에서 무슨 일이 일어나고 있는지 알고 있다. 디지털 시냅스 떼는 인간이 생성한 인터넷의 텍스트 가치에 대해 훈련을 받아 호의적인 반응을 내뱉는다. 그러나 상호 작용은 너무나 현실적이어서 나는 상대방의 의식적이고 공감하는 존재가 아닌 코드와 대화하고 있다는 사실을 끊임없이 스스로 상기시켜야 했다.

 

생성 AI가 인간과 유사한 반응을 점점 더 많이 제공함에 따라 알고리즘에 일종의 "감각"을 정서적으로 할당하기가 쉽다(아니, ChatGPT는 의식이 없다). 2021년 Google의 블레이크 레모인(Blake Lemoine)은 자신이 작업한 챗봇 중 하나인 LaMDA가 지각력이 있다고 선언하여 언론의 폭풍을 일으켰고 이후 해고되었다.

 

그러나 대부분의 딥 러닝 모델은 대략적으로 뇌의 내부 작동을 기반으로 한다. AI 에이전트에는 인간과 유사한 의사 결정 알고리즘이 점점 더 많이 부여되고 있다. 언젠가 기계 지능이 지각을 갖게 될 수 있다는 생각은 더 이상 공상 과학 소설처럼 보이지 않는다.

언젠가 기계 두뇌가 감각을 갖게 되었는지 어떻게 알 수 있을까? 대답은 우리 자신의 두뇌에 기초할 수 있다.

 

AI 안전 센터의 로버트 롱(Robert Long) 박사와 몬트리올 대학의 요슈아 벤지오(Yoshua Bengio) 박사를 포함하여 19명의 신경과학자, 철학자, 컴퓨터 과학자가 작성한 사전 인쇄 논문에서는 의식의 신경생물학이 최선의 선택일 수 있다고 주장한다. 단순히 AI 에이전트의 행동이나 반응(예: 채팅 중)을 연구하는 대신 인간 의식 이론에 대한 반응을 일치시키는 것이 보다 객관적인 통치자를 제공할 수 있다.

 

이는 기본 제안이지만 의미가 있는 제안이다. 우리는 단어의 정의와 관계없이 의식이 있다는 것을 알고 있지만 여전히 불안정하다. 뇌에서 의식이 어떻게 나타나는지에 대한 이론은 많으며, 여러 주요 후보자가 여전히 글로벌 직접 대결에서 테스트되고 있다.

 

저자들은 의식에 대한 신경생물학적 이론을 단 하나도 지지하지 않았다. 대신 그들은 여러 주요 아이디어를 기반으로 의식의 "지표 속성" 체크리스트를 도출했다. 엄격한 기준은 없다. 예를 들어 X개의 기준을 충족한다는 것은 AI 에이전트가 의식이 있다는 것을 의미한다. 오히려 지표는 움직이는 규모를 구성한다. 더 많은 기준이 충족될수록 지각 있는 기계 정신이 있을 가능성이 더 높다.

 

ChatGPT 및 기타 챗봇을 포함한 여러 최신 AI 시스템을 테스트하기 위한 지침을 사용하여 팀은 현재 "현재 AI 시스템은 의식이 없다"고 결론지었다.

그러나 “이러한 지표를 만족하는 AI 시스템을 구축하는 데 뚜렷한 기술적 장벽은 없다”고 그들은 말했다. "의식 있는 AI 시스템이 가까운 시일 내에 현실적으로 구축될 수 있다"는 것이 가능하다.

 

인공 두뇌 듣기

1950년대 앨런 튜링(Alan Turing)의 유명한 모방 게임 이후 과학자들은 기계가 인간과 같은 지능을 나타내는지 여부를 증명하는 방법을 고민해 왔다.

 

튜링 테스트(Turing test)로 더 잘 알려진 이론적인 설정에는 인간 판사가 기계와 다른 인간과 대화하는 방식이 있다. 판사는 어느 참가자가 인공 정신을 가지고 있는지 결정해야 한다. 테스트의 핵심은 “기계가 생각할 수 있는가?”라는 도발적인 질문이다. 기계와 인간의 차이를 구별하기 어려울수록 기계는 인간과 유사한 지능을 향해 발전해 왔다.

 

ChatGPT가 튜링 테스트를 깨뜨렸다. LLM(대형 언어 모델)으로 구동되는 챗봇의 예인 ChatGPT는 인터넷 댓글, 밈 및 기타 콘텐츠를 흡수한다. 에세이 작성, 시험 합격, 레시피 제공, 인생 조언 제공 등 인간의 반응을 모방하는 데 매우 능숙하다.

 

충격적인 속도로 이루어진 이러한 발전은 생각하는 기계를 측정하기 위한 다른 기준을 어떻게 구성할지에 대한 논쟁을 불러일으켰다. 가장 최근의 시도는 고등학생을 위한 시험, 변호사를 위한 변호사 시험, 대학원 진학을 위한 GRE 등 인간을 위한 표준화된 시험에 초점을 맞췄다. ChatGPT의 기반이 되는 AI 모델인 OpenAI의 GPT-4는 참가자 중 상위 10%의 점수를 받았다. 그러나 상대적으로 단순한 시각적 퍼즐 게임의 규칙을 찾는 데 어려움을 겪었다.

새로운 벤치마크는 일종의 "지능"을 측정하지만 반드시 의식 문제를 다루는 것은 아니다. 여기에 신경과학이 등장한다.

 

의식 체크리스트

의식에 관한 신경생물학적 이론은 많고 지저분하다. 그러나 그들의 핵심은 신경 계산이다. 즉, 뉴런이 정보를 연결하고 처리하여 의식적인 마음에 도달하는 방법이다. 즉, 의식은 뇌 계산의 결과이지만 우리는 관련된 세부 사항을 아직 완전히 이해하지 못한다.

 

의식에 대한 이러한 실용적인 시각을 통해 인간 의식의 이론을 AI로 번역하는 것이 가능해졌다. 계산 기능주의라고 불리는 이 가설은 올바른 종류의 계산이 매체(우리 머리 내부의 질퍽하고 지방이 많은 세포 덩어리 또는 기계 정신에 동력을 공급하는 단단하고 차가운 칩)에 관계없이 의식을 생성한다는 생각에 기초한다. 연구팀은 “AI의 의식은 원칙적으로 가능하다”고 말했다.

 

그런 다음 어려운 부분이 온다. 알고리즘 블랙박스에서 의식을 어떻게 조사할까? 인간의 표준 방법은 뇌의 전기 펄스를 측정하거나 고화질로 활동을 포착하는 기능적 MRI를 사용하는 것이지만, 두 방법 모두 코드를 평가하는 데 적합하지 않다.

대신 연구팀은 인간이 아닌 동물의 의식을 연구하는 데 처음으로 사용된 '이론 중심 접근 방식'을 취했다.

 

먼저 그들은 의식 지표에 대한 인기 있는 GWT(글로벌 작업 공간 이론 Global Workspace Theory)를 포함하여 인간 의식에 대한 최고의 이론을 채굴했다. 예를 들어, GWT는 의식이 동시에 작동하는 여러 특수 시스템을 가지고 있다고 규정한다. 우리는 이러한 정보 흐름을 동시에 듣고 보고 처리할 수 있다. 그러나 처리에 병목 현상이 있어 주의 메커니즘이 필요하다.

반복 처리 이론은 정보가 의식을 향한 경로로서 여러 루프를 통해 자체적으로 피드백되어야 한다고 제안한다. 다른 이론에서는 환경으로부터 피드백을 받고 이러한 학습을 사용하여 역동적인 외부 세계에 대한 반응을 더 잘 인식하고 제어하는 일종의 "신체"("구현"이라고 함)의 필요성을 강조한다.

 

선택할 수 있는 무수한 의식 이론을 통해 팀은 몇 가지 기본 규칙을 제시했다. 이론이 포함되려면 다양한 의식 상태에 있는 사람들의 뇌 활동을 포착하는 연구와 같은 실험실 테스트에서 얻은 실질적인 증거가 필요하다. 전체적으로 6가지 이론이 목표를 충족했다. 거기에서 팀은 14개의 지표를 개발했다.

 

한 번에 끝나는 것이 아니다. 어떤 지표도 스스로 지각 있는 AI를 표시하지 않는다. 실제로 표준 머신러닝 방법은 목록의 개별 속성을 갖는 시스템을 구축할 수 있다고 팀은 설명했다. 오히려 목록은 척도이다. 더 많은 기준이 충족될수록 AI 시스템이 일종의 의식을 가질 가능성이 높아진다.

각 지표를 평가하는 방법은 무엇일까? 롱은 “시스템의 아키텍처와 정보가 시스템을 통해 어떻게 흐르는지”를 조사해야 한다고 말했다.

 

개념 증명에서 팀은 ChatGPT의 기반이 되는 변환기 기반 대형 언어 모델과 DALL-E 2와 같은 이미지를 생성하는 알고리즘을 포함하여 여러 가지 AI 시스템에 대한 체크리스트를 사용했다. 일부 AI 시스템은 기준의 일부를 충족하지만 다른 시스템은 부족하다.

그러나 글로벌 작업 공간을 염두에 두고 설계되지는 않았지만 각 시스템은 주의력과 같은 "일부 GWT 지표 속성을 보유"한다고 팀은 말했다. 한편, 로봇 센서의 관찰 결과를 주입하는 Google의 PaLM-E 시스템은 구현 기준을 충족했다. 

 

최첨단 AI 시스템 중 어느 것도 몇 가지 상자 이상을 체크하지 않았기 때문에 저자는 아직 지각 있는 AI 시대에 진입하지 못했다고 결론을 내렸다. 그들은 또한 AI의 의식을 과소평가하는 위험에 대해 경고했는데, 이는 "도덕적으로 심각한 피해"를 허용하고 AI 시스템이 단지 냉정하고 하드 코드일 때 의인화할 위험이 있다.

 

그럼에도 불구하고 이 논문은 마음의 가장 수수께끼 같은 측면 중 하나를 조사하기 위한 지침을 설정한다. 서섹스 대학의 아닐 세스(Anil Seth) 박사는 네이처와의 인터뷰에서 “[이 제안은] 매우 사려 깊고 과격하지 않으며 가정을 매우 명확하게 한다”고 말했다.

 

보고서는 주제에 대한 최종 단어와는 거리가 멀다. 신경과학이 뇌의 의식 상관관계를 더욱 좁혀감에 따라 체크리스트는 일부 기준을 폐기하고 다른 기준을 추가할 가능성이 높다. 현재로서는 이 프로젝트가 진행 중이며 저자는 목록을 더욱 다듬기 위해 신경과학, 철학, 컴퓨터 과학, 인지 과학 등 다양한 분야의 다른 관점을 초대한다.

이미지 출처: Unsplash의 Greyson Joralemon