광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[AI의 작동 방식을 이해하지 못한다는 것을 인정] 기술이 실제로 어떻게 작동하는지 이해하는 데 여전히 어려움을 겪고 있다.

박세훈 | 기사입력 2024/06/06 [09:00]

[AI의 작동 방식을 이해하지 못한다는 것을 인정] 기술이 실제로 어떻게 작동하는지 이해하는 데 여전히 어려움을 겪고 있다.

박세훈 | 입력 : 2024/06/06 [09:00]

 

샘 알트만(Sam Altman)은 오픈AI가 실제로 AI의 작동 방식을 이해하지 못한다는 것을 인정

 

OpenAI는 세상을 변화시키는 AI 기술을 개발하기 위해 수백억 달러를 모금했다. 그러나 한 가지 눈에 띄는 문제가 있다 : 기술이 실제로 어떻게 작동하는지 이해하는 데 여전히 어려움을 겪고 있다.

지난주 스위스 제네바에서 열린 국제전기통신연합(International Telecommunication Union) AI for Good Global Summit에서 오픈AI CEO 샘 알트만(Sam Altman)은 자사의 대규모 언어 모델(LLM)이 실제로 어떻게 작동하는지에 대한 질문을 받고 난처해했다.

옵저버가 인용한 바에 따르면, 그는 "우리는 확실히 해석 가능성을 해결하지 못했다"고 말하며, 본질적으로 회사가 AI 모델의 종종 기괴하고 부정확한 결과와 그러한 답을 얻기 위해 내린 결정을 추적하는 방법을 아직 알아내지 못했다고 말했다.

디 애틀랜틱(The Atlantic)의 CEO인 니콜라스 톰슨(Nicholas Thompson)이 "새롭고 더 강력한 모델을 계속 출시하지 말아야 한다는 주장이 아니냐"고 물었을 때, 알트먼은 당황한 듯 AI가 "일반적으로 안전하고 강력한 것으로 간주된다"고 반신반의하며 반박했다.

알트먼의 불만족스러운 답변은 떠오르는 AI 분야의 실제 문제를 강조한다. 연구자들은 AI 챗봇이 자신에게 던져지는 모든 질문에 거의 마술처럼 쉽게 반응하는 등 무대 뒤에서 진행되는 자유분방한 "사고"를 설명하기 위해 오랫동안 고군분투해 왔다(거짓말과 가스라이팅은 제쳐두고).

그러나 아무리 노력해도 AI가 훈련된 원본 자료로 출력을 추적하는 것은 매우 어려운 것으로 판명되었다. OpenAI는 회사 자체의 이름과 기원 이야기에도 불구하고 AI를 훈련시키는 데이터를 가슴에 매우 단단히 보관했다.

75명의 전문가로 구성된 패널은 최근 영국 정부가 의뢰한 획기적인 과학 보고서에서 AI 개발자들이 "시스템이 어떻게 작동하는지에 대해 거의 이해하지 못하고" 과학적 지식이 "매우 제한적"이라고 결론지었다. 보고서는 "모델 설명 및 해석 가능성 기술은 범용 AI 시스템의 작동 방식에 대한 연구자와 개발자의 이해를 향상시킬 수 있지만 이 연구는 초기 단계"라고 밝혔다.

다른 AI 회사들은 알고리즘의 인공 뉴런을 매핑하여 "블랙박스를 열는" 새로운 방법을 찾으려고 노력하고 있다. 예를 들어, OpenAI 경쟁사인 Anthropic은 최근 첫 번째 단계로 Claude Sonnet이라는 최신 LLM 중 하나의 내부 작업을 자세히 살펴보았다.

"Anthropic은 회사 창립 이래 해석 가능성 연구에 상당한 투자를 해왔는데, 이는 모델을 깊이 이해하는 것이 모델을 더 안전하게 만드는 데 도움이 될 것이라고 믿기 때문입니다." "하지만 그 일은 이제 막 시작되었다"고 회사는 인정했다. "우리가 발견한 기능은 훈련 중에 모델이 학습한 모든 개념의 작은 하위 집합을 나타내며, 현재 기술을 사용하여 전체 기능 세트를 찾는 것은 엄청난 비용이 듭니다."

"모델이 사용하는 표현을 이해한다고 해서 모델이 어떻게 사용하는지 알 수 있는 것은 아닙니다. 비록 우리가 그 기능들을 가지고 있다 하더라도, 우리는 여전히 그것들이 관련된 회로들을 찾아야 한다"고 Anthropic은 썼다. "그리고 우리가 찾기 시작한 안전 관련 기능이 실제로 안전을 개선하는 데 사용될 수 있다는 것을 보여줘야 합니다."

AI 해석 가능성은 AI 안전성을 둘러싼 열띤 논쟁과 일부 전문가에게 인류에게 멸종 수준의 위험을 나타내는 인공 일반 지능의 위험을 고려할 때 특히 적절한 주제이다.

알트만은 최근 "우리보다 훨씬 더 똑똑한 AI 시스템을 조종하고 제어하는" 방법을 찾는 데 전념했던 회사의 소위 "슈퍼얼라인먼트(Superalignment)" 팀 전체를 해체했다. 궁지에 몰린 CEO의 최근 발언을 감안할 때, 이 회사는 초지능 AI를 지배하기 위해 갈 길이 멀다. 물론, 알트먼의 핵심 제품이 실제로 어떻게 작동하는지에 대한 단서가 없음에도 불구하고 회사가 안전과 보안에 전념하고 있다는 것을 투자자들에게 계속 안심시키는 것이 Altman의 최선의 재정적 이익이다.

"이 모델들에서 무슨 일이 일어나고 있는지 더 많이 이해할수록 더 좋다고 생각합니다."라고 그는 지난주 컨퍼런스에서 말했다. "저는 이것이 우리가 안전 주장을 하고 검증할 수 있는 방법에 대한 응집력 있는 패키지의 일부가 될 수 있다고 생각합니다."  (Futurism)

 

 
광고
광고
광고
광고
광고
광고
많이 본 기사