광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고

AI넷

[OpenAI는 도덕성을 바탕으로 AI에 자금을 지원하나?] AI, 도덕적 판단을 내릴 수 있을까? OpenAI의 도덕적 AI 연구 심층 분석

박영숙세계미래보고서저자 | 기사입력 2024/11/29 [12:48]

[OpenAI는 도덕성을 바탕으로 AI에 자금을 지원하나?] AI, 도덕적 판단을 내릴 수 있을까? OpenAI의 도덕적 AI 연구 심층 분석

박영숙세계미래보고서저자 | 입력 : 2024/11/29 [12:48]

 

 

AI, 도덕적 판단을 내릴 수 있을까? OpenAI의 도덕적 AI 연구 심층 분석

 

OpenAI, AI에 도덕성 부여 가능성에 주목...하지만 과연?

OpenAI가 인간의 도덕적 판단을 모방하고 예측할 수 있는 AI 개발에 적극적으로 나서면서, AI의 도덕성에 대한 논의가 더욱 뜨거워지고 있다. OpenAI는 노스캐롤라이나 대학 연구팀에 자금을 지원하여 건강, 법률, 비즈니스 등 다양한 분야에서 발생하는 도덕적 딜레마를 해결할 수 있는 AI 알고리즘 개발에 힘쓰고 있다.

 

도덕적 판단을 내리는 AI, 가능할까?

OpenAI의 이러한 시도는 AI가 단순히 데이터를 처리하는 도구를 넘어, 인간과 유사한 수준의 도덕적 판단을 내릴 수 있는 가능성을 보여준다. 연구팀은 이미 의료 분야에서 환자 우선순위를 결정하는 등의 실제적인 문제에 AI를 적용하는 연구를 진행하고 있다.

하지만 이러한 시도는 동시에 여러 가지 윤리적, 기술적 문제를 야기한다.

  • 도덕성의 상대성: 도덕성은 문화, 사회, 개인의 가치관에 따라 다르게 정의될 수 있다. AI가 어떤 기준으로 도덕적인 판단을 내려야 할지 명확한 기준을 설정하기 어렵다.
  • 편향성 문제: AI는 학습 데이터에 의존하기 때문에, 학습 데이터에 내재된 편향이 AI의 판단에 영향을 미칠 수 있다. 특히 인종, 성별, 사회경제적 지위 등에 대한 편향은 심각한 문제를 야기할 수 있다.
  • 책임 소재: AI가 내린 결정으로 인해 발생하는 문제에 대한 책임 소재를 명확히 규정하기 어렵다.

OpenAI의 연구, 의미와 한계

OpenAI의 연구는 AI가 인간의 복잡한 문제를 해결하는 데 도움을 줄 수 있는 가능성을 보여주지만, 동시에 해결해야 할 과제도 많다. AI가 도덕적 판단을 내리는 것은 단순히 기술적인 문제를 넘어, 철학, 윤리, 사회학 등 다양한 분야의 심층적인 고민을 필요로 한다.

 

결론

AI가 도덕적 판단을 내릴 수 있는 가능성은 매우 매력적이지만, 동시에 많은 어려움과 위험을 안고 있다. 우리는 AI 기술 발전과 함께, AI의 윤리적 문제에 대한 사회적 논의를 활발하게 진행해야 한다. AI가 인간에게 도움이 되는 도구가 되기 위해서는, 기술 개발과 함께 윤리적 기준 마련이 필수적이다.

 

OpenAI의 AI 도덕성 연구 지원 현황

연구 지원 개요

OpenAI가 듀크 대학교에 "Research AI Morality" 프로젝트를 위해 3년간 100만 달러의 연구 자금을 지원했다. 이 프로젝트는 AI가 의료, 법률, 비즈니스 분야에서 도덕적 판단을 내리는 능력을 연구하는 것이다.

연구진과 목표

Walter Sinnott-Armstrong 교수와 Jana Schaich Borg 교수가 연구를 주도하고 있다. 이들은 AI를 "도덕적 GPS"로 발전시켜 인간의 의사결정을 돕는 것을 목표로 하고 있다.

현재의 도전 과제

AI 시스템이 도덕적 판단을 내리는 데에는 여러 한계가 있다. 특히:

  • 기계학습 모델이 dominant 문화의 편견을 반영하는 문제
  • 도덕성의 주관적 특성으로 인한 보편적 기준 설정의 어려움
  • AI의 경험 능력과 도덕적 판단 능력 간의 관계 문제

향후 전망

이 프로젝트는 2025년에 종료될 예정이며, AI가 진정한 도덕적 판단을 할 수 있을지는 아직 미지수라고 한다. 하지만 이 연구는 AI의 도덕적 의사결정 능력을 향상시키는 중요한 첫걸음이 될 것

 

chosun.com

 

coolenjoy.net

 

 

etnews.com

 

heesight.com

 

newsis.com

 

 

 

OpenAI는 'AI 도덕성'에 대한 연구에 자금을 지원하고 있다.

OpenAI는 듀크 대학교 연구자들에게 인간의 도덕적 판단을 예측하는 알고리즘을 탐구하도록 자금을 지원하고 있습니다. 윤리학 교수인 월터 시노트-암스트롱과 자나 보그가 이끄는 이 프로젝트는 100만 달러의 3년 보조금 으로 운영됩니다 . 그들의 과거 작업에는 장기 기증과 같은 딜레마에 대한 도덕적으로 정렬된 알고리즘을 개발하고 법률, 의학 및 비즈니스에서 "도덕적 나침반"으로서 AI의 잠재력을 조사하는 것이 포함됩니다.

이 이니셔티브는 도덕성의 본질적인 주관성과 AI 훈련 데이터에 내재된 편견, 종종 서구 규범을 반영하는 편견과 씨름합니다. 이러한 과제는 Allen Institute의 Ask Delphi와 같은 이전 노력에서 극명하게 드러났으며, 이는 다시 표현된 도덕적 딜레마에 직면했을 때 흔들렸습니다. OpenAI의 벤처는 기계에서 윤리적 추론을 인코딩하는 것의 타당성에 대한 심오한 질문을 제기하며 수세기 동안 합의를 이루지 못했던 철학적 모호성에 직면합니다. 자세히 보기 .

 

OpenAI는 도덕성을 바탕으로 AI에 자금을 지원할까?

보고서: OpenAI는 노스캐롤라이나 대학에 연구 프로젝트를 위한 자금을 지원했습니다. 이 프로젝트는 건강, 법률, 비즈니스 등의 분야에서 갈등이 잦은 상황에서 인간과 같은 도덕적 판단과 결정을 이해하고, 예측하고, 내릴 수 있는 AI 알고리즘을 구축하고 훈련하는 데 사용됩니다.

🔑 주요 포인트: 

  • OpenAI는 듀크 대학의 여러 교수에게 3년에 걸쳐 100만 달러의 보조금을 지급하여 "도덕적 AI의 제작"을 연구하는 프로젝트(Research AI Morality)를 완료하도록 했습니다.

  • 이 프로젝트의 두 주요 교수인 월터 시노트-암스트롱과 자나 보그는 모두 인간이 더 나은 판단을 내리는 데 도움이 되는 "도덕적 GPS"가 될 수 있는 AI의 능력에 대한 연구를 이전에 발표했습니다 .

  • 그들은 연구를 뒷받침하기 위해 AI가 언제 인간보다 도덕적 판단을 더 잘 내릴지 살펴보고, 의사들이 '도덕적으로' 어떤 환자가 먼저 신장 교체 수술을 받아야 할지 결정하는 데 도움이 되는 알고리즘을 개발했습니다.

🤔 관심을 가져야 하는 이유: 이는 비영리 단체인 '앨런 AI 연구소'가 2021년에 '델파이에 물어보세요'를 개발한 후에 나온 것입니다. 이 기계는 시험에서 부정행위를 하는 것은 도덕적으로 잘못된 일이라고 설명하는 것과 같은 윤리적 반응을 제공하도록 훈련되었습니다. 하지만 통계적 기계(대부분의 ML 모델과 마찬가지로)였고 웹 전반의 데이터로 훈련되었기 때문에 예측은 서구화되고 교육받고 산업화된 관점을 반영하는 경향이 있었습니다. 이로 인해 반응은 편향적이고 신뢰할 수 없으며 때로는 비윤리적일 수도 있었습니다. 이는 이러한 교수들이 극복해야 할 과제이며, '도덕성'에 대한 그들만의 개인적 견해도 마찬가지입니다. 도덕성은 매우 주관적이고 모든 사람마다 다르기 때문입니다. 

AI가 도덕적 판단을 내릴 수 있는가?

 
광고
광고
광고
광고
광고
광고
광고