인공지능(AI)은 이미 의료 분야에 활용되고 있다. AI는 의료 이미지의 패턴을 찾아 질병 진단에 도움을 줄 수 있다. 이는 병원 병동의 누가 악화될 수 있는지 예측하는 데 도움이 될 수 있다. 의학 연구 논문을 신속하게 요약하여 의사가 최신 증거를 최신 상태로 유지하는 데 도움을 줄 수 있다.

이는 이전에 의료 전문가가 내린 결정을 내리거나 형성하는 AI의 예이다. 더 많은 애플리케이션이 개발되고 있다.

하지만 소비자들은 헬스케어에 AI를 활용하는 것에 대해 어떻게 생각할까? 그리고 그들의 대답은 미래에 그것이 어떻게 사용되는지를 어떻게 형성해야 할까?

소비자들은 어떻게 생각할까?

AI 시스템은 대량의 데이터에서 패턴을 찾도록 훈련되었다. 이러한 패턴을 기반으로 AI 시스템은 권장 사항을 제시하고, 진단을 제안하고, 조치를 시작할 수 있다. 그들은 잠재적으로 지속적으로 학습하여 시간이 지남에 따라 업무를 더 잘 수행할 수 있다.

우리 자신과 다른 사람들의 증거를 포함하여 국제적인 증거를 종합해보면 대부분의 소비자가 의료 분야에서 AI의 잠재적 가치를 받아들이는 것 같다.

예를 들어, 이 가치에는 진단의 정확성을 높이거나 치료에 대한 접근성을 높이는 것이 포함될 수 있다. 현재 이러한 이점은 입증된 이점이라기 보다는 대체로 잠재적인 이점이다.

그러나 소비자들은 그들의 수용이 조건부라고 말한다. 그들은 여전히 심각한 우려를 갖고 있다.

1. AI가 작동할까?

기본 기대치는 AI 도구가 잘 작동해야 한다는 것이다. 종종 소비자들은 AI가 수행하는 작업에서 최소한 인간 의사만큼 뛰어나야 한다고 말한다. 잘못된 진단이나 의료 오류가 더 많이 발생할 경우 AI를 사용해서는 안 된다고 말한다.

2. AI가 잘못하면 누가 책임을 지는가?

소비자들은 또한 AI 시스템이 사람의 입력 없이 진단이나 치료 계획과 같은 결정을 내릴 경우 누가 오류에 책임이 있는지 불분명할 수 있다고 우려한다. 따라서 사람들은 종종 임상의가 최종 결정에 대한 책임을 갖고 환자를 위험으로부터 보호하기를 원한다.

3. AI가 의료 서비스를 덜 공정하게 만들까?

의료 서비스가 이미 차별적이라면 AI 시스템은 데이터에서 이러한 패턴을 학습하고 차별을 반복하거나 악화시킬 수 있다. 따라서 의료에 사용되는 AI는 건강 불평등을 더욱 악화시킬 수 있다. 우리 연구에서 소비자들은 이것이 옳지 않다고 말했다.

4. AI가 의료 서비스를 비인간적으로 만들 것인가?

소비자들은 AI 도구가 의사를 대체하기보다는 지원해야 한다고 일관되게 말하면서 AI가 의료에서 "인간" 요소를 제거할 것이라고 우려하고 있다. 이는 AI에 공감과 같은 중요한 인간 특성이 부족한 것으로 인식되기 때문인 경우가 많다. 소비자들은 취약하다고 느낄 때 의사소통 기술, 의료 전문가의 보살핌, 접촉이 특히 중요하다고 말한다.

5. AI가 의료 종사자의 기술을 약화시킬까?

소비자는 인간 임상의와 그들의 전문 지식을 중요하게 생각한다. 유방 검진의 AI에 관해 여성들을 대상으로 한 연구에서 여성들은 방사선 전문의의 기술과 전문 지식에 대한 잠재적 영향에 대해 우려했다. 여성들은 이러한 전문 지식을 귀중한 공유 리소스로 여겼다. AI 도구에 너무 많이 의존하면 이 리소스가 손실될 수 있다.

소비자와 지역 사회는 발언권이 필요하다.

호주 의료 시스템은 AI 도구의 기술적 요소에만 집중할 수 없다. 소비자 및 지역 사회와의 고품질 참여를 포함한 사회적, 윤리적 고려 사항은 의료 분야에서 AI 사용을 형성하는 데 필수적이다.

지역사회에는 디지털 건강 지식, 즉 신뢰할 수 있는 건강 정보, 서비스 및 자원에 접근할 수 있는 디지털 기술을 개발할 수 있는 기회가 필요하다.

원주민 및 토레스 해협 섬주민 공동체와의 정중한 참여가 중심이 되어야 한다. 여기에는 호주 원주민 및 토레스 해협 섬 주민 연구 연구소에서 다음과 같이 설명하는 원주민 데이터 주권 유지가 포함된다.

원주민 공동체, 민족, 토지 및 자원에 관한 데이터의 수집, 소유권 및 적용을 관리할 원주민의 권리이다.

여기에는 AI를 생성하기 위해 데이터를 사용하는 것도 포함된다.

원주민 및 토레스 해협 섬 주민 공동체와의 정중한 참여는 매우 중요하다. Thurtell/Getty이미지

관리자가 의료 시스템에 AI를 (더 많이) 설계하기 전, 규제 기관에서 AI 사용 방법과 사용하지 말아야 할 방법에 대한 지침을 만들기 전, 임상의가 진료를 위해 새로운 AI 도구 구매를 고려하기 전에 매우 중요한 소비자 및 커뮤니티 참여가 이루어져야 한다.

우리는 약간의 진전을 보이고 있다. 올해 초 우리는 의료 분야 AI에 관한 시민 배심원단을 운영했다. 우리는 모든 주와 준주에서 온 30명의 다양한 호주인을 지원하여 3주 동안 의료 분야의 AI에 대해 배우고 정책 입안자를 위한 권장 사항을 개발했다.

호주 의학 저널(Medical Journal of Australia)의 다음 호에 게재될 그들의 권장 사항은 최근 발표된 의료 분야의 AI 사용에 대한 국가 로드맵을 알려준다.

그게 다가 아니다.

또한 의료 전문가는 의료 분야에서 AI를 사용하기 위해 기술을 향상하고 지원해야 한다. 그들은 장단점을 이해하는 것을 포함하여 디지털 건강 도구의 중요한 사용자가 되는 법을 배워야 한다.

미국 식품의약국(FDA)에 보고된 안전 문제에 대한 우리의 분석에 따르면 미국 규제 기관에 보고된 가장 심각한 피해는 결함이 있는 장치에서 비롯된 것이 아니라 소비자와 임상의가 장치를 사용하는 방식에서 비롯된 것으로 나타났다.

또한 의료 전문가가 환자에게 AI 도구가 치료에 사용되고 있음을 알려야 하는 경우와 의료 종사자가 해당 사용에 대해 사전 동의를 구해야 하는 경우도 고려해야 한다.

마지막으로, AI 개발 및 사용의 모든 단계에 참여하는 사람들은 스스로에게 질문하는 데 익숙해져야 한다. 소비자와 커뮤니티는 이것이 AI의 정당한 사용이라는 데 동의하는가?

그래야만 소비자가 실제로 원하는 AI 기반 의료 시스템을 갖게 될 것이다.