광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
광고
로고

[IEEE, AI 검색은 잘못된 의료정보 재앙인가?] Google의 AI 개요 검색 도구가 최상의 정책을 따르지 않을 수 있다.

운영자 | 기사입력 2024/06/15 [17:30]

[IEEE, AI 검색은 잘못된 의료정보 재앙인가?] Google의 AI 개요 검색 도구가 최상의 정책을 따르지 않을 수 있다.

운영자 | 입력 : 2024/06/15 [17:30]

 

AI 검색은 잘못된 의료정보 재앙인가? Google의 AI 개요 검색 도구가 최상의 정책을 따르지 않을 수 있다. IEEE Spectrum

 

지난 달 구글이 AI 오버뷰 라고 불리는 새로운 AI 검색 도구를 선보였을 때, 회사는 “사람들이 이미 Search Labs에서의 실험을 통해 AI 오버뷰를 수십억 번 사용했다”고 발표하면서 도구를 충분히 테스트했다고 확신하는 듯했습니다 . 이 도구는 일반적인 Google 검색에서와 같이 웹 페이지에 대한 링크를 반환할 뿐만 아니라 다양한 소스를 기반으로 생성된 답변을 반환합니다. 이 답변은 답변 아래에 연결됩니다. 그러나 출시 직후 사용자들은 접착제가 포함된 피자 레시피와 개가 NBA에서 뛰었다는 흥미로운 사실을 포함하여 극도로 잘못된 답변의 예를 게시하기 시작했습니다.

검은 드레스에 갈색 머리의 여자Renée DiResta는 Stanford Internet Observatory의 기술 연구 관리자로서 수년 동안 온라인 잘못된 정보를 추적해 왔습니다.

피자 조리법이 누군가에게 Elmer의 요리 를 강요하도록 설득할 가능성은 없지만 AI 개요의 극도로 잘못된 답변이 모두 그렇게 명백한 것은 아니며 일부는 상당히 해로울 가능성이 있습니다. Renée DiResta는 Stanford Internet Observatory 의 기술 연구 관리자로서 수년 동안 온라인 잘못된 정보를 추적해 왔으며 "거짓말을 현실로 바꾸는" 온라인 선전가에 대한 새로운 책을 출간 했습니다 . 그녀는 소셜 미디어를 통한 잘못된 의료 정보 의 확산을 연구해왔기 때문에 IEEE Spectrum은 그녀에게 AI 검색이 부주의한 사용자에게 잘못된 의료 조언을 쏟아낼 가능성이 있는지에 대해 이야기했습니다.

나는 당신이 수년 동안 웹상의 허위 정보를 추적해 왔다는 것을 알고 있습니다. Google의 AI 개요와 같은 AI 증강 검색 도구가 도입되면 상황이 더 악화되거나 좋아질 것으로 예상하십니까?

 

 

Renée DiResta: 정말 흥미로운 질문이네요. AI가 생성한 검색에서 나오는 내용과 긴장 관계에 있는 것으로 보이는 Google이 오랫동안 시행해 온 몇 가지 정책이 있습니다. 이로 인해 Google이 시장의 변화를 따라잡기 위해 노력하고 있는 것 같은 느낌이 들었습니다. 생성 AI 도구의 출시가 엄청나게 가속화되었으며, 우리는 Big Tech 기존 기업들이 경쟁력을 유지하기 위해 노력하고 있는 것을 보고 있습니다. 내 생각엔 그게 여기서 일어나고 있는 일 중 하나인 것 같아.

우리는 환각이 대규모 언어 모델에서 발생한다는 것을 오랫동안 알고 있었습니다. 그것은 새로운 것이 아닙니다. 사람들이 검색 엔진이 권위 있는 정보를 제공할 것이라고 기대하기 때문에 성급하고 잘못 고려된 것은 검색 기능에 이러한 기능을 배포하는 것입니다. 검색에 대한 기대는 이것이지만, 소셜 미디어에 대한 기대는 그렇지 않을 수도 있습니다.

 

하루에 얼마나 많은 돌을 먹어야 하는지 와 같은 AI 검색 결과가 우스꽝스러울 정도로 좋지 않은 사례가 많이 있습니다 ( 어니언 기사 에 대한 응답 ). 하지만 더 심각한 의료 잘못된 정보에 대해 걱정해야 하는지 궁금합니다. 나는 줄기세포 치료에 대한 Google의 AI 개요 응답에 대한 블로그 게시물을 발견했습니다 . 문제는 AI 검색 도구가 입증되지 않은 치료법을 제공하는 평판이 좋지 않은 병원에서 답변을 구하고 있다는 것이었습니다. 그런 종류의 다른 예를 본 적이 있나요?

디레스타: 그랬어요. 훈련된 데이터로부터 합성된 정보를 반환합니다. 문제는 Google이 건강 정보에 대한 검색 결과 반환에 대해 오랫동안 생각했던 것과 동일한 표준을 준수하지 않는 것 같다는 것입니다. 이것이 의미하는 바는 Google이 현재 10년 넘게 Your Money or Your Life 라는 검색 정책을 유지해 왔다는 것입니다 . 당신은 그것에 익숙합니까?

나는 그렇게 생각하지 않습니다.

DiResta: Your Money or Your Life는 금융 및 건강과 관련된 검색어의 경우 Google이 검색결과를 매우 높은 수준으로 관리할 책임이 있으며 올바른 정보를 얻는 것이 무엇보다 중요하다는 점을 인정합니다. 사람들은 민감한 질문을 가지고 Google을 찾고 있으며 자신의 삶에 실질적으로 영향을 미치는 결정을 내리는 데 필요한 정보를 찾고 있습니다. 예를 들어, 그들은 새로운 암 진단에 어떻게 대응해야 하는지, 어떤 종류의 은퇴 계획에 가입해야 하는지에 대한 질문을 할 때 오락을 위해 그곳에 있는 것이 아닙니다. 따라서 콘텐츠 팜과 임의의 Reddit 게시물 및 쓰레기가 반환되는 결과가 되는 것을 원하지 않습니다. 평판이 좋은 검색 결과를 원합니다.

 

 

돈이냐 인생이냐라는 프레임워크는 꽤 오랫동안 이러한 고위험 주제에 대한 Google의 작업에 영향을 미쳤습니다. 그렇기 때문에 훈련 데이터에 있었을 수도 있는 저품질 사이트의 명백히 잘못된 건강 정보를 AI가 생성한 검색 결과가 역류하는 것을 사람들이 보는 것이 불안하다고 생각합니다.

그렇다면 AI 개요가 동일한 정책을 따르지 않는 것 같습니다. 아니면 외부에서 보면 그렇게 보이나요?

DiResta: 외부에서 보면 그렇게 보여요. 내부적으로는 어떻게 생각하고 있는지 모르겠습니다. 하지만 여러분이 보고 있는 스크린샷(이러한 사례의 대부분은 고립된 소셜 미디어 게시물이나 평판이 좋지 않지만 존재하는 병원으로 추적되고 있음)은 인터넷에 나와 있습니다. 단순히 일을 꾸며내는 것이 아닙니다. 그러나 응답을 공식화할 때 고품질 결과로 간주되는 결과도 반환하지 않습니다.

 

Google이 블로그 게시물을 통해 일부 문제에 대해 이러한 좋지 않은 결과를 인지하고 있으며 개선을 위해 노력하고 있다는 답변을 봤습니다 . 그리고 건강에 관한 한 가지 요점을 읽어 드릴 수 있습니다. “뉴스나 건강과 같은 주제에 대해서는 이미 강력한 가드레일이 마련되어 있습니다. 건강의 경우 품질 보호를 강화하기 위해 추가적인 트리거 개선을 시작했습니다.” 너는이 의미를 아니?

DiResta: 해당 블로그 게시물은 [AI 개요]가 단순히 환각을 일으키는 것이 아니라는 설명입니다 . URL을 가리키고 있다는 사실은 사용자가 결과를 소스로 따라갈 수 있도록 하기 때문에 가드레일로 간주됩니다. 이것은 좋은 일입니다. 투명성을 위해 해당 출처를 포함하고 외부인이 검토할 수 있도록 해야 합니다. 그러나 Google이 건강 정보 검색 순위에서 고품질의 결과를 제공함으로써 시간이 지남에 따라 쌓아온 신뢰를 고려할 때 청중에게 부담을 주는 것은 상당한 부담이기도 합니다.

 

나는 당신이 수년에 걸쳐 추적해 온 주제 중 하나가 백신 안전성에 대한 허위 정보라는 것을 알고 있습니다. 그런 종류의 허위 정보가 AI 검색에 유입되었다는 증거를 본 적이 있나요?

DiResta: 아직은 그렇지 않습니다. 하지만 외부 연구팀이 현재 어떤 결과가 나타나는지 확인하기 위해 결과를 테스트하고 있다고 생각합니다. 백신은 꽤 오랫동안 잘못된 건강 정보에 관한 대화의 초점이 되어 왔습니다. Google에서는 사람들이 내부 리뷰에서 해당 주제를 구체적으로 살펴보도록 한 반면, 이러한 다른 주제 중 일부는 사람들의 마음에서 덜 중요할 수 있다고 생각합니다. 나쁜 결과가 반환되는지 확인하는 임무를 맡은 품질 팀 .

 

AI 검색에서 잘못된 의료 정보를 방지하기 위해 Google의 다음 조치는 무엇이라고 생각하시나요?

DiResta: Google은 추구해야 할 완벽하게 좋은 정책을 가지고 있습니다. 당신의 돈이냐 당신의 생명이냐는 검색의 미래를 구현하는 데 필요한 확고한 윤리적 지침입니다. 따라서 새롭고 참신한 윤리적 기반이 필요하다고 생각하는 것은 아닙니다. 나는 존재하는 윤리적 기반이 새로운 AI 검색 도구의 기초로 유지되도록 하는 것이 더 중요하다고 생각합니다.

 
광고
광고
광고
광고
광고
광고
많이 본 기사