[의회 소멸] 인공지능이 법안 제정 통과시켜] 브라질 남부의 한 도시는 전적으로 챗봇으로 작성된 국가 최초의 법안을 제정했다. 정치인은 새로운 법률을 생성하기 위해 CHATGPT를 사용했다고 인정한다. 그는 챗봇이 내뱉는 내용을 단 한 번도 바꾸지 않았으며 법은 여전히 통과되었다.
[의회 소멸] 인공지능이 법안 제정 통과시켜] 브라질 남부의 한 도시는 전적으로 챗봇으로 작성된 국가 최초의 법안을 제정했다. 정치인은 새로운 법률을 생성하기 위해 CHATGPT를 사용했다고 인정한다. 그는 챗봇이 내뱉는 내용을 단 한 번도 바꾸지 않았으며 법은 여전히 통과되었다.
2024년 1월, 브라질 남부 도시 포르투 알레그레 시의회 의원 라미로 로사리오는 도난당한 물 소비량 측정기 교체 비용을 지역 주민들에게 지불하도록 강요하는 것을 막기 위한 법안을 제안했다. 특이한 점은 이 법안이 인공지능 챗봇 ChatGPT에 의해 작성되었다는 것.
로사리오 의원은 ChatGPT에 법안 초안을 작성하도록 지시했으며, 챗봇은 실제로 관련 법률과 규정을 참고하여 제안을 작성했다. 로사리오 의원은 챗봇이 작성한 초안을 거의 수정하지 않고 시의회에 제출했고,의회는 이를 인지하지 못한 채 법안을 통과시켰다.
2. 주요 논쟁점
이 사례는 인공지능 기술의 활용, 특히 법률 제정 분야에서의 윤리적 문제를 야기했습니다. 주요 논쟁점은 다음과 같다.
인공지능의 신뢰성: 챗봇이 작성한 법안이 실제로 정확하고 적절한지에 대한 의문이 제기되었다. 인공지능은 아직 개발 초기 단계이며, 편견이나 오류가 발생할 가능성이 존재하기 때문.
투명성 부족: 로사리오 의원은 처음에는 챗봇이 법안 작성에 참여했다는 사실을 밝히지 않았다. 이는 시의회 의원들이 제대로 정보를 공유하지 못하고 중요한 결정을 내린다는 비판을 받았다.
책임 소재: 만약 챗봇이 작성한 법안으로 인해 문제가 발생한다면, 누가 책임을 져야 하는지 명확하지 않다. 로사리오 의원, 챗봇 개발자, 혹은 시의회 모두 책임을 져야 할 수 있다.
3. 증가 추세
인공지능 기술의 발전과 더불어, 정부기관이나 기업에서 인공지능을 활용하는 사례가 점점 늘어나고 있다. 이와 함께 인공지능이 작성한 문서나 코드를 기반으로 의사 결정을 내리는 경우도 증가하고 있다. 하지만 아직까지 인공지능 기술의 신뢰성과 윤리적 문제에 대한 논의가 충분히 이루어지지 않았다.
앞으로 인공지능 기술이 더욱 발전하고 사회 전반에 널리 활용된다면, 이러한 문제는 더욱 심각해질 가능성이 높다. 따라서 인공지능 기술의 윤리적 사용을 위한 사회적 합의와 제도적 장치 마련이 시급하다.
4. 관련 사례
2023년: 미국 캘리포니아 주의회는 인공지능을 사용하여 법률을 초안하는 시스템 개발을 위한 연구비 지출을 승인했다.
2024년: 중국 베이징시 정부는 인공지능을 사용하여 교통 위반 사례를 처리하는 시스템을 도입했다.
이 이미지들은 AI가 법안 작성, 사법 시스템, 그리고 정부의 투명성 확보에 어떻게 활용되고 있는지 다양한 측면을 보여줍니다.
모델 입법
ChatGPT가 허구에서 진실을 말할 수 없는 것으로 악명 높음에도 불구하고(간단한 수학 문제는 고사하고) 브라질 남부의 한 도시는 전적으로 챗봇으로 작성된 국가 최초의 법안을 제정했다.
Associated Press의 보도에 따르면, 포르투 알레그레(Porto Alegre) 시의회 의원 라미로 로사리오(Ramiro Rosário)는 ChatGPT가 도난당한 물 소비량 측정기 교체 비용을 지역 주민들에게 지불하도록 강요하는 것을 막기 위한 제안을 작성하도록 촉구했다고 인정했다.
보고서에 따르면 그는 챗봇이 내뱉은 내용을 단 한 번도 바꾸지 않았고, 애초에 그것이 AI로 생성되었다는 사실조차 의회에 알리지 않았다.
그러나 그것은 그의 의도의 상당 부분을 차지한 것 같다.
로사리오는 AP통신과의 인터뷰에서 "내가 이전에 이 사실을 공개했다면 그 제안은 투표조차 되지 않았을 것"이라고 말했다. "단순히 인공지능이 작성했다는 이유만으로 프로젝트가 승인되지 않을 위험을 감수하는 것은 인구에게 불공평할 것입니다."
기계에 대한 분노
포르토 알레그레의 시의회 의장인 해밀턴 소스마이어(Hamilton Sossmeier)는 소셜 미디어에 법안 통과를 자랑한 후에야 로사리오의 계획을 알게 되었다.
소스마이어는 AP에 따르면 현지 언론과의 인터뷰에서 이 조치를 "위험한 선례"라고 불렀다.
우리는 동의하지 않을 수 없다. ChatGPT는 현실과 결함이 있고 빈약한 연결을 가지고 있는 것으로 반복적으로 나타났다. 엄청난 인기에도 불구하고 여전히 사실을 사실대로 만들어내고, 심지어 데이터를 요약할 때 완전히 꾸며낸 숫자를 내놓기도 한다.
적절한 사례: 변호사는 출력에서 참조한 사례가 완전히 조작된 것으로 밝혀진 후 법률 브리핑을 작성하기 위해 도구를 사용하여 적발되기도 했다.
로사리오는 나머지 의회에 알리지 않고 ChatGPT를 사용했지만 미국을 포함한 다른 국회의원들은 여전히 기술을 위한 시간과 장소가 있다고 주장한다. 하지만 책임감 있고 투명하게 사용되는 경우에만 가능하다.
챗봇을 사용하여 법안 초안을 작성한 매사추세츠주 상원의원 배리 파인골드는 AP에 "우리는 ChatGPT로 생성된 작업에 워터마크가 표시되기를 원한다"고 말했다. "나는 명확하다면 ChatGPT를 사용하여 청구서를 작성하는 사람들을 선호한다."
한편 로사리오는 후회하지 않는다.
"우리가 문명으로서 개발한 모든 도구는 악을 위해 사용될 수도 있고 선을 위해 사용될 수도 있다"라고 그는 AP에 말했다. "그래서 우리는 그것이 어떻게 선하게 사용될 수 있는지 보여줘야 한다."
