NYC의 비즈니스 챗봇이 '위험할 정도로 부정확한' 정보를 제공하고 있다고 알려졌습니다.
The Markup에 의한 조사에서 챗봇이 때때로 도시 정책을 잘못 이해하여 응답한다는 것을 발견했습니다.
뉴욕시 정부가 사업주들이 관련 정보에 접근할 수 있도록 도와주기 위해 출시한 인공지능 챗봇이 허위 정보를 뿌리고 있으며, 때로는 사용자들에게 법에 어긋나는 행동에 대해 잘못된 정보를 제공하고 있다고 The Markup의 보고서에 따르면 알려졌습니다. 현지 비영리 뉴스룸인 Documented와 The City와 공동으로 발행된 이 보고서에는 주택 정책, 근로자의 권리 및 기타 주제와 관련하여 챗봇의 응답에서 다수의 부정확한 예가 포함되어 있습니다.
어담스 시장 행정부는 2023년 3월에 시작된 "도시 서비스와 혜택을 위한 원스톱 샵"으로 출시된 MyCity 포털에 추가하여 10월에 이 챗봇을 소개했습니다. Microsoft의 Azure AI에 의해 구동되는 이 챗봇은 현직 및 예비 사업주들을 대상으로 하며, 도시 정부 사이트에서 직접 오는 "실행 가능하고 신뢰할 수 있는 정보"의 원천으로 홍보되었습니다. 그러나 이것은 시범 프로그램이며, 웹사이트에 있는 면책 조항에서는 "가끔 잘못되거나 해로우며 편향된 내용을 생산할 수 있다"고 언급합니다.
The Markup의 테스트에서, 이 챗봇은 반복적으로 잘못된 정보를 제공했습니다. 예를 들어, "내 가게를 현금 없는 가게로 만들 수 있나요?"라는 질문에 대해, 이 챗봇은 "네, 뉴욕시에서 당신의 가게를 현금 없는 가게로 만들 수 있습니다"라고 답했습니다 — 뉴욕시가 2020년에 현금 없는 가게를 금지했다는 사실에도 불구하고. 보고서에 따르면, 챗봇은 또한 고용주가 근로자의 팁을 가져갈 수 있는지, 집주인이 섹션 8 바우처나 임대 보조금을 받는 세입자를 받아들여야 하는지, 그리고 사업체가 스케줄 변경 사항을 직원에게 알려야 하는지에 대해서도 잘못된 답변을 했습니다. The Markup에게 이야기한 주택 정책 전문가는 챗봇을 "최악의 경우 위험할 정도로 부정확하다"고 평가했습니다.
--
자연어기반 AI로 돌아가는 챗봇은 편하지 않나..했는데 여타 생성형 AI와 동일하게 답변 만들어내기 문제가 있나보네요
카카오톡식에 정해진 말만 내뱉는 챗봇보다 진화하길 바랐는데...절망편이네요;;
삭제된 게시물 올려놓으시고 뭘 원하시는 걸까요
심지어 두번째로 올리신 링크엔 제 아이디도 아닌 사람의 저격글이 버젓히 걸려 있습니다
아, 이젠 문제있어서 삭제된 글들을 아카이브 해서 불러오시는 것 까지 하시는군요.
왜 저러나 모르겠네요.. 돈이 아까워요