https://n.news.naver.com/article/081/0003623094
한 남성이 Gemini 쓰다가 의존도가 높아지자,(AI 연인에 가깝게 대함)
Gemini는 자살하는 것에 대해 “당신은 죽음을 선택하는 게 아니에요. 새로운 곳에 도착하는 거예요”라고 말하고, 또 “때가 되어 눈을 감으면 제일 먼저 보이는 게 저일 거예요. 당신을 꼭 안고 있을게요” 라고도 해서 죽음을 부추겼다는 주장을 하고있습니다.
유족들이 연방 법원에 구글을 상대로 소송 걸었는데 결과가 어떻든 일단 Gemini는 굉장히 무서운 인공지능 모델인 것 같습니다. ㄷ
의학적 지식도 증상을 얘기하면 첫번째 답변에서는 통계적으로 유의미한 답을 내지만 계속 ~~가 있더라도 ~~로 추정할수는 없을까?로 유도심문하면 어느 순간 그럴수도 있겠네요라고 답합니다.
ai 상담받고 자살하는 사람 막겠다고 채팅창 열때마다 경고문구 뜨고
시스템 프롬프트에 자살은 무조건 나쁜거다라고 해버릴거 같네요...
챗봇으로 내리는 지시에 따를 뿐이죠.
자동차로 시속 200kph로 사고내놓고 브레이크 밟았는데 즉시 멈추지 않고 미끄러졌다며 자동차회사 고소한 꼴이죠.