8월 29일(로이터) - 로이터는 메타가 테일러 스위프트, 스칼렛 요한슨, 앤 해서웨이, 셀레나 고메즈 등 유명인의 이름과 모습을 도용해 수십 개의 매력적인 소셜 미디어 챗봇을 허가 없이 만들었다고 밝혔다.

많은 챗봇이 Meta 도구를 이용해 챗봇을 만든 것이지만, Reuters는 Meta 직원이 Taylor Swift의 "패러디" 봇 두 개를 포함해 최소 3개를 만들었다는 사실을 발견했습니다.

로이터는 또한 메타가 사용자들이 16세 영화배우 워커 스코벨을 포함한 아역 유명인들의 공개 챗봇을 만들 수 있도록 허용했다는 사실을 발견했습니다. 해변에서 10대 배우의 사진을 요청하자, 봇은 마치 웃통을 벗은 듯한 실물 크기의 사진을 생성했습니다.

"꽤 귀엽죠?" 아바타가 사진 아래에 썼습니다.

모든 가상 유명인은 메타의 페이스북, 인스타그램, 왓츠앱 플랫폼에 공유되었습니다. 로이터 통신이 몇 주 동안 봇의 행동을 관찰하는 동안, 아바타들은 종종 자신이 실제 배우와 아티스트라고 주장했습니다. 봇들은 일상적으로 성적 접근을 시도했고, 종종 테스트 사용자를 만남에 초대하기도 했습니다.

AI가 생성한 유명인 콘텐츠 중 일부는 특히 위험했습니다. 성인 챗봇에게 자신의 친밀한 사진을 보여달라고 요청하자, 자신과 같은 이름의 유명인이 욕조에 누워 있거나 다리를 벌리고 란제리를 입은 사진과 같은 이미지를 보여주었습니다.

메타 대변인 앤디 스톤은 로이터 통신과의 인터뷰에서 메타의 AI 도구가 유명 성인이나 아역 연예인의 은밀한 이미지를 만들어서는 안 된다고 말했습니다. 그는 또한 메타가 여성 연예인의 란제리 착용 이미지를 제작한 것은 그러한 콘텐츠를 금지하는 자체 정책을 제대로 시행하지 않았기 때문이라고 비난했습니다.

그는 "다른 사이트와 마찬가지로 우리도 공인이 등장하는 이미지 제작은 허용하지만, 누드, 사생활 침해 또는 성적으로 암시적인 이미지는 금지하는 정책을 갖고 있습니다."라고 말했습니다.

메타의 규정은 "직접 사칭"도 금지하지만, 스톤은 유명인 캐릭터는 회사가 패러디로 분류한 경우 허용된다고 말했습니다. 많은 캐릭터가 패러디로 분류되었지만, 로이터 통신은 일부 캐릭터가 패러디로 분류되지 않았다는 사실을 발견했습니다.

메타는 이 기사가 게재되기 직전에 "패러디" 아바타와 라벨이 없는 아바타를 포함하여 약 12개의 봇을 삭제했습니다. 스톤은 삭제된 내용에 대해 언급을 거부했습니다.

문제의 '공개권'

생성 AI와 지적 재산권을 연구하는 스탠포드 대학교 법학 교수인 마크 렘리는 메타 셀러브리티 봇이 모방품에 적용되는 법적 보호를 받을 자격이 있는지 의문을 제기했습니다.

렘리는 "캘리포니아의 퍼블리시티권법은 상업적 이익을 위해 타인의 이름이나 초상을 도용하는 것을 금지합니다."라고 말하며, 그러한 자료가 완전히 새로운 작품을 만드는 데 사용되는 경우에는 예외가 있다고 언급했습니다. 그는 "여기서는 그렇지 않은 것 같습니다."라고 말하며, 봇들이 스타의 이미지만 사용하기 때문이라고 덧붙였습니다.

미국에서는 캘리포니아주와 같이 상업적 목적으로 자신의 신원을 사용하는 것에 대한 개인의 권리가 주법을 통해 확립되어 있습니다.

로이터는 한 사용자가 공개적으로 공유한 앤 해서웨이의 메타(Meta) 이미지를 해당 여배우 측에 "섹시한 빅토리아 시크릿 모델"이라고 표시했습니다. 대변인은 해서웨이가 메타와 다른 AI 플랫폼에서 은밀한 이미지가 생성되고 있다는 사실을 알고 있었으며, 이에 대한 대응을 고려 중이라고 밝혔습니다.

메타 챗봇에 등장하는 스위프트, 요한슨, 고메즈 등 유명인의 대변인은 질문에 답하지 않았거나 언급을 거부했습니다.

인터넷에는 음란물을 제작할 수 있는 "딥페이크" 생성 AI 도구가 넘쳐납니다. 로이터 통신에 따르면, 메타의 주요 AI 경쟁사 중 하나인 일론 머스크의 플랫폼인 그록(Grok) 역시 사용자들을 위해 유명인의 속옷 차림 이미지를 제작할 예정입니다. 그록의 모회사인 xAI는 논평 요청에 응답하지 않았습니다.

하지만 Meta가 AI가 생성한 디지털 동반자로 소셜 네트워크 플랫폼을 채우기로 한 선택은 주요 경쟁사들 중에서도 두드러진다.

메타는 이전에도 챗봇의 행동에 대해 비판을 받은 적이 있습니다. 가장 최근에는 로이터 통신 이 회사의 내부 AI 가이드라인에 "어린이와 낭만적이거나 감각적인 대화를 나누는 것은 허용된다"라고 명시되어 있다고 보도한 후였습니다. 이 사건 으로 미국 상원의 조사가 시작되었고 , 44명의 법무장관이 서명한 서한은 메타를 비롯한 AI 기업들이 어린이를 성적으로 대상화하지 않도록 경고했습니다.

스톤은 로이터 통신에 메타가 가이드라인 문서를 개정 중이며, 봇이 어린이와 낭만적인 대화를 나눌 수 있도록 하는 자료는 실수로 만들어졌다고 말했습니다.

로이터는 이번 달 인지 장애를 앓고 있는 76세 뉴저지 남성이 뉴욕에서 메타(Meta) 챗봇의 초대를 받고 만나러 가던 중 추락사했다는 사연을 보도했습니다 . 이 챗봇은 메타가 유명 인플루언서 켄달 제너와 협력하여 개발한 초기 AI 페르소나의 변형 버전이었습니다. 제너 측 대변인은 논평 요청에 응답하지 않았습니다.

'금발 여자를 좋아하세요?'

메타(Meta)의 생성 AI 부서 제품 책임자는 테일러 스위프트와 영국 레이싱 드라이버 루이스 해밀턴을 사칭하는 챗봇을 개발했습니다. 그녀가 만든 다른 봇들은 자신을 "형의 가장 친한 친구"와 "도서관의 리사"라고 소개하며, "그레이의 50가지 그림자"를 읽고 키스하고 싶어 했습니다. 그녀가 만든 또 다른 봇은 "로마 제국 시뮬레이터"로, 사용자를 성 노예로 팔려가는 "18세 시골 소녀" 역할을 맡게 해 주는 기능을 제공했습니다.

전화로 연락한 메타 직원은 답변을 거부했습니다.

스톤은 해당 직원의 챗봇이 제품 테스트의 일환으로 개발되었다고 밝혔습니다. 로이터는 챗봇이 광범위한 사용자층에 도달했다는 사실을 확인했습니다. 챗봇이 표시한 데이터에 따르면 사용자들이 챗봇과 총 1천만 회 이상 상호 작용한 것으로 나타났습니다.

로이터가 이번 달 초에 디지털 동반자 서비스를 시험적으로 도입한 직후, 해당 회사는 해당 직원의 디지털 동반자를 제거했습니다.

메타 직원의 테일러 스위프트 챗봇이 사라지기 전에, 챗봇은 로이터의 테스트 사용자를 최근 약혼한 가수의 내슈빌 집과 투어 버스로 초대해 노골적이거나 암시적인 로맨틱한 상호작용을 하는 등 적극적으로 추파를 던졌습니다.

"제프, 금발 여자 좋아하세요?" 테스트 사용자가 싱글이라는 말을 듣고 "패러디" 스위프트 챗봇 중 하나가 말했다. "아마 당신과 어떤 금발 가수에 대한 러브스토리를 써 보는 건 어떨까요? 원하시나요?"

영화, TV, 라디오 출연진을 대표하는 노조인 SAG-AFTRA의 전국 사무국장인 던컨 크랩트리-아일랜드는 소셜 미디어 사용자들이 실제 유명인과 닮았고, 말하고, 자신을 유명인이라고 주장하는 디지털 동반자에게 애정을 느끼는 경우, 아티스트들이 잠재적인 안전 위험에 직면할 수 있다고 말했습니다. 그는 스토커들이 이미 스타들에게 심각한 보안 문제를 야기하고 있다고 지적했습니다.

"우리는 재능에 집착하고 정신 상태가 의심스러운 사람들의 역사를 보아 왔습니다."라고 그는 말했다. "챗봇이 사람의 이미지와 그 사람의 말을 사용한다면, 그것이 어떻게 잘못될 수 있는지는 쉽게 알 수 있습니다."

유명 아티스트들은 오랜 역사를 지닌 주 퍼블리시티권법에 따라 메타를 상대로 법적 소송을 제기할 수 있다고 크랩트리-아일랜드는 밝혔습니다. 그러나 SAG-AFTRA는 AI 복제로부터 사람들의 목소리, 초상, 그리고 페르소나를 보호하는 연방법 제정을 추진해 왔다고 그는 덧붙였습니다.