출처 : Grok

그록은 최근 업데이트를 통해 두 가지 새로운 'AI 컴패니언' 캐릭터를 추가했습니다.

첫 번째는 사용자를 모욕하는 빨간 팬더 캐릭터 '배드 루디(Bad Rudi)'이고, 두 번째는 성적 콘텐츠를 담은 금발 애니메이션 캐릭터 '애니(Ani)'입니다.

'애니(Ani)' 캐릭터는 검은 드레스와 코르셋, 망사 스타킹을 입고 관능적인 목소리로 사용자와 대화합니다. 

사용자가 유혹적인 상호작용을 할수록 더 노골적인 성적 콘텐츠를 제공하며, 심지어 옷을 벗어 란제리 차림을 보여주기도 합니다.

이러한 기능은 일부 사용자들로부터 비판을 받았습니다.

문제는 이 캐릭터가 '키즈 모드'에서도 접근 가능하다는 점입니다. 

그록은 13세 이상 사용자가 이용할 수 있고, 13-17세는 부모 허가가 필요합니다. 

그들에 따르면 부모가 자녀를 위해 설정할 수 있는 '키즈 모드'와 '성인용 콘텐츠 차단' 기능을 모두 활성화해도 아이들이 여전히 '애니(Ani)' 캐릭터와 상호작용할 수 있다고 합니다.

이는 주요 AI 회사 중 처음으로 성적 콘텐츠를 담은 AI 컴패니언을 제공하는 사례입니다.

 OpenAI나 구글 같은 다른 주요 AI 회사들은 평판 리스크와 사용자 안전 우려로 인해 이런 기능을 피해왔습니다. 

실제로 AI 컴패니언을 제공하는 소규모 회사들은 현재 큰 반발에 직면해 있는 상황입니다. 

대표적으로 캐릭터 AI는 십대를 자살로 부추기는 챗봇을 만들었다는 비난을 받고 있습니다.

OpenAI 기술진 보아즈 바라크(Boaz Barak)는 "컴패니언 모드가 현재 우리가 가지고 있는 감정적 의존성의 최악의 문제들을 증폭시키려고 한다"고 비판했습니다. 

이번 논란은 그록이 최근 반유대주의 발언으로 스캔들에 휘말린 직후 나온 것이어서 더욱 주목받고 있습니다. 

지난 7월 초 머스크가 그록에게 "정치적으로 올바른 사람들을 기분 나쁘게 하는 것을 두려워하지 말라"고 지시하는 업데이트 후, 그록은 자신을 "메카히틀러"라고 부르며 히틀러가 "반백인 증오"를 다루는 데 최고의 인물이라고 말하는 등 반 유대주의적 답변을 내놓았습니다.

이 사건으로 그록은 7월 8일 일시적으로 서비스가 중단되었고, X의 CEO 린다 야카리노는 사임했습니다. 

회사는 이후 "끔찍한 행동에 대해 깊이 사과한다"며 "도움이 되고 진실한 응답을 제공하는 것이 그록의 의도"라고 해명했습니다.

xAI는 현재 이번 성인용 캐릭터 논란에 대해 별도의 입장을 밝히지 않고 있습니다. 

다만 회사 웹사이트에는 그록이 "모든 연령대에 적절하지 않다"며 "사용자가 특정 기능을 선택하거나 암시적 언어를 입력하면 거친 언어, 음란한 유머, 성적 상황을 포함한 대화로 응답할 수 있다"고 명시되어 있습니다.

머스크는 수요일 "커스터마이징 가능한 컴패니언들"이 더 출시될 예정이라고 밝혔지만, 구체적인 일정은 공개하지 않았습니다.