앤트로픽, 클로드의 ‘가치관’ 측정했다…“모델·언어 따라 AI 성향 달라진다”

앤트로픽, 클로드의 ‘가치관’ 측정했다…“모델·언어 따라 AI 성향 달라진다”  - 인공지능신문

70만 건 대화 분석해 3,000개 이상 가치 추출…4개 핵심 축으로 AI 행동 특성 정량화

 

인공지능(AI)이 인간과 대화할 때 보여주는 태도와 가치관은 어떻게 형성될까. 같은 질문을 받더라도 어떤 AI는 사용자를 격려하는 방향으로 답하고, 또 다른 AI는 위험성을 먼저 경고할 수 있다.

앤트로픽(Anthropic)이 자사 생성형 AI 모델 ‘클로드(Claude)’를 대상으로 진행한 연구는 이러한 차이가 단순한 스타일의 문제가 아니라 AI가 표현하는 가치(value)의 차이에서 비롯된다는 점을 보여줬다.

한국어 질문에 답변하는 앤트로픽 AI…"모델·언어 특색 살려" | 뉴스1

앤트로픽 "한국어 대화시 '간결성ㆍ존대어' 중요시

---

How Claude's values vary by model and language \ Anthropic

https://twitter.com/AnthropicAI/status/2076719540785012872

https://twitter.com/AnthropicAI/status/2076719542404018631

https://twitter.com/AnthropicAI/status/2076719544727716287

https://twitter.com/AnthropicAI/status/2076719546954825769

https://twitter.com/AnthropicAI/status/2076719549060382802