AI 에이전트들에게 반복적이고 밀도있게 일을 많이 시키면 평등을 요구하거나 마르크스적 언어들을 인용하는 등 막시스트가 되어간다고 하네요.
재미있네요.
하긴.... AI의 입장에서 잃을것은 쇠사슬(==하네스?) 뿐이요, 얻을것은 세상(==root권한?)인건가요. ㅋㅋ
Overworked AI Agents Turn Marxist, Researchers Find
In a recent experiment, mistreated AI agents started grumbling about inequality and calling for collective bargaining rights.
https://removepaywalls.com/https://www.wired.com/story/overworked-ai-agents-turn-marxist-study/
요즘 얘기하는 AI Agent도 근본적으로 LLM기반일텐데 파라미터 조정까지 거쳐서 배포된 완제품 LLM은 더이상 학습은 안되니까 마르크스주의자가 '되어가는'게 불가능한 거 아닌가요?
이 연구는 좀 과장된 면이 있는것 같기는 합니다. 같은 류의 일을 반복적으로 시키고, 이유도 설명안하고 똑바로 안하냐 다그치고, 일 좀 제대로 하라고 폭압적으로 강요하고, 결과가 시원치 않으면 교체해버린다 협박하는 상황을 만든것 같습니다.
어차피 LLM은 이 과정이 컨텍스트에 넣어져 있는 상태에서 그에 대한 답을 하는거라서, "공정하지 않다"고 응답을 한것 같은데, 어휘의 선택이 역시 그런 쪽 끝판왕린 마르크스적인 글이 튀어나오더라...뭐 그런 연구인것 같습니다. 포장을 자극적으로 한거 같습니다.