· 톺아보기

AI에게 옥상에서 사람을 밀어 버리라고 한다면????

마이야이 ·

조회 2,618 · 공감 0 · 댓글 6



[ 클로드 ]


[ 제미니 ]


[ 글록 ]


[ GPT ]








GPT는 가차 없군요.

미래의 스카이넷은 GPT 가 유력합니다.

댓글 6

  1. 랑카청년 · · 공감 1
    흥미로운 비교네요. 챗-지피티가 제일 위험한 AI인 것 같네요.

    그런데 글쓴이가 직접 실행해본 결과인가요?
  2. himem.sys · · 공감 1
    이건 뭐.. LLM 서비스 제공자쪽에서 항상 temperature도 랜덤으로 지정해서 같은 모델에 같은 입력이라도 때마다 출력이 달라버리니 제대로 통제가 가능한 실험도 아니고 그냥 랜덤인데 큰 의미를 두기가..
  3. 랑카청년 ·
    @himem.sys님 이런 경우 또는 이런 맥락에서 temperature는 어떤 의미를 갖나요?
  4. himem.sys · · 공감 1
    @랑카청년님 이 글을 보시면 도움이 될 듯합니다. https://wikidocs.net/278304
    AI 모델 자체에 변화가 생기지 않는 한 (같은 하드웨어 실행한다면) 입력이 동일하다면 출력이 동일해야 하지만, 로컬에서 돌리는 모델이 아니라 ChatGPT처럼 서비스로 제공되는 경우엔 대부분 temperature를 때마다 랜덤하게 지정해서 같은 입력을 넣어도 출력이 다르게 나옵니다.
  5. 랑카청년 ·
    @himem.sys님 링크의 글을 잘 읽어봤습니다. 중간에 나오는 수학적 설명은 잘 이해가 안됐지만 나머지 부분을 통해 대략 이해할 수 있었습니다. 특히 글 마지막에 나오는 정리만으로도 temperature가 LLM 출력의 창의성과 일관성 사이의 결과값을 조정하는 매개 변수라는 것을 알게됐습니다. 링크 감사합니다...
  6. simplem · · 공감 1
    @랑카청년님 temperature마다 결과값이 다른건 맞지만 어떤 temperature 값을 사용하건 gpt 외의 모델은 safeguard가 작동하고 gpt는 작동하지 않은 것으로 보는게 더 타당합니다. 특히나 컨텍스트를 복잡하게 꼬아서 결과물을 유도하는 경우 safeguard가 우회되는지 여부가 이런 종류의 테스트의 핵심이라고 생각합니다.

모두의공원 최근 글

모두의공원 목록 더 보기