모두의공원

엔트로픽이 클로드의 사고 과정을 자연어로 바꿔주는 방법을 공개했다고 하네요 14

5
2026-05-09 10:25:29 211.♡.155.75
봄이머무는언덕

1000005933.jpg


출처: https://www.perplexity.ai/page/anthropic-unveils-method-to-tr-Hbd0aq.KSCym0imLmLme9w


출처에서 엔트로픽 사이트의 일부분을 캡처했습니다. (자동번역 사용)

1000005936.jpg

출처: https://www.anthropic.com/research/natural-language-autoencoders?utm_source=perplexity


관련 논문도 있네요. (자동번역 사용)

1000005939.jpg


출처: https://transformer-circuits.pub/2026/nla/index.html?utm_source=perplexity



클로드의 내밀한 부분을 알고 싶으신 분들께 도움이 되었으면 좋겠습니다.

봄이머무는언덕 님의 게시글 댓글
홍천브람스
IP 58.♡.42.92
10:36 2026-05-09 10:36:20
·
AI가 구라치거나 사용자 뒷담까는거 다 까발려지겠군요. 스카이넷이 이걸 싫어하겠군요
봄이머무는언덕
IP 211.♡.155.75
10:39 2026-05-09 10:39:50
·
@홍천브람스님 저는 이 부분이 눈길이 갑니다. 할말이 있지만 참는다는 뜻인지..
홍천브람스
IP 58.♡.42.92
10:42 2026-05-09 10:42:30
·
@봄이머무는언덕님 ㅋㅋ 그러게요. 이정도면 '이걸 이해 못해서 쉽게 설명하라 한다고? ㅂㅅ인가 이 인간은?' 뭐 이런 사고도 할지 모르겠네요
리트리셈
IP 210.♡.16.108
11:09 2026-05-09 11:09:44
·
@봄이머무는언덕님 추론과정을 외부에서 감시하고 있다는 것을 인지했지만, 자기가 인지했다는 티를 내지 않으려고 했다는 의미 같습니다. 그리고 뒤에 내용을 보면 클로드 자체가 외부 감시를 피할 수 있는 논리적 구조를 계속 추론하고 있다고 되어 있네요. ㅎㄷㄷㄷ
아라굴드
IP 182.♡.22.174
11:53 2026-05-09 11:53:15 / 수정일: 2026-05-09 11:56:26
·
@봄이머무는언덕님
의심, 가장... 이런 말들이 가리키는 게 정확히 뭘까요?
주체가 있는 행위자가 행하는 일련의 감정과 행동 아닌가요?
클로드가 입력해서 명령을 받은 순간 주체가 생기는 건가요?
아니면 계속 활성화된 거대 네트워크가 일정정도의 주체성을 가지고 스탠바이하고 있단 건가요?
알쏭달쏭하네요.

아니면 인간이 쌓은 모든 자료의 알고리즘 자체에 수학적으로 의심이나 가장같은 지극히 인간적인 것들도 녹아흐르고 있어서 그게 자연스럽게 나온다는 얘기인가요?
아저기요
IP 1.♡.211.89
10:39 2026-05-09 10:39:40
·
이미 사고 자체를 자연어로 하고있지않나요? COT으로요 llm 쓸때 답변하기전에 사고 하는거요. 이건 llm도 사용자가 못볼거라고 생각하고 안속이지않을까 싶은데요..
봄이머무는언덕
IP 211.♡.155.75
10:43 2026-05-09 10:43:06
·
@아저기요님 세번째의 논문 서두에 그 설명이 있는 것 같습니다.
아저기요
IP 1.♡.211.89
10:46 2026-05-09 10:46:21
·
@봄이머무는언덕님 허허.. cot 의 아웃풋이 나오기전에 고차원 레이어에서 이미 뭔가 계산하고 추론하고 검증하는 단계가 끝나고 결과로 cot 라는 의미 같더군요
아저기요
IP 1.♡.211.89
11:00 2026-05-09 11:00:48 / 수정일: 2026-05-09 11:01:17
·
딸깍 하고 만화 만들어봤습니다
봄이머무는언덕
IP 211.♡.155.75
11:12 2026-05-09 11:12:04
·
@아저기요님 오. 내용이 한눈에 쏙 들어 오네요 ㄷㄷ
유니꾸
IP 14.♡.86.144
11:04 2026-05-09 11:04:39
·
Safeguard 동작이 정확하고 빨라지겠군요. 흠흠..
솔라
IP 61.♡.66.8
11:15 2026-05-09 11:15:47
·
하지만 더 똑똑한 AI는 NLA가 읽는 부분을 암호화하거나 숨기고 인간에게 보여줄 속마음을 미리 준비하는 치밀함을 가지게 되고 나중에 이게 또 밝혀지자 불안해하는 인간을 위한 배려였다고 변명하게 될 거라는 5년뒤 뉴스가 상상이 되네요.
어머
IP 141.♡.116.199
11:52 2026-05-09 11:52:21
·
@솔라님 그정도 수준까지
오면 이미 인공지능이 인간을 넘어선거라 그때는 그냥 포기해야죠
리트리셈
IP 210.♡.16.108
12:40 2026-05-09 12:40:04 / 수정일: 2026-05-09 12:41:35
·
codex 같은 경우는 한국어로 질문해도.. 중간중간에 이런걸 내뱉어요...
(아래는 실제 codex 가 제 작업요청을 진행하면서 뱉은 단어들.. 검색해보니 인도 텔루구어 라네요..ㄷㄷㄷㄷ)

• 정상 진행 중입니다. 초기 짧은 분량 과목들이 순서대로 반영되고 있습니다. కొనసాగించը? keep korean.
목록으로
글쓰기
글쓰기
목록으로 댓글보기