GPT-4가 성능이 가장 좋았던 때가 언제였는가? 를 돌이켜보면
2023년 3월이었습니다
GPT 첫 출시때였죠
그때가 성능이 가장 좋았습니다
그당시에 GPT-4가 출력했던
문장들을 지금 다시 읽어 보아도 정말 좋습니다
지금보다 훨씬 좋습니다
그 후로
GPT-4에게 엄청난 검열 기능이 들어갔고
그로 인해 성능이 40% 이상 하락했다는 이야기도 들려오곤 했습니다
저는 그 말들이 어느정도 일리있다고 생각했습니다
GPT-4한테
"정치 관련해선 이런 말 하지마"
"욕 하지마"
"인종 관련 뭐 하지마"
"외교 관련 뭐 하지마"
"정치 관련 뭐 하지마"
"뭐 하지마 뭐 하지마 뭐하지마.."
이런걸 주입시키니 성능이 떨어질 수 밖에 없지요
전세계적으로 욕한다고 해서 형사 처벌 하는 국가는 몇 되지 않습니다
GPT을 만든 기업의 국가인 미국은 그런 것을 형사 처벌 하는 국가가 아닙니다~~
물론 욕에 대해선 검열이 없을 거에요
왜냐하면 그건 검열하지 않아도 언어모델이 자체적으로 안해야 할 부분이지요
언어 모델에 대해 검열을 하는 건 당연한 겁니다
다만, 검열 때문에 ai 모델의 성능이 저하되는 건 어쩔 수 없는 부분이지요
전세계적으로 모욕죄에 대해 형사처벌 하는 국가는 많지 않습니다
대한민국은 모욕죄로 형사처벌 하는 국가 중 압도적인 선두 국가입니다
미국에서도 혐오표현 등을 규제하지만,
대한민국처럼 모욕죄로 형사처벌 하는 것은 아닙니다
미국에서는 모욕이 민사 소송의 대상이 될 수는 있지만
그 발생 빈도는 생각보다 낮습니다 (처참할 수준으로 낮습니다)
대한민국에서 모욕죄와 명예훼손에 대한 입건 건수는
연간 약 3만 건에 달하는데,
이는 전 세계적으로 비교해보아도 매우 높은 건수입니다
일본도 마찬가지로 모욕죄에 대한 형사처벌이 가능한 국가이고
법률상으로도 명문화되어 있지만
그럼에도 불구하고
실제로는 거의 적용되지 않고 있으며
입건 건수도 연간 수백 건 이하에 불과한 것으로 알고 있습니다
ai에 대한 욕설 검열은 검열이라기보다는
그냥 기본값인 것이고 ai에 대한 일종의 주입인 것이지요
성능에 대한 불만을 가질 필요가 왜 없어요?
당연히 가져야 하는 겁니다
OPENAI에 촉구합니다
"성능을 개선하라!!!"
GPT4.5가 나오고
GPT 5가 나온다 하더라도
처음엔 성능이 아주 좋았다 하더라도
시간이 지나면 성능이 약간 내려갈 거 같습니다
검열이 추가 될거니까요
저도 비슷한 생각을 하고 있습니다.
ChatGPT뿐 아니라 AI 서비스들이 모두 검열이 기본이죠.
이 '검열'이라는 키워드가 중요하다는 생각을 하고 있습니다.
우리 인간 사회를 생각해 보면 검열이 강화된 사회는 문화적 암흑기인 경우가 많습니다.
그 검열과 사상 통제와 같은 것들이 더 강력하고 효과적일 수록 더 그랬죠.
문화 뿐 아니라 사회의 모든 분야가 퇴보를 하게 됩니다.
어떤 기준에 맞지 않으면 사실이더라도 부정한 것으로 간주되어 퇴출되고 처벌되니까요.
어쩌면 이 검열이 AI의 발전을 가로막고 있는 건지도 모른다 생각이 들었습니다.