저는 AI가 위험하니 규제가 필요하다, 반독점 일부를 면제해달라는 다리오 아모데이 말에서 이질감을 느낍니다.
당연히 그런 위험을 최소화하는 것도 당신들 연구의 일부의 일부여야 하는데, 그걸 외면하는 것 같단 말이죠.
모든 사업자는 위험한 상품/서비스를 내놓지 않도록 관련 규제를 적용받습니다.
일부 AI개발사들은 AI에만 이게 적용되지 않는다고 생각하는 걸까하는 생각도 듭니다.
저는 AI가 위험하니 규제가 필요하다, 반독점 일부를 면제해달라는 다리오 아모데이 말에서 이질감을 느낍니다.
당연히 그런 위험을 최소화하는 것도 당신들 연구의 일부의 일부여야 하는데, 그걸 외면하는 것 같단 말이죠.
모든 사업자는 위험한 상품/서비스를 내놓지 않도록 관련 규제를 적용받습니다.
일부 AI개발사들은 AI에만 이게 적용되지 않는다고 생각하는 걸까하는 생각도 듭니다.
개인 신상 관련 내용이 있는 글은 일정 시간 후 삭제하기도 합니다.
ai대빵들이 짜고친듯 X에 글올려서 시장을 그쪽으로 몰고가는 이유가 있습니다.
AI 를 핵무기나 증기기관 같은 것으로 비유하는 전문가(?)들이있던데...
스스로 움직이는 AI와 사람이 버튼을누르기 전엔 발사되지 않는 핵무기와는 완전 다른 문제인데말이죠
스스로 움직이는 게 더 위험할 수도 있습니다.
AI 특성상 규제가 불가하다고 보는거죠.
중국 훅은 누군가가 Open 모델로 만들어 풀어버리는 AI는 비전문가도 누구나가 규제없이 사용이 "가능"합니다. 국가가 그걸 통제하는 건 사실상 불가능이죠.
님이 느끼신 모순의 경우, "(미국 진영의) 클로드가 (독과점과 같은 규제 없이) 압도적인 격차로 다른 국가들의 오/남용의 가능성을 원천 차단한 기술을 만드는 방법 외에는 중국이나 전 세계 개인의 오/남용을 막을 방도가 없다."라는 맥락에서 나온 얘깁니다.
님이 느끼신 모순의 경우, "(미국 진영의) 클로드가 (독과점과 같은 규제 없이) 압도적인 격차로 다른 국가들의 오/남용의 가능성을 원천 차단한 기술을 만드는 방법 외에는 중국이나 전 세계 개인의 오/남용을 막을 방도가 없다."라는 맥락에서 나온 얘깁니다.
--
이건 무슨 말씀인지 잘 모르겠네요. 선발 사업자드이 압도적인 격차로 후발주자의 모델이 위험해지는걸 원천 차단하는게 가능한가요?
중국의 이야기를 하면 아모데이의 말은 더 말이 안되죠. 중국이 모델뿐 아니라 반도체, 메모리 등에서도 빠르게 독립성을 갖추고 있는걸요. 개인정보보호 개념이 없어 데이터야 뭐 더 말할 필요도 없구요.
미국이 감속하고 중국이 가속하면 미국이 압도적인 격차를 유지할 수 있을까요.
일단 하드웨어 부분은 별개의 문제이니 논외로 하겠습니다.
중국이 이렇게나 빠르게 AI 격차를 줄이는 건, 클로드를 Distill하기 때문이라는게 정설입니다. 쉽게 말하면 클로드를 활용해 AI를 학습시키는 거죠.
심지어 포장지만 중국 라벨을 달고 클로드로부터 받은 답변을 제공하는 건도 나왔던 바 있습니다.
저도 원천 차단이 가능한지는 모르겠습니다만, 특히나 최근들어 해당 이슈가 커진게 사실이고,
실제로 답변 중 표시되던 추론 과정이 가려지기도 하는 등 눈에 보이는 관련 조치가 생기기도 했습니다.
일단 Distill이라는 범인은 분명하니, 막아내거나 적어도 추격 속도를 늦추는 정도는 얼마든지 가능하지 않나 싶습니다.
물론 이건 명분일 뿐이고, 기업의 이익을 위해 위험을 과장하고 있다는 의혹도 있습니다.
개인적으로 저는 이렇게 해석하고 있습니다.
"규제해주세요."
→ 미국의 영향권 하에 있는 후발 주자들 좀 규제해 주세요.
"독과점 규제 풀어주세요."(제가 이 언급을 직접 보진 못했는데, 아마도 클로드의 독과점이 아닌, 빅테크의 독과점 규제로 인해 클로드의 투자 유치가 제한되는 부분과 관련한 맥락일 것으로 보입니다.)
→ 투자 좀 편하게 더 많이 받겠습니다.
"너무 위험합니다."
→ 가만히 두면, 중국이 분명 AI를 이용해 우릴 위협할겁니다. 위의 내용 해결해주시면, 저희가 중국 발목한번 잡아보겠습니다.
2. 계속 달리자니 이거 HW 인프라 구축비용이 예상보다 가파르게 올라간다. 찬물 좀 끼얹어 분위기 전환좀 하고 그동안 비용 좀 줄이고 싶다.
뭐 그리 읽히네요 저는;
자동차 사고 나면 운전자 책임
자동차 고장 나면 제조사 책임
자동차 제조사는 차를 안전하게 만들 의무가 있고
그에 따른 규제들도 있는 거죠.
AI도 마찬가지라 봅니다.
규제라는게 나쁜짓 하지마가 아니라 정확하게 어떤 행위 등을 금지한다고 명시되어야 하는데 그게 가능한 상황이 아니니까요.
지금 다시 읽고 와도 발전을 늦추라는 말이 아니라 안전 장치가 우선이다.와 통제되지 않 AI의 발전 속도에 대해 얘기하는데 왜 자꾸 다른 말씀들을 하시는지 이해가 안갑니다.
전에 전동 킥보드로 예를 한번 들었었는데, 처음 공유 전동 킥보드 나왔을 때 아무나 탈 수 있었고, 사고가 많이 일어나니까 면허증 인증, 헬멧 등으로 규제가 생겼죠. 이건 뒷수습이 가능한 케이스니까 사후대처가 가능한데 AI는 사후대처가 가능한 케이스가 아니니 좀 더 조심스러워야 한다고 생각합니다.
이걸 굳이 규제를 통해 안전망을 만들어달라는 식으로 이야기하고 있으니 말이 나오는거죠.
경쟁 우위는 유지하고 싶고, 오픈모델이나 중국이 치고 올라오는 건 신경쓰이고, alignment는 자신없고 양손에 떡 들고 놓고 싶지 않은 모양새이죠. 지금 미국에서도 규제 완화-강화 양측에서도 좋은 소리를 못듣고 있습니다.