아니 우리가 돈이랑 인력이 없어 개발 속도가 느리다 이것도 아니고
정작 본인들이 만들면서 속도 늦추자
이게 앞뒤가 안맞는것이 우리 너무 빨리 달리는데 우리 속도를 다 늦추자 ?
그러면 회사 가서 다들 정시 퇴근 하시고 휴가 쓰세요 이럴것 가요??
괜한 엄살과 립서비스에 사람들 그러면 안된다 반응하는것도 좀 그렇네요
아니 우리가 돈이랑 인력이 없어 개발 속도가 느리다 이것도 아니고
정작 본인들이 만들면서 속도 늦추자
이게 앞뒤가 안맞는것이 우리 너무 빨리 달리는데 우리 속도를 다 늦추자 ?
그러면 회사 가서 다들 정시 퇴근 하시고 휴가 쓰세요 이럴것 가요??
괜한 엄살과 립서비스에 사람들 그러면 안된다 반응하는것도 좀 그렇네요
2. 그렇게 발표하는 개발사들의 IPO 및 추가 투자를 위한 투자 전략이라는 분석도 있습니다.
Bad actor의 손에 기술이 들어가면 어떻게해햐하냐 등 안전관련 Guardrail 부재 등 기술의 발전에 관련 법규 등이 못따라오는걸 말하는 겁니다.
그걸 평가하고 관리할 기관도 없구요. 아모데이가 제 3의 비영리기관에게 프론티어 모델 평가를 의뢰하자 했는데 그건 미 정부가 각 기업이 알아서 해라고 일축했구요.
엘지에서도 대놓고 비공감한거 보면 내가 잘못 이해한건지...
제가 생각해봐도 사실상 현재 발전 속도에 비해 안전 기술은 못 따라가는게 보여요. 전동킥보드가 생각나는데 관련 법률이 없는 상황에 너무 일찍 풀려버리니 뒷수습하기 바빴죠. 그나마 이건 뒷수습이 가능한 선인데 AI가 뒷수습이 가능할까? 경쟁이 지금보다 더 과열된 상황에선 아니라고 봅니다.
돈이 다 떨어진 것 일수도,
허깅페이스 사태 등을 보아 정렬의 필요성을 느꼈을지도,
발전이 상상 이상으로 빠를지도,
투자를 위해,
발전에 한계나 속도의 한계를 느껴 담합하는 것일수도,
등등 추측은 많지만 정답은 모를 것 같습니다.
결국 의존해야하는 정보 대부분이 투자를 받아야하는 기업들의 목소리 뿐이니까요.
압도적인 승자도 못나오는 상황이니 돈 좀 덜 쓰자 이건데
진짜 줄이는 순간 도태되는 바보되는게 확정이라
아무도 안줄일겁니다
주기적으로 개발하는 핸드폰이나 가전제품들은 출시 직후 다음 모델까지 일정 기간이 있으니 좀 쉬지만 AI 회사들은 그런게 없고 한 달 단위로 다른 회사가 신모델 개발하니 다들 지친 듯요.
근데 어림도 없죠 중국, 일본, 우리나라는 ai 발전 안 시키겠습니까? 다행히 트럼프가 헛소리 하지 말라고해서 사다리걷어차기는 면했습니다;;
예전같았으면 핵개발처럼. 음음 그래 다른 나라 너네도 스탑잇. 우리 다 멈추기로 햇어 이러고 사다리 걷어차엿을텐데 말이죠.
중국애들이 가만히 있을까요? 호기로 생각할것 같아요
원자력도 우리가 그 강력한 반응을 제어할 수 있으니까 사용하고 있듯이요.
여기서 우리가 누가 될런지는 ....
개발을 멈추자고 하는 건 모델 그 자체가 아니라, 모델을 통제할 수 있는 관리 도구와 관련 연구가 필요하며, 통제 역량이 모델의 발전과 보조를 맞출 수 있도록 일종의 가이드라인을 세우고 하자는 뜻이겠죠. AI 기업이 외부 감시와 감독관을 받아들이고 이들의 허가를 받도록 하는 것이 그 예입니다. 그들만 이렇게 진행하기에 이미 자기 개선 루프에 들어선 최근 모델들의 발전 속도가 어마무시하기 때문이죠. 가이드라인, 관리와 운영 체계를 모두가 함께 고민해야 한다고 생각했기에 공개적으로 호소 했다고 생각합니다. 이 이야기는 아모데이 뿐만 아니라 이미 허사비스와 알트만도 이전부터 언급했었습니다.
미국 정부가 제정신이 아니라, 공개적으로 말하고 공론화 시킨 뒤에 프론티어 기업끼리 논의를 시작 하겠죠.
이상하게 요즘 클리앙은 모든걸 부정적으로 보는 분들이 많아진 것 같네요.
아직 공개하지 않은 새로운 모델들이 능력이 너무 강력하니 그걸 우리가 제대로 통제할수 있는 환경을 조성한후 그 모델들은 출시하자 이런말이죠. 안그래도 지금 공개되지 않은 모델들이 파워그리드 해킹해서 통제할 가능성이 큰걸로 알고 있습니다.
AI는 개개인에게 핵폭탄 버튼을 줄수도 있으니까요!
중국이 따라오는데 무슨 소리냐 하겠지만, 사실 중국 모델들은 프론티어 기업 모델보다 1-2세대 뒤처지고 있습니다. 증류로 일반적인 질문과 벤치마크 점수만 만회하는거죠. 1년 뒤쳐진 것으로 예상하고, 이 시간에 프론티어 기업들은 충분히 가이드라인을 설정하고 다시 앞서갈 수 있습니다. 가이드라인을 설정하는 그 시점에도 프론티어 기업의 연구는 계속되지만, 배포는 멈추는거죠.
최근 그룹챗과 저녁 식사모임 등을 통해 위험성을 논의하는 직원들이 많다고 합니다. 구조적으로 도저히 받아들여지지 않으니 퇴사하는 Jacob 같은 직원도 있구요 조직 내부적으로 이런 분위기인데 CEO가 가만히있을 수 없죠.
인프라에 투자할 자금이 이제 바닥을 드러내고 회사가 적자 상태죠.
단합해서 인프라 비용을 낮추는 목적입니다.
삼전이나 하이닉스에서 빠져나올 타이밍입니다.
설혹 몇몇 AI관련자들의 걱정이 맞다고 하더라고 그게(다 같이 늦추자는 그것) 가능하겠습니까?
지구인의 절반 가까운 이들이 도람푸 같은 작자들이고 실제로 대통령이 되는 세계입니다.(네 대한민국도 예외 아닙니다. ^^)
코미디 같은 이상론이죠.
법적 장치? 누구 좋으라고요? 보나마나 또 사이드 이펙 때문에 극도의 부를 쌓은 인간들이 나올터인데...
그럼 어쩌냐구요? 방법이 없어요. 개인적으로 AI 방법론이 몇몇 학자들에 의해서 파훼되고 GPU 제조기술이 임계점에 들어선 순간 발산을 시작했다고 봅니다. 막을 수 없고 끝은 어떨지 아무도 모른다는 이야기가 맞죠.
아니면 '특정 레벨 AI를 다룰 수 있는 신흥계급' 등장이 뻔한데... ㅋㅋㅋ
개인적으로 어차피 이렇게 된거 '재귀적 자기 개발'이 가능한 AI를 보고 싶긴 합니다. 어차피 이판사판인 상황 아닙니까?