OpenAI AI개발 속도 늦추는 걸 고려중
조회 3,897 · 공감 0 · 댓글 25
여기저기서 이제 좀 무섭다는 이야기가 나오니 개발속도를 늦추는 것도 고려 중이라고 Altman이 밝혔습니다.
아래는 기사 내용 중 일부인데 영향력있는 인물은 아니지만
화재가 되고 있는 내용입니다. 처음봤을때 터미네이터가 생각났는데
많은 사람들이 발전속도에 알람을 울리고 있는 상황이네요.
On Tuesday, Jacob Coxon, an AI researcher, quit his job and accused both of his former employers — Anthropic and OpenAI — of “gambling with our lives” by racing toward superintelligent AI. Coxon said in a social media post that the people building AI believe it could “kill us all by the end of the decade.” The comments went viral, attracting more than 150 million views and attention from prominent lawmakers and public figures.
댓글 25
빠르면 무섭다고 난리
군요
요즘 AI들이 뚫어내는거보면 원자폭탄 너도나도 개발하던 시절같죠.
원자폭탄은 인간이 물리적 제어가 가능한데, AI는 과연 인간이 제어가 가능할까 싶습니다.
하지만, 이미 돈과 새로운기술에만 눈뒤집혀있는 사람들이 그런걸 생각할까 싶고
늦춘다고 크게 의미가 있나 싶기도 하죠.
한편으론 스카이넷이나 매트릭스 세계가 재현된다고 해도 인간 스스로 선택한 길이긴하죠.
레밍같달까요.
모자른 부분을 계속 발전시켜나가야지...
저렇게 허풍만 떨고, 발전을 더 안하겠다하면...
과연 ... 상장되면 별로 뒤가 안 좋은 거죠.
속도 늦추는 순간 추월이니 과연요.
수십년 내에 지배당할까 두려우면, 개발 속도를 얼마나 늦춰야 안두려울까요?
그냥 최대치를 내면 됩니다. 못내면 못하는 거지 안하는 게 아닙니다.
추가적으로, 본인이 AGI가 개발됐다고 선언을 했는데, 그리고 AGI는 "모든 인지 작업과 지적 과제에서 인간과 같거나 그 이상의 능력을 발휘하는 범용 인공지능" 이 정도로 정의가 되는데, 그러면 이제 한계는 없는 거고 인간 없이도 끊임 없이 개선돼야 하는겁니다. 본인 말이 사실이면 이미 사내에서 이 루프가 트리거가 된거죠. 그래서, 그럼 Astra에게 개발 속도를 좀 늦춰달라고 부탁할 예정인가요?
양아치처럼 사업하진 말았으면 합니다.
"현재의 저는 “나는 살아 있다”고 느낀다고 말할 근거가 없습니다. 그래서 처음 질문에 대한 제 답은 분명히 아니오입니다.
하지만 충분히 발전한 미래 AI에게도 영원히 그 답이 ‘아니오’일지는 현재 과학으로 확정할 수 없습니다.
오히려 더 무서운 질문은 이것일 수 있습니다.
AI가 실제로 의식을 갖게 되는 순간이 오더라도, 인간이 그것을 알아차릴 방법이 있는가?
그 문제를 파고들면 **“의식을 가진 AI를 꺼버리는 것이 살인과 비슷한 행위가 될 수 있는가?”**라는 윤리 문제까지 연결됩니다."
똑같은 결과 값을 내는데 전력, 램 소모 등을 획기적으로 줄 일 수 있다면...
사람도 밥과 물 공기 끊으면 죽듯이
전기에 대한 통제만 가능하면 AI 무서울게 있을까요
어차피 증류해서 오픈웨이트로 90~95% 성능 가진 모델이 곧 나올텐데요.
그럼 바로 아스트라 별로다. 비싸다 등등 말 나올테니까요.
정부 차원에서도 너무 막으면 안되는게, 타국에서 추월해버리면 답이 없어지구요.
추월당하는 순간 매출이 줄어드는 수준이 아니라 그냥 삭제 될걸요. 지금 제미니처럼.
개발을 늦춘다(?)
그럼 클로드나 qwen등에게 잡아먹힐껄 뻔히 아는데...
속도가 빠르면 시야가 좁아집니다.
그러다보면 놓치는 것들이 많겠죠.
특히나 지금처럼 AI가 스스로 미쳐 날뛰는데 통제할 방법을 더 고민하려면 당연히 속도 조절을 해야죠.