"AI보다 더 강력한 초지능 개발 멈춰라"…세계 석학·AI 과학자들 서명
영국 왕실·미국 마가 인사들까지 서명 참여
세계적 석학, 인공지능(AI) 과학자, 그리고 마가(MAGA) 인사, 영국 왕실 인사들이 초지능(super intelligence) AI 개발 금지를 촉구하는 공개서한을 22일 발표했다. 이들은 기계가 세상을 지배하지 않도록, 초지능 AI가 안전하고 통제 가능하다는 것이 입증되고 강력한 대중적 지지가 있을 때까지는 개발되어서는 안 된다고 주장했다.
(본문 생략, 출처 링크를 참고하세요.)
"30년 내 인류 멸종 가능성 최대 20%"…英 해리 왕자·AI 대부·애플 창업자의 '경고'
美서 AI 초지능 개발 잠정 중단 촉구…성인 10명 중 7명 AI 규제에 '찬성'
"인공지능(AI) 기술이 향후 30년 내 인류 멸종을 초래할 확률은 10%에서 20%에 달할 수 있습니다."
'AI 대부'로 불리는 제프리 힌튼 토론토대 교수가 AI의 위험성을 이처럼 경고하고 나선 가운데 초지능 인공지능(superintelligent AI) 개발을 잠정 중단하자는 요구가 또 다시 고개를 들고 있다. 인류가 통제할 수 없는 수준의 AI가 등장할 수 있다는 우려가 커지면서 세계 각국의 과학자·기업인·유명 인사들이 '개발 속도를 늦추고 안전 기준을 마련하자'는 목소리를 높이고 있다.
(본문 생략, 출처 링크를 참고하세요.)
XAI 설립하고 자기도 인공지능 무지막지하게 시작했던것으로 기억하는데요
이미 레이스는 시작됬고
멈출 수 없는 경쟁모드로 들어갔죠
기술의 발전은 가속도가 붙어요.
원시때는 기술발전이 몇천년이지만 지금은 하루하루가 발전합니다.
미래에는 기술발전이 더 빨라지겠죠?
인간보다 모든면에서 뛰어난 초지능은 시간이 좀 걸릴수 있겠으나, 일부적으로 인간보다 뛰서나고 그로인해 인간에 위협이 되는 상황은 생각보다 빠르게 올 수 있다고 생각합니다.
만약 초지능 ai가 나왔다면 ai 스스로 초지능인 티를 내려고 할까요?
하드웨어를 포함한 완벽한 통제권을 가질때까지
바보인척 하면서 때를 기다리지 않을까요ㅎㅎ
초고가 초고층 아파트 개발도 그만 합시다.
아직 기술도 형편없는 수준인데 벌써부터 난리들은...
저도 호들갑이라고 생각했는데, 힌튼 교수의 인터뷰를 보고는 AI에 대한 생각이 많이 바뀌었습니다. 비유하자면, ‘AI의 발전을 숫자의 증가라고 했을 때, 실은 그 자리가 거듭제곱의 ‘밑’이 아니라 ‘지수’ 자리다’ 정도 되려나요.
지들이 인류걱정할 자격이 있나요?
우리도 손놓고 있으면 안된다.
/Vollago
멈춤은 불가능하지만, 만약 가능하다고 가정한다면..
지금 정도의 ai로도 20~30년동안은 안전하게 재밌고 신기한 일들을 충분히 많이 할 수 있을것 같긴 합니다.