AI가 인류를 끝장내긴 할 겁니다
조회 2,808 · 공감 3 · 댓글 15
다 죽여버릴거라는 의미가 아니라
인간 사회, 문화, 헤리티지나 레거시 등으로 표현될 수 있는, 세대를 이어 전달되는 인류의 고유한 작동방식이 끊어져 버릴테니까요.
AGI 이후의 인류사회는 우리가 알고 있던 인류사회가 아닐 거라는 의미입니다.
단적으로, 기본소득사회가 되고 직장이 없어진다면, 직장에서 벌어지는 다종다양한 국면들, 거기서 오는 감정들, 감동과 슬픔, 기쁨과 성취감, 인간관계에서 오는 만족감 등은 어디에서 얻을 수 있을까요? 그런 것이 없는 삶은 어떤 삶일까요?
인류는 AI의 생산에 기대어 집과 소득을 제공받으며, 문화예술을 즐기며, 사람들과 평화롭게 교유하며 행복하게 살 수 있을까요? 정말로?
AI 가 충분히 발전한 사회의 인류는 존재의 의미가 있을까요? 왜? 이제 모든 지식과 철학의 계승은 사라지고 아무것도 모르게 된 멍청한 인류는 그 자체로 존재해야 할 이유가 있나요?
인류의 지속가능한 삶에 대한 면밀한 철학적 사고와 대비가 없는 AI의 질주, 저는 많이 두렵습니다.
사실 인류의 유의미한 존속을 위해서는 AGI 개발 금지를 전지구적으로 결의해야 한다고 생각합니다.
하지만 안되겠죠.
댓글 15
예술과 철학 쾌락으로 가득한 세상이 될지도요
그리고 로마도 망했.. ㅠㅠ
AI가 인류가 불을 발견 한 것에 비유된다면, AGI는 인류가 불을 발견한 이후 AI를 만든 것 정도의 엄청난 격차 같아요. 아직 공부나 활용이 부족해서 그럴수도 있는데, 계속 그런 생각이 듭니다...AGI는 아득히 멀어보여요 ㅜㅜ
근데 AGI가 나왔느데 하드웨어가 많이 필요없다고 한다면 엔비디아나 삼성, 테슬라 등등 회사들 다 망할 것도 같긴해요.
누구나가 지피유 만들 수 있고 누구나가 테슬라나 로켓트 만들수 있다면요,,
SF에 나오는 "풍요의 사회" 같은 건 꿈도 못꿀 일이구요.
사람들이 오해하는데, 양자역학은 해석의 도구이지 조작 방법이 아닙니다.
SF에서 처럼 무에서 유를 창조하는 과학은 지구 생명이 해왔듯이 좁은 (양자 역학적) 공간에 입자를 잘 모아놓고 그 입자들이 운좋게 잘 조립되어서 원하는 결과가 나올 때까지 무한 반복 시도하는 방법밖에 없는데, 계산도 안되고 대량 생산도 안되고.
아무튼, 미래에는 에너지 가격이 공짜 수준으로 내려가길 바랄뿐인데.. 이것조차도 안되겠죠.
지구 전체를 기껏해야 백년도 못사는 독재자가 지배해서 한 몇십년 달성하고 망할지 모르지만.