는 수학자가 있네요.
인공지능이 발전하면, 세상의 모든 문제를 금방 해결하고, 화성에 갈 수 있는 우주선도 수년내에 개발하며, 핵융합과 양자컴퓨터도 완성될 거라고 믿는 사람들이 많지요. 심지어, 리만가설도 인공지능이 해결해서, 더이상 수학자가 필요없는 세상이 될 거라고 하는 사람들도 많습니다.
그런데, 한 수학자가 그래서 뭐가 좋다는 건지 모르겠다는 영상을 올렸네요.
이건 인류에게 재앙이 될 거라고 합니다.
만약, 실제로 인공지능이 그런 세상을 만든다면, 인간은 더이상 창조적인 무언가를 할 수 없는 세상에 살게 될 거라고 하네요.
왜냐하면, 인공지능이 만든 우주선에 타고 화성에 간다고 했을 때, 그게 만약 고장난다면, 그 우주선의 모든 부품을 어떻게 만들었는지 알 수가 없는 상황에 봉착하게 될 것이기 때문이라는군요. 그런 우주선에 인간이 실제로 타고 싶을까요?
또, 다른 모든 과학기술 분야도 마찬가지 상황에 처할 거라고 합니다.
왜냐하면, 인공지능이 이렇게 발전하면, 어떤 누구도 그런 깊이있는 이해를 할 필요가 없기 때문이지요.
그래서, 대학은 더이상 인간의 창의적 발견을 지원하기 보다는 인공지능 사용법만 가르치게 될 것이기 때문이라고 하네요.
이게 지나친 우려인지는 모르겠습니다만, 설득력이 없는 건 아닌 거 같네요.
그가 예시로 든 건 오일러가 어떤 다리를 건너는 문제를 풀었을 때 그 문제는 당시 인간 사회에서 어떤 쓸모도 없었다는 이야기를 하네요.
단지, 신문 한쪽의 퀴즈문제 풀 듯 푼 이 문제는 그래프 이론의 시작이었으며, 현재 컴퓨터 과학과 알고리즘의 시초였다고 하네요.
수백년이 지나 이 이론이 빛을 보았지만, 오일러는 그런 것에는 아무 관심이 없었다고 합니다.
인류가 계속 인공지능에 의존하고 이런 문제푸는 과정을 무시한다면, 인류가 이런 창조적 이론을 다시는 만들지 못하게 될 수 있다고 경고하네요.
자세한 건 출처 참고하세요.
재미있는건 수학자들만이 진정한 공포를 느끼고 있다는 점입니다. 수학자들마저 공포를 느끼고 있다면 일반 사무직, 개발직, 거의 모든 직종이 발등에 불이 떨어지다 못해 피부가 벗겨지고 있음에도, 이걸 강건너 불구경 하듯이 “너네도 밥그릇 뺏기냐?” 하고 있다는 거죠.
기업이 고용한 상위 1퍼센트의 천재만이, 인공지능이 뱉는 답변을 우민들이 알기쉽게 풀어 해석해주며 돈을 벌겠군요.
마치 고대의 왕족과 그 신관처럼요.
지금 말하고 있는 사람들은 도구를 쓰는 사람들에 대한 이야기가 아니긴 합니다. 영상보시면, 도구를 만드는 사람도 그 도구를 어떻게 만드는지 모르는 세상에 이를 거라는 이야기네요. 우주선 만드는데, 그 우주선 설계도도 읽을 줄 모르는 인공지능 사용자가 우주선을 만드는 세상이 될 거라는 이야기지요. 그렇게 만들어진 우주선에 사람들이 타고 싶어할지는 의문이긴 하네요.
당연히, 소프트웨어 개발자가 하드웨어를 다 몰라도 되지요. 영상의 이야기는 하드웨어 개발자가 하드웨어가 어떻게 만들어지는 모르게 될 거라는 이야기긴 합니다. 종이 만드는 사람이 종이가 어떻게 만들어 지는 지 모르고 그냥 인공지능이 시키는 대로 종이를 만들게 될 거란 이야기지요. 작가가 소설이 어떤 내용인지 모르고 프롬프트만 쓰게 될 거란 이야기랑 비슷하지요.
지금 인공지능이 어떻게 이런 결과를 내는건지 아는 사람이 단 한명도 없습니다. 이건 ai 를 만들고 기능을 올리고 있는 전문가 전체를 포함했을때를 말합니다
내부 데이터가 무슨 의미를 가지는지 아는 사람도 단 한명도 없습니다.
아는건 박스를 만들고 박스 안에 데이터를 밀어 넣은 다음 인풋을 넣으면 이런 결과가 나온다는 실험적인 사실 뿐입니다.
한 50~100년만 지나도 ai의 말은 사실상 진리이자 신탁(?)처럼 받아들여지게 될 거 같습니다.
판사는 AI가 대체할 것이다. -> 오판 시 책임은?
자율주행이 대세가 될 것이다. -> 사고 시 책임은?
제 생각에는 각 분야의 고점에 있는 사람들이 이 책임과 관련된 일을 할 거라고 봅니다.
AI가 뭔가를 진행했을 때 컨펌을 할 수 있는 권한과 책임을 가진 인간이요.
저 영상의 결론은 그런 책임을 질 인간도 사라지게 될 거란 내용이긴 합니다. 왜냐하면, 그런 인간은 말씀하신대로 한분야에 한 명 정도만 필요한데 아무도 그런 지나친 경쟁에 뛰어들만큼 여유롭지 않으니 말이지요.. 그 시간에 인공지능 배워서 취업하는 게 훨씬 나은 세상이 될텐데, 그렇다면, 누가 그런 전문적인 직업을 얻으려고 노력하겠냐는 이야기를 하네요.
좀 나아가서 인공지능이 스스로 발전하여 세상을 다 정리하는 시대가 오고 사람이 그걸 이해 못하는 수준이 된다면 그건 현재 자연 환경과 같은 수준일 것입니다.
이미 자연환경이라는 인류가 이해할 수 없는 수많은 조건 속에서 인간은 살 고 있습니다.
인공지능이 단순히 앞서간다고 해서 인류가 그 존재 의의를 잃어버리지는 않을 것입니다.
정말 인공지능이 넘사벽이 된다면 인류는 그건 자연과 같은 범주로 놓고 이를 이해하기 위해 다시 연구할 뿐이겠죠.
아직 인공지능은 자연을 이해하려 하는 수준입니다. 사람을 떠나 자연을 기준으로 본다면 아직 멀었지요. 저런 지식적인 부분이 아니라 실질적으로 인공지능이 인류를 제거 혹은 관리 단계로 취급하게 되는 상황이 더 가깝게 다가온 문제라고 생각합니다.
저 영상의 이야기는 인간이 이해한 것과 인공지능이 이해한 것에는 질적인 차이가 있다는 이야기입니다. 본글에는 다 적지 않았습니다만, 영상을 좀더 자세히 보시면, 그 차이에 대한 이야기가 나옵니다. 인공지능은 인간과 달리 복잡성을 전혀 고려하지 않고 이해하기 때문에 인간이 인공지능의 이해를 그대로 받아들인다고, 어떤 도움을 얻기가 힘들다네요. 예를 들어 이번에 인공지능이 증명한 나비에-스토크스 방정식의 증명의 경우 인간은 그런 식으로 절대 증명하지 않을 거라고 합니다. 왜냐하면, 너무 지저분하고 복잡하기만 증명이기 때문이지요. 인간이 그것을 증명했다면, 새로운 창의적 이론을 만들거나 더 추상적 개념을 도입하여 더 단순하게 증명하려고 했을 거라고 합니다. 지금 인공지능의 증명은 그런 인간적 수학의 아름다움이 없다는 것이지요.
네, 본 글에는 다 적지 않은 내용입니다만, 저 영상의 수학자는 인공지능의 이해는 인간의 이해와 질적으로 달라서 인류에게 도움이 안될거라는 이야기도 합니다.
학자의 마음에 안든다는 이야기로 치부하기는 어려울 거 같네요. 인간이 만드는 기술을 인간이 이해하지 못한다면, 더이상은 발전은 기대하기 어렵지 않을까요? 가령, 화성에 착륙하고 정착할 때 인공지능의 도움없이 인간이 모든 것을 제어하지 못한다면, 그걸 완전히 믿고 정착하려는 사람들이 몇이나 될까요?
네, 말씀하신 내용이 영상의 본질적 핵심이긴 합니다. 말씀하신 실용성 만으로는 인류의 미래가 그렇게 밝지 않다는 이야기지요. 실용적으로 인공저능이 쓸모있다고 해서, 그것이 인류의 발전을 이끌어 낼 수 있을 지 확신하기 어렵다는 내용이 영상의 본질적 내용이긴 합니다.
가보지 않은 길이어서 그렇죠 머
인류가 멸망하지 않은 이유는 인류가 그 위험성을 이해했기 때문아닌가요? 인공지능도 그런 위험성이 있음을 예측하지 못한다면, 인류가 멸망하겠지요. 핵무기의 위험성을 인류가 모르고 그냥 그대로 계속 개발했다면, 지금쯤 다 죽었겠지요. 즉, 인류 멸망할 거라고 한 사람들이 인류를 살린 거죠.
네, 원리상 일종의 주사위 던지기 같은 무작위 확률 게임이라서 논리적으로 이해하기는 어렵기는 하지요.
네, 그런 깊이를 갖추고 창의력을 발휘할 일을 하는 사람이 점점 더 적어질 거라는 이야기긴 합니다.