AI와 과학 사이에 묘한 역설이 있다는군요.
조회 3,321 · 공감 1 · 댓글 18
인공지능이 발달하면, 인공지능이 모든 기술을 개발해 줄 거라고 믿는 사람들이 많이 있지요.
실제로, 인공지능 회사들은 수학 분야에서 상당히 어려운 문제들을 해결하고 있고, 그 증명을 논문으로 출판할 정도지요.
아래 출처의 유튜브에서 테렌스 타오라는 저명한 수학자는 이것이 하나의 역설적 상황을 만들 거라고 보고 있네요.
첫번쨰 역설은 인공지능이 과적합 문제를 일으킨다는 겁니다.
마치, 지동설이 나오기 전 천동설이 훨씬 정확하게 천체 운동을 설명하고, 실제로 지동설보다 정확도 높았다고 하네요. 하지만, 케플러가 타원 궤도를 발견하고 뉴턴의 만유인력이 나오자 지동설이 천동설보다 수억배는 정확한 이론이 되었지요.
인공지능은 이런 천동설을 수십만개 만들어 낼 수 있답니다. 인공지능은 마치 술취한 천재 과학자 같아서, 뭔가 약간 패턴이 일치해도 그럴듯한 결과를 만들어 내는데, 이게 천동설처럼 과하게 잘 들어맞는 이론을 만들수도 있다는 거지요.
두번째는 소화 불량 문제가 있답니다. 인공지능이 만들어내는 결과가 너무 많아서, 이걸 인간이 따라잡지 못할 거란 거지요. 그리고, 실제로 이미 다 읽어 볼 수도 없고, 이해할 수도 없는 지경에 이르렀다네요. 그런데, 이런 과학과 수학의 기술발전이 인간에게 이해되는 과정 즉, 소화과정이 없이 더 나은 발전을 가져올 수 있냐는 거지요. 그의 비유에 의하면, 이건 마치 인간은 두발로 걸어서 등산을 하는데, 인공지능은 헬리콥터를 타고 산을 오르고 있는 거 같다네요. 그 결과 인간은 주변 풍경도 보면서, 뭔가 통찰력을 얻는 반면, 인공지능은 꼭대기 풍경만 보여주는 상황이 되었다는 거지요.
세번째는 인공지능이 대학원의 자리를 빼았을 거 같다는군요. 더이상 증명이나 코딩같은 부차적인 문제를 대학원생이 할 필요가 없어지고 있다네요. 배우면서 연구하는 대학원생 같은 중간 전문가가 필요없어지니, 연구인력의 사다리가 끊어질 수 도 있다고 합니다. 그런데, 이건 앞으로 인간이 최첨단 연구를 이어나갈 인류를 더이상 재생산 하지 못하는 교육적 단절을 가져올 수도 있다고 합니다.
테렌스 타오의 걱정이 기우가 될 수도 있겠지만, 뭔가 상당히 설득력 있는 거 같네요.
자세한 건 출처 참고하세요.
댓글 18
두번째하고 세번째 문제는 실제로 유효한 문제들이긴 합니다. 근데 어차피 기술발전의 주체가 더이상 인간이 아니게 되면 아무려면 어떻겠습니까?
네, 그럴 수도 있겠지요. 하지만, 인간이 이해하지 못하는 과학기술이란 게 무슨 의미가 있을까 싶긴 하네요. 마치, 레고블럭 여러개 쌓아놓았다고 그게 필요한 지 인간이 모른다면, 무슨 소용이 있을까 싶네요.
아직도 전자파가 전자의 파동으로 알고 있는 사람들이 더 많아요~.
그런데, 양자역학을 이해하지 못한다는 건 좀 다른 문제 같긴 하네요. 양자역학의 수학적 원리는 명확한 공리로 정해져 있다고 합니다. 다만, 그 공리의 기초가 인간의 직관과 다르다는 거지 직관이 아닌 수학적 정합성으로는 이해될 수 있다는 걸로 압니다. 인공지능이 도출한 결과물은 아예 그 기초 원리조차 접근 불가능할 수 있으니 양자역학과는 좀 다른 문제 같네요.
테렌스 타오가 말하는 건 인류 전체 과학기술 발전을 이끄는 사람들에 대한 이야기 같기는 합니다. 그들이 과학기술을 이해하지 못하는데, 과학기술 발전이 이루어질 수 있겠냐는 거지요. 마치, 삼성전자에 반도체 기술자가 기계돌리는 법만 알고, ASML이 기술개발을 해도 뭘 어떻게 개발했는지 모른다면, 무슨 반도체 기술 발전이 있겠냐는 거지요.
GE 에서는 전구도 나오고, 기타등등 다 나오고 한때 세계최대 규모의 종합 전자제품 메이커였죠. 나중에는 발전용 가스터빈에 상용 제트엔진까진 나오며 어마무시한 발전을 이루게 됩니다. 의료용 MRI는 물론이구요. 물론, 지금은 죄다 분사 해서 GE가 하는 일이 뭔지는 잘 모르겠습니다.
웨스팅 하우스는 송전설비와 온갖 종류의 발전소-수력, 화력, 풍력, 원자력-를 제조하고 있는데,
투자자 J.P 모건이 이것들을 다 이해하고 과연 대규모 투자를 했을까요? 사실 J.P 모건이나 SS 이재용이나 미술사, 동양사학 등 과학기술과는 별반 관련이 없는 인문학을 전공했죠.
뭐 J.P 모건 까지 갈것도 없는것이......스티브 잡스도 철학 같은 인문학을 전공했고 졸업도 못했죠.
스티브 잡스가 과학기술을 이해 못하는 집단을 데리고, 아이폰을 만들 수 있었을까요? 뭔가 논점을 잘못 이해하신 듯 하네요. 지금 말하고 있는 건 회사 사장들 이야기가 아니라 그 밑에서 일하는 기술자나 연구원이 점점 사라질 거라는 이야기 입니다. 그들이 없는데, 회사가 무슨 첨단 기술을 개발할까요?
논점을 잘못 이해한 것이 아니라, 세상이 변화하는데 그걸 간과하셨어요.
점점 사라지는 그 엔지니어들은 AI를 능숙하게 사용하는 사람들만 살아남겠고 나머지들은 모조리 도태되겠죠.
어짜피 소수만 남아도 AI가 생산성을 유지시켜 주므로 첨단기술은 계속 개발됩니다.
점점 인간 만으론 어려워 지겠지만.....지금도 어짜피 복잡한 계산은 전부 기계의 도움을 받고 있듯이, 이제는 생각의 대부분을 도움받을 겁니다.
그리고, 변화하는 세상에서 첨단기술을 개발하여 상용화까지 이른 사람들은 그 기술을 가진 발명가나 엔지니어가 아니었어요. 스티브 잡스나 JP 모건 같은 사람이 있어서 그런 물건들이 나온것이지 에디슨과 테슬라, 워즈니악 만으로는 그런 물건들이 세상에 나오지 못했죠.
자꾸 지금 세상을 생각하지 마시고 앞으로 변화할 세상 안에서 생각의 틀을 바꾸셔야 합니다.
천동설같은 게 수십만개 나와도 그럴듯한 지동설처럼 간단한 이론으로 정리될 수 있을 겁니다. 단 몇 년 만에도 정리될 수 있겠죠.
인공지능을 인간의 인지와 이해을 초월하여 그 이론들을 인간이 검증할 수 없게되면 어떻게 되냐는 거죠.
예를 들자면 인공지능끼리 둔 바둑의 기보를 이제 이해하지 못한다죠
AI를 생산 도구로 쓰되 최종 검증자와 원리 이해자의 자리는 본인이 계속 차지하는 것이 세 문제 모두에 대한 공통 답입니다.
우리가 스마트폰의 모든걸 이해하진 못하지만 잘만 쓰자나요
이런것 같이 ai가 만들어주긴 하는데 매커니즘은 전혀 이해하지 못하고 사용하게될겁니다