인공지능이 발달하면, 인공지능이 모든 기술을 개발해 줄 거라고 믿는 사람들이 많이 있지요.
실제로, 인공지능 회사들은 수학 분야에서 상당히 어려운 문제들을 해결하고 있고, 그 증명을 논문으로 출판할 정도지요.
아래 출처의 유튜브에서 테렌스 타오라는 저명한 수학자는 이것이 하나의 역설적 상황을 만들 거라고 보고 있네요.
첫번쨰 역설은 인공지능이 과적합 문제를 일으킨다는 겁니다.
마치, 지동설이 나오기 전 천동설이 훨씬 정확하게 천체 운동을 설명하고, 실제로 지동설보다 정확도 높았다고 하네요. 하지만, 케플러가 타원 궤도를 발견하고 뉴턴의 만유인력이 나오자 지동설이 천동설보다 수억배는 정확한 이론이 되었지요.
인공지능은 이런 천동설을 수십만개 만들어 낼 수 있답니다. 인공지능은 마치 술취한 천재 과학자 같아서, 뭔가 약간 패턴이 일치해도 그럴듯한 결과를 만들어 내는데, 이게 천동설처럼 과하게 잘 들어맞는 이론을 만들수도 있다는 거지요.
두번째는 소화 불량 문제가 있답니다. 인공지능이 만들어내는 결과가 너무 많아서, 이걸 인간이 따라잡지 못할 거란 거지요. 그리고, 실제로 이미 다 읽어 볼 수도 없고, 이해할 수도 없는 지경에 이르렀다네요. 그런데, 이런 과학과 수학의 기술발전이 인간에게 이해되는 과정 즉, 소화과정이 없이 더 나은 발전을 가져올 수 있냐는 거지요. 그의 비유에 의하면, 이건 마치 인간은 두발로 걸어서 등산을 하는데, 인공지능은 헬리콥터를 타고 산을 오르고 있는 거 같다네요. 그 결과 인간은 주변 풍경도 보면서, 뭔가 통찰력을 얻는 반면, 인공지능은 꼭대기 풍경만 보여주는 상황이 되었다는 거지요.
세번째는 인공지능이 대학원의 자리를 빼았을 거 같다는군요. 더이상 증명이나 코딩같은 부차적인 문제를 대학원생이 할 필요가 없어지고 있다네요. 배우면서 연구하는 대학원생 같은 중간 전문가가 필요없어지니, 연구인력의 사다리가 끊어질 수 도 있다고 합니다. 그런데, 이건 앞으로 인간이 최첨단 연구를 이어나갈 인류를 더이상 재생산 하지 못하는 교육적 단절을 가져올 수도 있다고 합니다.
테렌스 타오의 걱정이 기우가 될 수도 있겠지만, 뭔가 상당히 설득력 있는 거 같네요.
자세한 건 출처 참고하세요.
두번째하고 세번째 문제는 실제로 유효한 문제들이긴 합니다. 근데 어차피 기술발전의 주체가 더이상 인간이 아니게 되면 아무려면 어떻겠습니까?
네, 그럴 수도 있겠지요. 하지만, 인간이 이해하지 못하는 과학기술이란 게 무슨 의미가 있을까 싶긴 하네요. 마치, 레고블럭 여러개 쌓아놓았다고 그게 필요한 지 인간이 모른다면, 무슨 소용이 있을까 싶네요.
아직도 전자파가 전자의 파동으로 알고 있는 사람들이 더 많아요~.
그런데, 양자역학을 이해하지 못한다는 건 좀 다른 문제 같긴 하네요. 양자역학의 수학적 원리는 명확한 공리로 정해져 있다고 합니다. 다만, 그 공리의 기초가 인간의 직관과 다르다는 거지 직관이 아닌 수학적 정합성으로는 이해될 수 있다는 걸로 압니다. 인공지능이 도출한 결과물은 아예 그 기초 원리조차 접근 불가능할 수 있으니 양자역학과는 좀 다른 문제 같네요.
테렌스 타오가 말하는 건 인류 전체 과학기술 발전을 이끄는 사람들에 대한 이야기 같기는 합니다. 그들이 과학기술을 이해하지 못하는데, 과학기술 발전이 이루어질 수 있겠냐는 거지요. 마치, 삼성전자에 반도체 기술자가 기계돌리는 법만 알고, ASML이 기술개발을 해도 뭘 어떻게 개발했는지 모른다면, 무슨 반도체 기술 발전이 있겠냐는 거지요.
천동설같은 게 수십만개 나와도 그럴듯한 지동설처럼 간단한 이론으로 정리될 수 있을 겁니다. 단 몇 년 만에도 정리될 수 있겠죠.
인공지능을 인간의 인지와 이해을 초월하여 그 이론들을 인간이 검증할 수 없게되면 어떻게 되냐는 거죠.
예를 들자면 인공지능끼리 둔 바둑의 기보를 이제 이해하지 못한다죠
AI를 생산 도구로 쓰되 최종 검증자와 원리 이해자의 자리는 본인이 계속 차지하는 것이 세 문제 모두에 대한 공통 답입니다.
우리가 스마트폰의 모든걸 이해하진 못하지만 잘만 쓰자나요
이런것 같이 ai가 만들어주긴 하는데 매커니즘은 전혀 이해하지 못하고 사용하게될겁니다