ai가 ai를 고쳐 성능을 향상시키네요
조회 1,917 · 공감 2 · 댓글 5
AI가 다른 AI의 가중치를 직접 수정하는 시대가 오나 봅니다. 자율주행에도 적용 가능하겠네요.
어제 MIT에서 발표한 가중치 프로그래밍이라는 연구가 꽤 흥미롭네요.
기존에는 AI 성능을 개선하려면 데이터를 추가해서 재학습시키는 방식이었는데, 이제는 AI가 다른 AI의 가중치를 분석하고 문제가 있는 부분을 직접 수정하는 것도 가능해졌다고 합니다.
실제로 GPT-6 Astra가 Qwen 0.8B 모델의 가중치 중 0.016%만 수정해서 수학 문제 정답률을 7.9%에서 48.1%로 끌어올렸다고 하네요.
생각해보니 이게 엔비디아의 자율주행 AI인 알파마요에도 적용될 수 있겠더군요.
알파마요는 가중치가 공개된 모델이니까요.
예를 들어 자율주행 중 특정 상황에서 잘못된 판단을 반복한다면, 기존에는 관련 데이터를 모아서 다시 학습시켜야 했겠지만, 가중치 프로그래밍이 발전하면 AI가 그 오류의 원인을 신경망 내부에서 찾아 직접 수정하는 것도 가능해질 수 있겠죠.
물론 아직은 작은 모델에서 일부 문제를 해결한 초기 연구이고, 알파마요 같은 대형 멀티모달 모델에서도 가능하다는 게 입증된 건 아닙니다.
그런데 이게 제대로 발전한다면 단순히 AI를 학습시키는 걸 넘어, AI가 다른 AI의 내부 구조를 분석하고 직접 고쳐주는 방향으로 발전할 수도 있겠네요.
특히 자율주행이나 로봇처럼 수많은 예외 상황에 대응해야 하는 분야에서는 상당히 의미 있는 변화가 될 것 같습니다.
지금은 AI 성능을 높이려면 막대한 데이터와 연산량이 필요한데, 앞으로는 이미 학습된 모델을 얼마나 잘 이해하고 수정하느냐도 중요해지는 거 아닐까 싶습니다.
나아가 AI가 자기 자신의 가중치까지 수정하고 검증하는 단계에 이른다면, AI 발전 속도에도 꽤 큰 영향을 줄 수 있겠고요.
아직 초기 연구지만 개인적으로는 상당히 흥미로운 방향인 것 같습니다.
연구 원문:
댓글 5