눈에 띄는 AI 뉴스 3선 : 클리앙

많은 AI 뉴스를 두루 살펴 보고, 그 가운데 주목 할 만한 3선을 말씀드립니다.

# 사카나 AI, 모델이 오케스트레이션!

기존의 오케스트레이션은 곧 에이전트 시스템이었습니다.

오픈클로가 대표적이고 여러 프레임워크가 멀티에이전트를 지휘하는 사령부였습니다.

그런데 아예 이것을 담당하는 모델을 제시하였습니다.

운용에 부담이 없으면서도 불필요한 학습을 덜 해도 되고,

이해하고 판단하고 역할 분담을 할 수 있는 최적의 크기를 7B로 보았고,

이러한 모델의 장점은 제시 되는 요청에 맞게 자연어로 된 최적의 워크플로우를 만들어 냅니다.

꽤 의미 있는 도전으로 보입니다.

# 서브쿼드래픽, 초장기 기억 아키텍쳐를 주장

메타 구글 옥스포드 등 다양한 출신의 화려한 연구진을 자랑하는 이곳의 기술을 요약하면,

기존의 문제를 해결하는 방안으로 '희소 어텐션' 기반의 구조를 통해

의미 비교를 일일이 하는 것이 아니라 의미 있는 관계 안에서 계산하는 것으로,

무려 1200만 컨텍스트를 제공할 수 있고 5천만까지 확장이 가능하다고 합니다.

이것이 실제로 검증이 되고 유효한지는 지켜 볼 일입니다.

그런데 만약 주장하는대로 증명이 된다면, 여태 나온 모든 혁신 중에 으뜸 기술일 것입니다.

이미 기존에 희손 어텐션 개념은 있었는데, 시스템으로 구현해 내었다는 것 같습니다.

이렇게 희소 어텐션으로 연산량의 선형 증가가 가능하다면,

기존의 수 많은 기술 혁신을 넘어 다음 마디로 나아가는 결정적 열쇠라고 할 수 있겠습니다.

# 제미나이 3.2 플 루머

곧 나올 것 같다네요.

성능은 놀랍게도 3.2 플이 3.1 프로 보다 좋다는 ... 믿기 힘드나

구독자 입장에서 반가운 루머도 있습니다.

모두의공원