방금 빙에게 물어보니, ---- 모델 크기는 GPT-4와 GPT-3.5의 가장 눈에 띄는 차이점입니다. GPT-4는 GPT-3.5보다 훨씬 큰 모델로, 더 많은 파라미터를 가지고 있습니다¹²⁴. 파라미터란 모델이 학습하는 가중치나 편향과 같은 값들을 말합니다. GPT-3.5의 파라미터 수는 약 1750억 개였습니다²³. 반면에 GPT-4의 파라미터 수는 약 1조 개로 추정됩니다¹². 즉, GPT-4는 GPT-3.5보다 약 6배 정도 큰 모델입니다. 모델 크기가 클수록 더 많은 데이터를 학습할 수 있고, 더 다양하고 정교한 응답을 생성할 수 있습니다. --- 데이터의 크기는 GPT-4와 GPT-3.5의 또 다른 차이점입니다. GPT-4는 GPT-3.5보다 훨씬 많은 데이터를 학습했습니다¹²³. 데이터란 모델이 학습하는 텍스트나 이미지와 같은 자료들을 말합니다. GPT-3.5의 데이터 크기는 약 45TB였습니다². 반면에 GPT-4의 데이터 크기는 약 300TB로 추정됩니다¹². 즉, GPT-4는 GPT-3.5보다 약 7배 정도 많은 데이터를 학습했습니다. 데이터의 크기가 클수록 더 다양하고 신뢰할 수 있는 지식을 가질 수 있고, 더 자연스럽고 일관된 응답을 생성할 수 있습니다. --- 라네요~
임시활동
IP 39.♡.28.112
03-19
2023-03-19 21:51:40
·
@님 이해했는데 위에분이 말한대로.. 학습에 사용된 데이터량이 아니라
지피티4의 프로그램 크기가 귱금해요... 기가 단위인지 메가단위인지...엄청 궁금한데 찾을수가 없네요 ㅋㅋ
러블리아재
IP 39.♡.107.126
03-19
2023-03-19 21:58:09
·
방금 물어보니 gpt-3는 다양한 모델을 가지고 있고 가장작은 모델인 distilgpt3는 6GB라고 하네요. 그리고 가장큰 모델은 175GB의 gpt3.5 turbo라고 하네요. 그리고 4.0은 정보를 제공 못한답니다.
러블리아재
IP 39.♡.107.126
03-19
2023-03-19 21:59:07
·
질문은 gpt 모델을 onnx모델로 변환했을때의 크기로 물어봤습니다.
새로운 댓글이 없습니다.
이미지 최대 업로드 용량 15 MB / 업로드 가능 확장자 jpg,gif,png,jpeg,webp 지나치게 큰 이미지의 크기는 조정될 수 있습니다.
----
모델 크기는 GPT-4와 GPT-3.5의 가장 눈에 띄는 차이점입니다. GPT-4는 GPT-3.5보다 훨씬 큰 모델로, 더 많은 파라미터를 가지고 있습니다¹²⁴. 파라미터란 모델이 학습하는 가중치나 편향과 같은 값들을 말합니다.
GPT-3.5의 파라미터 수는 약 1750억 개였습니다²³. 반면에 GPT-4의 파라미터 수는 약 1조 개로 추정됩니다¹². 즉, GPT-4는 GPT-3.5보다 약 6배 정도 큰 모델입니다.
모델 크기가 클수록 더 많은 데이터를 학습할 수 있고, 더 다양하고 정교한 응답을 생성할 수 있습니다.
---
데이터의 크기는 GPT-4와 GPT-3.5의 또 다른 차이점입니다. GPT-4는 GPT-3.5보다 훨씬 많은 데이터를 학습했습니다¹²³. 데이터란 모델이 학습하는 텍스트나 이미지와 같은 자료들을 말합니다.
GPT-3.5의 데이터 크기는 약 45TB였습니다². 반면에 GPT-4의 데이터 크기는 약 300TB로 추정됩니다¹². 즉, GPT-4는 GPT-3.5보다 약 7배 정도 많은 데이터를 학습했습니다.
데이터의 크기가 클수록 더 다양하고 신뢰할 수 있는 지식을 가질 수 있고, 더 자연스럽고 일관된 응답을 생성할 수 있습니다.
---
라네요~
학습에 사용된 데이터량이 아니라
지피티4의 프로그램 크기가 귱금해요...
기가 단위인지 메가단위인지...엄청 궁금한데 찾을수가 없네요 ㅋㅋ
그리고 4.0은 정보를 제공 못한답니다.