보안이 신경쓰여서
보안 강화해 - 실행 - 채팅 안됨(….)
어찌저찌 채팅 다시 되게 하고
‘샌드박스 드갔다고? 그거 컴터 제어 안되잖아. 원복해’
- 데헷. 이미 들어와 있어서 제가 수정은 못하고… 직접 하셈…
…
뭐 그랬습니다;;;
특정 디렉토리 안의 소스 코드 리팩터링 같은 것도 걍 해달라면 다 해주네요.
llm 여러 개 설정해두고 용도에 따라 스위칭하게 설정하고 쓰고 있습니다.
가난한 저는 토큰 값 마이 나가면 힘들어서…
절약 또 절약..
전 일단 다 지우고 나중에 다시 하는거로!
kimi 쓰시죠. 좋습니다.
정 필요하면 로컬 llm말고 진지하게 정액구독으로 하나 연결해서 다용도로 쓰는게 나으려나요.
이렇게 쓰면 8기가 M1 깡통 맥미니에서도 될것 같은데요
제미니는 일단 기본 뻥쟁이입니다. 모르는거/아닌거를 너무 자신감 있게 얘기하는 놈이라...
24기가 메모리로 클로드 수준을 돌릴 수 있다면 그냥 바로 5090 삽니다.
qwen2.5 - 72b급 되면 '그나마' 비슷한 수준이 나온다는 평이 있는데
그거 돌리려면 a100 정도는 쓰셔야 합니다.
물론 그것도 로컬 머신이긴 하니... 틀린 말은 아닌데
(400만엔짜리라 그렇지...)
2대 합쳐서 24기가 메모리 확보하면 실제 24기가보다도 못쓸겁니다.
(모델을 샤딩해서 메모리에 올려야 하고, 이거 잘 맞춰야 해서...)
오픈클로만 돌리는거면 뭐 깡통이어도 큰 상관은 없습니다.
실제 업무(?)는 api로 다른 ai들이 해줄거니까요.
A100 살 재력 있으면 1년 걍 노는걸로... ;-;
최첨단은 아니더라도 여러용도로 쓸 구독하나 알아보는게 좋을지도 모르겠네요.
근데 회사들이 자선사업가도 아니니 가끔 코딩 좀 도와주고 일정도 봐줄... 그런 형편 좋고 가성비도 나오는 구독은 없겠죠. ;-;
챗지피티요.
plus 쓰면 오픈클로에서 쓸 수 있습니다.
20달러에 에이전트랑 오픈클로 둘 다 사용 가능.
깃헙 연동해서 소스코드 리뷰까지도 (chatgpt 5.3 codex 사용 가능)
오...?
무료들도 이것저것 붙여넣고, 로컬도 붙이고 해서 저는 에이전트별 특성 고려해서 돌려보는 중입니다.
보안문제가 있다 보니 로컬로만 돌리고 싶은데 그러려면 최소 64gb는 있어야 할테니 힘들거고....고민이 좀 되네요.
보안은 ai를 쓴다는 것에 대한게 아니라
오픈클로에 대한거라면
조심할 수 있습니다.
로컬로만은 힘드실거에요. 꽤
주간 리밋과 5시간 리밋이 있긴 한데
그래도 엄청 좋죠
저는 돈 복사 좀 시켜보려구요..
(파쇄될 수도 있지만)
돈 파.... 가 아니고 마이닝은 잘 되고 계신가요.
오늘 유튜브를 보다보니, LLM을 일일이 키 설정하는게 아니라 오픈라우터라는 사이트를 경유해서 키를 얻어서 관리하는 걸 봤습니다. 구독? 그걸 안하고 전환이 쉬울 것 같아 보이더군요. 워낙 새로운게 많이 나오니 일일이 가입안하고 이렇게 하는 방법도 있지 않을까 생각해봤습니다.
오픈라우터는 다양한 모델들 한곳에서 사서 하나로 관리하는걸로 알고있긴 한데…
거기서 무료로 쓸 수 있는 딥식이 정도 설정해두고 있습니다.
저는 지금은 페이퍼 트레이딩 돌리면서
학습 시키고 있어요.
주간예측 정밀도 올리려고.
다음으로 할건 경마 예측하고
토토 예측을 시켜보려 합니다
그럼 추가 프롬프트 넣으셔야겠네요.
‘다 잃으면 너 지워버릴거야‘
크하. 좋네요.
언제 오픈클로 사용자 벙개라도 하며
지식을 서로 공유해봐도 좋을거 같습니다 :)
애플 맥미니 사서 오픈클로 이용하는게 가장 좋은걸까요?
일단 오라클 클라우드 무료티어에 올려놨는데, 확실히 이거는 활용의 한계가 좀 있는거 같아서.
일단
작고, 전력도 적게 먹고, 고성능이지요
오픈클로 내에서 만들어진 파일들도 실행해야 하고 뭐 이래저래 돌아가야하니까 기본 머신 파워는 필요하긴 할겁니다.
그리고 작으니까 한쪽 구석에 두고, 필요하면 원격으로 붙거나 하면 되니까요.
로컬 llm은 몹쓸 물건이라 보시면 됩니다 -ㅂ-;
그리고 오픈클로를 샌드박스로 돌리실거 아니면
기본 외부에 열려있을거고, 보안그룹 설정 빡시게 한다 해도..
공격 표면이 넓은 클라우드에는 안 올리는게 좋지요.
맥북프로 M4 Max에 128GB램 인데, 저도 로컬llm 추천못합니다.. 이것저것 이미지 영상도 만들어보고 했는데... 잔혀 만족 못했네요. 제미나이나 GTP쓰는게 빠르고 결과도 좋습니다.
맥 스튜디오 512 는 만족할만하다 합니다(…)
가격이 문제일 뿐…
(그돈씨 dgx…)
이것이 미래의 대화!!
하루종일 방구석에서 チョワヨ~ 만 듣고있던 자신을 반성해 봅니다.
공부를 좀 해야하는데 ㅋㅋㅋㅋㅋ
일단 오픈클로부터 설치해보십시다 'ㅅ'!!