· 톺아보기

보험이나 금융사들도 자체적으로 LLM 및 클러스터 구축하나보네요.

memories_ · · 수정

조회 2,656 · 공감 0 · 댓글 3

채용 공고를 둘러보니 vLLM 및 GPU 클러스터 구축 및 관리 인력을 채용하는군요.

AI/AX 인력도 채용하구요.

보험 상품을 개발하려는 것인지 사내 개발 용도로 쓰려는 것인지는 모르겠지만 이런 곳은 돈과 개인정보를 다루니 자체적으로 구축하는 수밖에는 없겠네요.

아무리 기업용으로 대형 프로바이더가 커스텀 해준다고해도 자체적으로 관리 가능한 영역에 있는것과 밖으로 나가는건 다를테니까요.

이런쪽은 오픈소스 모델 가져다가 커스텀해서 쓰려나요.

댓글 3

  1. 초랭이2 · · 공감 1
    이제 모든 IT는 AI 입니다
    모든 고객이 AI 기능이 없는 제품은 아예 고려도 안하고 있습니다
    신규 사업도 AI 가 접목을 필수로 하는것 같습니다

    IT 산업 참여자는 AI를 모르거나 뒤처지면 퇴출 수순입니다....
    시대가 바뀐 정도가 아니라 AI가 IT를 뒤집어 엎고 그 자체가 되었습니다..

    경력직도 구직도 이제는 코딩 테스트는 없어지고 AI 활용 능력 테스트를 합니다
    "넌 AI로 어디까지 해봤니?" 가 곧 포트폴리오 입니다
  2. 매드치킨 ·
    chatgpt도 오픈웨이트 모델이 있으니까요.
    oss-120b면 그럭저럭 쓸만합니다
    제미나이보단 나은거 같아요
  3. 부산행 ·
    회사내의 정보만 활용하는 프라이빗한 질의를 위한 것은 예전부터 있었는데 그게 좀 많이 별로 였죠. 요즘 AI 활용하는 것들은 그것보다 비교안되게 좋구요. 그 정도만 생각해서 구축한다면 금융권 같이 민감한 정보를 다루는 곳에서는 충분히 가능하죠. 돈이 문제는 아니니까요.

모두의공원 최근 글

모두의공원 목록 더 보기