AI가 업무혁신과 ㅂㅅ을 동시에 일으키는 이유 +91 [15]

지금 ai는 그거임

고3 지식을 갖춘 초4 애새끼.

Gpt 4 omni에서 발생하는 프롬프트 지시사항 무시 이슈라던가

Gemma 2 27b의 컨텍스트 무시,

Llama-3.1 400b에서 나타난다는 신조어 증상 등

딱 초등학교 4학년 애들 말 안 듣는 거랑 비슷함

특히 더 문제는 규격화된 출력을 제대로 못 뽑는다는 거임

12개가 한 줄인 1만 줄의 데이터를 처리하라고 시키면

어떤건 11줄 어떤건 13줄 어떤건 순서 뒤바꿔놓고 등등 엉망으로 작업함

즉 현장에서 쓰려면 얘 출력방식이 에러나면 그 데이터를 무시하고 규격에 맞게 답변할 때까지 재작업시키는 수단밖에 없음

RNN,CNN 초기에는 없던 이슈인데 (거야 행렬로 답변이 통제되니까)

LLM으로 넘어가며 생기는 이슈거든

근데 그러면서도 써야 할 정도임

근데 이걸 일반기업에서 의미있게 쓸 수 있을까?

시중 솔루션도 까놓고말해서

Ms copilot, github copilot, jetbrains ai assistant,adobe firefly 말고는

거의 이거 왜 써 급임

무료 긴빠이 툴 stable diffusion 정도?

이거조차 일반기업은 딸깍충을 넘어 자사 작업에 쓰려면 테크아티스트가 필요할 정도임

학습? 

8b 모듈 굴리려면 4080이 두 대 필요함

8b 모듈 학습시키려면 최소 4080 4대를 묶어야 하고

제대로 된 퍼포먼스를 보려면 부르는 게 값인 a100 이상의 gpu를 쌓아야 함

수백B짜리 제일 성능좋은 대형 모듈이요?

일단 돌아가는 머신과 배경서버 마련에 4-5000만원

트레이닝에 30억 정도 준비해야함

완전 자체 트레이닝이요? 100억 이상.

그러니까 가능성은 있는데 통제가 그만큼 ㅈ같은 거임…