P3T크게 만들수록 계속 똑똑해질까?
지금까지의 답 · 근거 글 3편 · 종합 대기
- 1AI에 GPU가 필요한 이유, 정작 막히는 곳은 메모리
AI의 행렬 계산에는 GPU가 잘 맞고, 답을 한 토큰씩 만들 때는 메모리 용량과 대역폭도 중요합니다.
- 2AI 학습 원리, 「틀렸어」 해도 바로 안 배우는 이유
AI 학습은 틀린 정도를 손실로 만들고, 그 손실이 줄어들도록 내부 값을 반복해서 바꾸는 과정입니다.
- 3파라미터 뜻, 크기 순서와 점수 순서는 달랐습니다
AI 모델은 크기 순서와 점수 순서가 일치하지 않았고, 어떤 점수표로 평가하느냐에 따라 순서도 바뀝니다.
이 질문 아래 작은 질문
- AI는 크게(매개변수를 많이) 만들수록 계속 똑똑해지나
규모는 계속 커지는데, 같은 시험 점수로 보면 작은 모델이 큰 모델을 따라잡는 사례도 나옵니다.
1편