목록파라미터수 (1)

디지털 전환과 앰비언트

대규모 언어모델(LLM)별 파라미터 개수 비교

ChatGPT 강연 자료를 정리하다가 대규모 언어모델별 파라미터 개수를 비교하는 자료를 만들어 봤습니다. 대규모에 대한 기준은 없지만, 통상 10억개 이상으로 이야기를 하던데요, 그걸 넘어 대부분 1000억개 이상이고 1조개 이상인 초거대 언어모델들도 보입니다. 5,000억개 이상인 언어모델에 대해서는 노란색으로 표시를 했습니다. 참고로 GPT-4는 추정치입니다.
Generative AI 2023. 5. 1. 16:20
이전 Prev 1 Next 다음