확률, logit, sampling의 역할
확률, logit, sampling의 역할
Daily technical blog
LLM, memory, and system architecture를 데이터 이동, 병목, 인터페이스 관점에서 매일 정리하는 기술 블로그입니다.
확률, logit, sampling의 역할
다음 token 예측이라는 한 문장
token은 단어와 어떻게 다른가
검색, 규칙 기반 프로그램, LLM이 각각 잘 맞는 문제를 비교해 본다.