Text Generation
top-k, top-p, temperature
top-k는 상위 k개의 토큰 선택, top-p는 전체 확률 p이내에서 토큰 선택1
temperature는 0일 때 동일 출력. default: 1이며, 1이상일 때는 분포가 평평해지고 각 토큰의 확률이 동일해진다.
Last Modified: 2023/04/14 19:17:06
모두가 읽는 인공지능 챗GPT, 알파고, 자율주행, 검색엔진, 스피커, 기계번역, 내비게이션, 추천 알고리즘의 원리
* SW 엔지니어와 ML/AI 연구자에게도 추천합니다. 책의 주요 내용은 용어집을 참고하세요.