
Text Generation
top-k, top-p, temperature
top-k는 상위 k개의 토큰 선택, top-p는 전체 확률 p이내에서 토큰 선택1
temperature는 0일 때 동일 출력. default: 1이며, 1이상일 때는 분포가 평평해지고 각 토큰의 확률이 동일해진다.
Last Modified: 2023/04/14 19:17:06
top-k는 상위 k개의 토큰 선택, top-p는 전체 확률 p이내에서 토큰 선택1
temperature는 0일 때 동일 출력. default: 1이며, 1이상일 때는 분포가 평평해지고 각 토큰의 확률이 동일해진다.
Last Modified: 2023/04/14 19:17:06