llama.cpp Decision Models — /v1/systemone이 분류·라우팅을 확률로 응답합니다
llama.cpp 서버가 정해진 선택지에 점수를 매기는 의사결정 모델을 지원해요. 텍스트를 길게 생성하는 대신, 분류·라우팅 결과와 확률을 한 번에 돌려주는 방식입니다.
llama.cpp 서버가 정해진 선택지에 점수를 매기는 의사결정 모델을 지원해요. 텍스트를 길게 생성하는 대신, 분류·라우팅 결과와 확률을 한 번에 돌려주는 방식입니다.