RUSGLang научил чат-модели отвечать вероятностями
🌟 SGLang научил чат-модели отвечать вероятностями Команда открытого движка инференса SGLang добавила эндпоинт /v1/decisions, который превращает обычную чат-модель в модель для принятия решений. Второй эндпоинт, /v1/systemone, отдаёт те же решения в формате System One API,…