Кәдімгі LLM-ге қарағанда ондаған есе жылдам шешім қабылдайтын AI агенттері үшін модель шығарылды

⚡️ AI агенттері үшін шешімді әдеттегіден ондаған есе жылдам қабылдайтын модель шығарылды LLM TypeSafe AI Jev-ке қолжетімділікті ашты - бұл модель мәтінді жазбайды, бірақ берілгендердің ішінен ең жақсы нұсқаны таңдайды. Мысалы, ол қандай құралды іске қосу керектігін, сұрауды қайда жіберу керектігін немесе деректерді санатқа бөлуді шеше алады. Мұндай шағын шешімдер AI агенттеріне үнемі қажет, бірақ әрқайсысы үшін толыққанды LLM пайдалану қымбат және баяу. TypeSafe деректері бойынша, Jev 70–500 мс-те жауап береді және қолайлы тапсырмаларда дәстүрлі үлгілерге қарағанда 40–200 есе жылдамырақ. Кіру бір миллион токенге небәрі $0,042 тұрады, ал жаңа пайдаланушыларға $5 беріледі - шамамен 119 миллион кіру токеніне жеткілікті. Күрделі жоспарлау мен кодты үлкен LLM ретінде қалдыруға болады және бүкіл жұмысты Jev-ке беруге болады. [Дереккөз]()