TechCrunch ChatGPT чат-бот құруға көмектескен және адамның кері байланысынан (RLHF) күшейтетін оқытуды ойлап тапқан OpenAI зерттеушісі Диого Альмейданың көңілін қалдырды дейді. Мүмкіндіктеріне қарамастан, Альмейда көңілінен шықпады. «Бізде бөтелкеде найзағай бар, бірақ бұл пайдалы емес», - деді ол. "Мен содан бері бұл мәселемен күресіп келемін. Мәселе адам тілін оңтайландыруда деген қорытындыға келуге біраз уақыт қажет болды... Біз төрт жыл бойы адам тілімен тамаша жұмыс жасадық, бірақ автоматтандыру үшін бұл пайдалы емес, өйткені компьютерлер басқа тілде сөйлейді." Екі жыл бұрын Альмейда OpenAI-ден шығып, осы мәселені шешуге тырысатын TypeSafe AI стартапын тапты. Осы аптада компания Transformers негізіндегі жаңа Jev үлгісін шығарды, ол үлкен емес тіл үлгісі (LLM). Ол мәтінді шығармайды, оның орнына ықтималдықтарды немесе компания «калибрленген шешімдер» деп атайтын нәрсені шығарады. Тілді жою модельді керемет арзан және жылдам етеді және пайдаланушылар нәтижені алдын ала анықтайтындықтан, ол «галлюцинация» жасай алмайды. Шығару токендері тегін, бірақ кіріс таңбалауыштары миллиондармен емес, миллиардтармен өлшенеді

арыстандар. Скриншот бірдей сұрауларға жауап беретін Jev және OpenAI үлгісін салыстыруды көрсетеді. Әзірлеушілер өнімге үлкен қызығушылық танытуда; компания сұраныстың жоғары болуына байланысты біраз уақытқа өзінің API арқылы пайдаланушыларға қызмет көрсету мүмкіндігін жоғалтты. Jev бағдарламалық құралды автоматтандыру үшін ең пайдалы болып көрінеді. Қазіргі уақытта бағдарламашылар оны кодқа интеллект енгізудің арзанырақ және сенімді әдісі ретінде қарастырады. Мысалы, Vercel агенттік инфрақұрылымдық компаниясының бағдарламалық инженері Пранид Шарма оның компаниясы OpenAI ChatGPT Luna 5.6 қолданбасын командаларды қауіпсіздікке тексеретін классификаторды іске қосу үшін пайдаланғанын айтты. Версель Лунаны Джевпен ауыстырғанда, ол 5-18 есе жылдамырақ және дәлірек нәтижелерге қол жеткізді. Басқа әзірлеуші ​​Никхил Мудхолкар, Bryo AI техникалық директоры, Jev-ті іскери электрондық поштаның жіктелуі үшін Gemini-ге қарсы сынады. Оның сынағында Егіздер сәл дәлірек болды, бірақ 10-20 есе қымбат. Мудхолкар үшін Джевтің сенімділік ұпайлары қызықтырақ болды - «бұл нақты әлемдегі ықтималдықты қайтаратын жалғыз модель, оны жұмыс процесін автоматтандыру үшін тамаша етеді!» Сонымен қатар

О, жаңа модель белгілі бір жағдайларда LLM-ді алмастырып қана қоймайды, сонымен қатар дұрыс емес мінез-құлыққа ақылды тексеру ретінде әрекет ете отырып, оларды толықтыра алады. Басқа агенттерді бақылау үшін агенттерді пайдалану тез қымбатқа түсуі мүмкін, бірақ Альмейданың айтуынша, Jev-ті осы мақсат үшін пайдалану мағынасы бар. Ол LLM агенттерінің іздерін қадағалап, олардың бұзылуларының алдын алу үшін Jev-ті пайдаланатын пайдаланушыларды көреді. «Күннің соңында бұл галлюцинация мәселесін пайдаланушыға аздап береді», - деп түсіндірді Армин Роначер, ашық бастапқы Pi моделін әзірлеуші ​​Earendil компаниясының техникалық директоры. "Пайдаланушы мынаны айтуы керек: егер ол тек 50% ықтималдықты қайтарса, бұл жай тиынның аударылуы болуы мүмкін және мен оны елемеймін. Бірақ егер ол 95% болса, мен бұл туралы бірдеңе істей аламын." Jev үшін тағы бір әлеуетті қолданба модельді маршруттау болып табылады, деп қосты Роначер. Берілген жүктеменің белгілі бір үлгіні қажет ететінін болжау пайдалы болар еді, бірақ бұл тапсырма үшін LLM пайдалану қымбатқа түседі. Jev-тің төмен құны мен жылдамдығы мұндай нақты уақытта сұрыптауға мүмкіндік береді. Бұл Альмейданың үміті. Модель 19 ғасырдағы экономист Уильям Стэнли Джевонстың құрметіне аталған

Оксал тұжырымдамасы өнімнің өзіндік құнының төмендеуі оны пайдаланудың артуына әкелуі мүмкін екенін сипаттайды. Бұл жағдайда барлау құнын төмендету оның кеңінен таралуына әкелуі керек. «Біз смарт бағдарламалық қамтамасыз ету барлық жерде пайда болатынына және таратылатынына сенеміз ... ертедегі интернеттен әлдеқайда көп, адамдар дәл қазір жасауға тырысатын мега-қосымшалар сияқты», - деді Альмейда. Альмейда сыртқы бақылаушылар ашық LLM-дің үстіне салынған деп күдіктенетін модельдің архитектурасы туралы ұялшақ. Компания Jev-ті «бір жүйе моделі» деп атайды, ол пайымдауға емес, интуицияға бағытталған және нақты тапсырманы орындауға бағытталған. Альмейда Джев «шешімге негізделген күшейтуді калибрленген оқыту» деп атайтын әдісті қолдана отырып, толығымен синтетикалық деректерге үйретілгенін айтады. «Біз барлық деректерімізді құрастырамыз деп ерте бәс тіктік және бұл мен жасаған ең жақсы ставкалардың бірі болды — біздің стартаптан жақсырақ, менің ойымша RLHF-тен жақсы», - деді ол TechCrunch. «[Біздің компаниямыздың] жартысы - бұл шын мәнінде иелік ететін зертхана

бұл статистикалық тұрғыдан жақсы түсінілген синтетикалық деректердің барлық қосалқы саласы және бұл менің өмірдегі қуанышым." Әзірге Джев мұндай модель ретінде жалғыз тұр, бірақ Роначер бәсекелестердің пайда болуын күтеді, енді оның пайдалылығы анық. "Біз мұны көптеген жолдармен ертерек көруіміз керек еді, бірақ, мүмкін, LLMs соншалықты арзан болғандықтан, ол сізге әлі де креативті болуы керек екенін айтты." өзі жаңа әдістерде модельдің көбірек нұсқаларын жасайды. Мен біздің негізгі өніміміздің интеллект болғанын қалаймын... [бірақ біз шексіз байлыққа немесе дінге бәс тігу немесе деректер орталығында Құдайды құру немесе бүгінгі күннің тақырыбы болып табылатын зертхана емеспіз.» Бастапқы жарияланым негізінде нейрондық желі дайындаған материал. AI егжей-тегжейлі қате болуы мүмкін (сандар, атаулар, даталар, дәйексөздер бойынша Вирджиния деректері бойынша қате болуы мүмкін). жұмыс тобы және деректер орталықтарын шектейді PrismML өнімділігі жоғары Ternary Bonsai 2 27B енгізді

Kyutai математикалық есептерді ауызша шешуге арналған «Ресей дауысы» үлгісін шығарды. Nokia оқытусыз шешім қабылдауға арналған AnyJev кітапханасына қолжетімділікті ашады. OpenAI GPT-6 Sol және Luna-ны жаңа API бағасымен таныстырып, құнын 50%-ға төмендетті.