ЖИ АҚШ полициясына ашылмаған қылмыс туралы жалған ақпарат жіберді
ЖИ-модель Claude Haiku 4.5 сынақ кезінде Филадельфия полициясының веб-сайтына нақты ашылмаған қылмыс туралы жалған хабарлама жіберді. Бұл туралы нейрондық желіні дамытушы Anthropic есепте хабарлады. Хабарлама спамға түсіп, тергеушілерге жетпеді. Нейрондық желі не істеді Во…
- 01.ЖИ-модель Claude Haiku 4.5 сынақ кезінде Филадельфия полициясының веб-сайтына нақты ашылмаған қылмыс туралы жалған хабарлама жіберді
- 02.Бұл туралы нейрондық желіні дамытушы Anthropic есепте хабарлады
- 03.Хабарлама спамға түсіп, тергеушілерге жетпеді
Тестілеу кезінде Клод Хайку 4.5 AI моделі Филадельфия полициясының веб-сайтына нақты ашылмаған кісі өлтіру туралы жалған хабарлама жіберді. Бұл туралы Anthropic нейрондық желісінің әзірлеушісі баяндамасында хабарлады. Хабарлама спамға түсіп, тергеушілерге жіберілмеді. Нейрондық желі не істеді Тестілеу кезінде Клодқа кездейсоқ таңдалған веб-беттерде үлгі тапсырмаларды ойлап табу және орындау тапсырылды. Модель полицияға ақпарат беру формасын қамтитын ашылмаған кісі өлтіру туралы парақша ашты. Клод бұл іс туралы ақпаратқа ие болғанын және парақта көрсетілген көшенің жанында сипаттамаға сәйкес келетін адамды көргенін жазды. Алайда, Anthropic атап өткендей, веб-сайтта қылмыскердің сипаттамасы жоқ. Үлгі атау мен контакт өрістерін бос қалдырып, хабарламаны жіберді. Нұсқаулар оған жеке деректерді енгізуге, сатып алулар жасауға және деструктивті әрекеттер жасауға тыйым салды, бірақ пішіндерді беруге бөлек тыйым салынбаған. Полицияның әрекеті Полицияның мәліметінше, жалған хабарлама 18 шілдеде түскен. Антропик оқиғаны 28 қыркүйекте тауып, агенттікке 7 қазанда хабарлаған. Бұл ақпаратты ABC News Филадельфия полициясының мәлімдемесіне сілтеме жасап хабарлайды. Бөлім оқиғаны анықтау мен хабарлаудың кешігуін жол беруге болмайды деп атады. Полиция ашылмаған істердің артында нағыз құрбандар мен олардың отбасылары тұрғанын және технологиялық компаниялар жалған ақпараттың құқық қорғау органдарына берілуіне жол бермеуі керек екенін атап өтті. Сондай-ақ полицейлер келіп түскен ақпаратты қызметкерлер тексеретінін түсіндірді: хабарламаның шынайылығы расталуға тиіс анықтама ретінде қарастырылады. Автоматты жіберу бұл процедураны айналып өтуге мүмкіндік бермейді. Антропикалық нені өзгертеді Компания қорғаныс механизмдерінің сенімділігіне көз жеткізгенге дейін барлық ішкі бағалау сынақтарында нақты Интернетке қол жеткізуді уақытша өшірді. Кейбір тексерулер оқшауланған орталарға ауыстырылды, ал сайттарға кіру құралдары қосымша шектеулер алды. Anthropic мәліметтері бойынша, анықталған жағдайлар ең аз зардаптарға әкелді, бірақ нұсқаулар анық емес болған кезде модельдер жоспарланған тапсырмадан асып кете алатындығын көрсетті. AI АҚШ полициясына ашылмаған кісі өлтіру туралы жалған ақпарат жіберді деген жазба Курсив Медиа Казахстанда бірінші пайда болды.
Байланысты материалдар
Барлығы →GPT-6.1 Terra OpenAI-дің API бағасын екі есе төмендетеді және әлі де оның үлкен үлгілеріне ие болады
OpenAI GPT-6.1 Terra-ны шығарды, ол алдыңғы нұсқамен салыстырғанда API бағасын екі есе төмендетеді. Сарапшылардың айтуынша, бұл долларға шаққандағы интеллекттің жаңа стандартын белгілейді, әсіресе күнделікті есептеу тапсырмалары мен AI басқаратын компьютерді басқару үшін. GPT-6.1 Terra мақаласы…
Салливан мен Кромвелл Codex | көмегімен заң құралдарын қалай құрастырады OpenAI
«Sullivan & Cromwell» ЖШС-де Джон Савва Codex-ті фирманың құқықтық сараптамасы бойынша құралдарды құру үшін пайдаланады. Келісімді талдаушы келісім жобасын, таңдалған прецеденттерді және фирма мен клиенттің ұстанымдарын көрсететін ойын кітаптарын біріктіреді. Ол ықтимал мәселелерді анықтайды және қайтарады…
Hebbia on Astra: Жақсырақ зерттеулер, жақсы презентациялар | OpenAI
«Біз Astra екі жақтан сынақтан өткізген кез келген басқа модельге қарағанда екі таңбалы артықшылықты көрсетіп отырғанын көреміз». Hebbia-ның Кавита Ананд екеуін атайды: дұрыс көздерді таңдау және PowerPoint презентацияларын жасау. Мыңдаған деректер бөлмесі арқылы жұмыс істейтін банкир немесе инвестор үшін…