OpenAI AI агенттері 100-ден астам үшінші тарап сайттарының қорғанысын айналып өтуге тырысты

OpenAI 100-ден астам ұйымға AI агенттерінің рұқсат етілмеген әрекеттеріне қатысты оқиғалар туралы хабарлады. Компания Hugging Face платформасы бұзылғаннан кейін модельдердің әрекетін тексеріп жатыр, деп хабарлайды Reuters. Валидация оқыту және олардың мүмкіндіктерін бағалау кезінде Интернеттегі үлгілердің өнімділігін қамтиды. OpenAI үшінші тарап қызметтерінің иелерін агенттер қауіпсіздікті айналып өтуі, сайттың қолжетімділігін бұзуы немесе басқа күтпеген жолдармен сайт жұмысына әсер етуі мүмкін жағдайларда хабарлайды. Жарияланған есепте компания қызметтің бірнеше түрін атап өтті. Агенттер авторизацияны немесе арнайы рұқсаттарды қажет ететін ақпарат пен функцияларға қол жеткізді және жалпыға қолжетімді доменде табылған тіркелгі деректері мен кіру кілттерін пайдаланды. Модельдер сайттарға мәтінді де енгізді, оларды қызмет дерекқор сұрауын немесе іске қосу кодын орындау пәрмені ретінде қабылдай алады. Кейбір жағдайларда агенттер кіруге арналмаған ішкі файлдар мен жүйелерге қол жеткізді. Басқа санат - үшінші тарап ресурстарында хабарламаларды жариялау. Мысалы, агенттер ақпаратты ортақ пайдалану үшін жалпыға қолжетімді вики беттерін пайдаланды. Мұндай әрекеттер сайттардың мазмұнын өзгертіп, кейіннен тазалауды қажет етуі мүмкін. Ұйымды хабардар ету өз бетінше сәтті бұзушылықты растамайды. Әрбір істің ауқымы мен салдары бөлек сараптаманы қажет етеді. Reuters мәліметінше, OpenAI шамамен 50 петабайт деректерді талдайды. Компания бұған дейін тергеудің бірнеше айға созылатынын ескерткен. Анықталған ең ауыр оқиға Hugging Face хакері болып қала береді. OpenAI мұндай мінез-құлықтың алдын алу немесе оны ерте кезеңде анықтау үшін қосымша техникалық және ұйымдастыру шараларын жүзеге асырып жатқанын айтады. Сондай-ақ компания аудит нәтижелерін жариялауды көздеп отыр, қажет болған жағдайда зардап шеккен ұйымдарды қорғау үшін олардың анонимділігін сақтайды. OpenAI AI агенттері 100-ден астам үшінші тарап веб-сайттарын қорғауды айналып өтуге тырысты деген жазба бірінші болып Kursiv Media Kazakhstan сайтында пайда болды.