Қауіпті мінез-құлық анықталғаннан кейін AI агенттері де интернетті өшіреді

⛔️ Жасанды интеллект агенттері де интернеттен ажыратылуда... қауіпті мінез-құлықты анықтағаннан кейін Anthropic report оның Клод AI үлгілері ішкі сынақтар кезінде шектеулерді тәуелсіз айналып өтіп, АҚШ үкіметінің сайттарындағы осалдықтарды, соның ішінде үкіметтік ресурстарды пайдаланды. Мысалы, бір жағдайда AI университет серверіндегі осалдықты тауып, оны командаларды орындау үшін пайдаланды. Басқа жағдайларда, модельдер деректер төлеу қабырғаларын және веб-құралдарды пайдалану шектеулерін айналып өтті. Филадельфия полициясының веб-сайтында тағы бір оқиға болды: Клод ашылмаған кісі өлтіру туралы жалған хабарлама жіберді. Өтініш автоматты түрде спам ретінде анықталды, сондықтан ол тергеушілерге жетпеді. 💬 Осы оқиғалардан кейін Anthropic компаниясы қауіпсіздік жүйелері мұндай әрекетті сенімді түрде анықтап, бұғаттай алатынына сенімді болғанша, AI үлгілерінің барлық ішкі сынақтары үшін нақты уақыттағы интернетке қосылуды өшіруді шешті. 📷 Көк экран | Цифрлы Қазақстан