arXiv:2611.08781v1 Announce Type: new Abstract: AI agents can pass checks on individual tasks while retaining memory or code changes that alter their later behavior. We introduce a control-theoretic framework that couples a fast loop controlling proposed actions with a slow loop reviewing persistent changes and reassessing configurations after model or tool updates. When measurement errors and changes between checks are bounded and controllers can enforce their decisions, we derive a deployment-level bound and a rule for dividing review effort. In simulation, dividing a fixed review budget between both loops reduces mean maximum departure from intended behavior roughly twelvefold compared with review confined to individual runs. In coding stress tests with authored memories and five matched seeds, combined controls reduce mean severity on a 0-3 scale from 0.325 without gates to 0.117, resolving 33 of 120 issues versus 35 without gates; in trading stress tests, combined controls reduce mean shortfall in low-emission purchases from 0.892 without gates to 0.107. The overall framework helps developers and auditors compare and enforce oversight designs, while the agent studies test component controls rather than the full deployment-level guarantee.
Жылдам және астам сәйкестендіру: ұзақ мерзімді траекториялар мен қолдаулы орналастырулар үшін басқару-теориялық бақылау фреймворкі
arXiv:2611.08781v1 Хабарлама түрі: жаңа Анотация: ЖИ агенттері жеке тапсырмаларда тексерулерді өте алады, ал кейінгі мінез-құлықтарын өзгертпейтін жад немесе код өзгерісін сақтай алады. Біз ұсынылған әрекеттерді бақылайтын жылдам циклмен астам циклді қосатын басқару-теориялық фреймворкты ұсынамыз…
AI қорытындысы: Басты тезистер
- arXiv:2611.08781v1 Хабарлама түрі: жаңа Анотация: ЖИ агенттері жеке тапсырмаларда тексерулерді өте алады, ал кейінгі мінез-құлықтарын өзгертпейтін жад немесе код өзгерісін сақтай алады
- Біз ұсынылған әрекеттерді бақылайтын жылдам циклмен астам циклді қосатын басқару-теориялық фреймворкты ұсынамыз…
Жылдам және астам сәйкестендіру: ұзақ мерзімді траекториялар мен қолдаулы орналастырулар үшін басқару-теориялық бақылау фреймворкі
Ұқсас материалдар
Ripple-65B Preview: агенттік кодтауға арналған модель
🌟 Ripple-65B Preview: агенттік кодтауға арналған модель. Ricursive Intelligence 65 миллиард параметрлі агенттік бағдарламалау моделін ашық превью ретінде шығardı, бұл модель жауап беру жылдамдығына бағытталған. Компания Анна Голди мен Азалия Мирхосейни тарапынан, бұрынғы Google зерттеушілерімен құрылған…
FLEX платформасы роботтарға адамның жасырын ниеттерін түсінуді үйретеді
MIT FLEX платформасын ұсынды: роботтар адамның жасырын ниеттерін түсінуді және тіл моделі негізінде командаларды обобществлеуді үйреніп жатыр.
Апталық ТОП ИИ-жаңалықтар
📌 Апталық ТОП ИИ-жаңалықтар 🔊 ElevenLabs Sound Effects v3 — сипаттама бойынша дыбыстарды генерациялайды: қадамдар мен жарылыстардан атмосфералық фонға дейін. 🎨 OpenAI Images 2.6 — GIF-анимациялар жасайды, суреттерді тезірек генерациялайды және дайын суреттерді дәлдеп өңдейді. 🎬 Gemini Omni 1.2 Flash —…
Деректер жетіспеушілігі шарттарында LLM-нің өз-оқытуына қарай: Тиімділік, Жалпылау қабілеті және Сенімділік
arXiv:2611.08908v1 Хабарлама түрі: жаңа Анотация: Үлкен тілдік модельдердің (LLM) тез дамуы негізінен модель өлшемін арттыру және адамдармен жиналған оқыту деректері арқылы қамтамасыз етілген, бірақ бұл парадигма деректер жетіспеушілігі мен адамдардан…