Microsoft бастығы ИИ-ні тоқтату үшін «аварийлық батырма» жасауды ұсынды

🔴 Microsoft басшысы AI-ны тоқтату үшін «төтенше жағдай түймешігін» құруды ұсынды. Microsoft корпорациясының бас директоры Сатья Наделла жасанды интеллекттің жетілдірілген жүйелерінде апатты тоқтату механизмі болуы керек деп санайды. Уәкілетті тұлға тапсырманы орындау кезінде де AI-ны кідіртуге немесе толығымен өшіруге қабілетті болуы керек. [X]() басылымында Наделла AI қауіпсіздігіне деген көзқарасты қайта қарауды ұсынды. Оның пікірінше, әзірлеушілер бастапқыда модельге қауіп төнуі мүмкін деп болжап, оған қарамастан қорғау механизмдерін жасауы керек. 🌐 Ол бірнеше қағидаттарды атап өтті: • AI моделін оның әрекеттерін басқаратын жүйеден ажыратыңыз. • Қауіпсіздік механизмдерін үлгінің сыртына қойыңыз. • Маңызды AI әрекеттерін бұрмалауға қарсы, адам оқи алатын журналдарға түсіріңіз. • Модельді кез келген уақытта тоқтату мүмкіндігін қамтамасыз етіңіз. Наделла бұл тәсілді апаттық тежегішпен салыстырды. Оның пікірінше, АИ автономдылығы артқан сайын, оның жауаптары мен шешімдеріне жай ғана сену жеткіліксіз - жүйенің әрекеттерін бақылауды сақтау қажет. 📷 Көк экран | Цифрлы Қазақстан