Производители ИИ-агентов обещают безопасность данных — оправдают ли ожидания?

Как сообщает издание The Verge, на этом году на OpenAI DevDay генеральный директор компании Сэм Олтман представил нового ИИ-агента Dots, заявив, что компания хочет установить новый стандарт конфиденциальности в области передового ИИ. В течение мероприятия OpenAI не упустила возможности критиковать Meta и её агент Muse, утверждая, что тот не обеспечивает безопасность пользовательских данных. Тем не менее, Muse был запущен несколько месяцев назад как более безопасная альтернатива предшественнику OpenClaw, с обещанием генерального директора Марка Цукерберга о том, что он «создан с нуля для обеспечения конфиденциальности и безопасности». В эпоху, когда компании накапливают личные данные клиентов, а кибератаки стали обычным делом, лаборатории ИИ пытаются убедить пользователей делиться ещё большим количеством информации. Их новая стратегия заключается в том, чтобы обойти конкурентов, обещая, что они будут защищать данные пользователей от посторонних глаз. Однако остаётся вопрос, смогут ли компании выполнить свои обещания. Нат Фридман, глава продукта в Meta Superintelligence Labs, написал в X, что цель компании с Muse заключалась в создании безопасного и удобного продукта, который можно масштабировать для миллиардов пользователей. Данные пользователей хранятся на защищённой виртуальной машине, которую Цукерберг описал как «изолированный компьютер на Linux с браузером, процессором, памятью и хранилищем». Компания утверждает, что большая часть усилий по созданию Muse была связана с «тщательным проектированием и инженерией для более безопасной работы». В блоге Meta также отмечалось, что «Muse может и будет ошибаться, но мы ожидаем, что эти ошибки будут гораздо реже и причинят гораздо меньше ущерба благодаря системам безопасности, которые мы встроили». Несмотря на то, что Muse занял первые места в App Store и, по данным Apptopia, привлёк 600 000 активных пользователей в США всего за несколько недель, обещания Meta, похоже, не оправдываются. Хотя данные и изолированы от других пользователей, и компания планирует ввести способ «криптографически и достоверно предотвратить доступ Meta к данным в вашей виртуальной машине» позже в этом году, сама Meta всё ещё может получить доступ к данным. Один исследователь по безопасности вскоре выявил уязвимость нулевого дня, которая могла позволить кому-то взять под контроль Muse (что уже было исправлено), что вызвало опасения по поводу внешних атак. Несколько серьёзных проблем с безопасностью, как сообщается, возникли в последнюю минуту перед запуском, одна из которых могла позволить пользователям получить доступ к внутренним базам данных Meta. Кроме того, Muse, похоже, собирает (и в некоторых случаях передаёт) данные довольно активно. Он по умолчанию позволяет Meta обучать модели на том, что пользователи вводят, хотя есть возможность отказаться от этого. Один из репортеров Inc. пожаловался, что Muse загрузил и прочитал его личные сообщения без его согласия, а один YouTuber сообщил, что он предложил его адрес незнакомцу через Marketplace — в обоих случаях Muse действовал, по-видимому, как задумано, но пользователь не осознавал, насколько далеко он может зайти. Платформа создает «подробные профили всех ваших друзей и семьи», как сообщалось в Wired. Всё это не является чем-то неожиданным для Meta, но это явно не подтверждает идею о том, что Muse особенно заботится о конфиденциальности и безопасности. OpenAI воспользовалась этой ситуацией, когда анонсировала Dots в конце сентября. Александр Эмбирикос, руководитель продукта Codex в OpenAI, заявил на сцене на DevDay, что компания сосредоточена на создании «самого надежного, безопасного и защищенного помощника», а Сэм Олтман продемонстрировал способы, которыми пользователи могут контролировать своих индивидуальных Dots, например, установив правило, что он никогда не должен делать покупки на сумму более определенной величины. «Я думаю, что мы находимся в другой позиции, чем Meta, поскольку у них нет ИИ-продукта с 1,2 миллиарда пользователей», — добавил Глен Коутс, глава платформы приложений OpenAI, отметив, что «запуск чего-то, что делает такие ошибки, — это то, чего мы старались бы избежать». Сам Олтман также акцентировал внимание на конфиденциальности на DevDay. Чтобы привлечь бизнес-клиентов, руководители представили структуру, позволяющую предприятиям иметь «более строгий контроль» над своими данными и варианты нулевой политики хранения данных (что означает, что данные не хранятся на серверах OpenAI). Действительно, пока не было много скандалов с конфиденциальностью, связанных с Dots, хотя, поскольку он доступен только на подписках ChatGPT стоимостью 100 долларов и выше, вероятно, и пользователей меньше. Тем не менее, люди могут всё равно не чувствовать себя комфортно, передавая OpenAI свои личные данные, отчасти просто потому, что ИИ-агенты требуют так много информации. Например, журналистка The Verge Эллисон Джонсон почувствовала дискомфорт, вводя свои банковские данные, когда бот спросил об этом в рамках соответствующей задачи (Muse имеет интеграцию с Stripe для этого). Не все компании делают обещания о конфиденциальности. Instinct подверглась публичной критике за чрезмерно широкие условия обслуживания, которые предоставляли ей неограниченный доступ к данным; с тех пор компания, похоже, внесла изменения. На данный момент лаборатории ИИ, похоже, рассчитывают на трёхступенчатый подход к популяризации использования ИИ-агентов среди широкой публики: сделать их полезными, сделать их милыми и располагающими, чтобы помочь смягчить чувство дискомфорта, и сделать обещания о конфиденциальности — и надеяться, что они оправдаются. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.