TechCrunch рассказывает, что проблема предоставления всем сотрудникам компании доступа к инструментам искусственного интеллекта заключается в том, что люди используют их неожиданными способами. Это вызывает опасения, что компании могут столкнуться с новыми уязвимостями в своих системах. Генеральный директор и соучредитель Pluto Security Шахар Бахат отмечает, что новый инструмент ИИ может появиться в корпоративной среде всего за два часа после его выпуска. Около 60% рисков, которые ее компания обнаруживает среди клиентов, связаны с инструментами, созданными неразработчиками, причем финансовые отделы являются крупнейшим источником таких рисков, за ними следуют маркетинговые и юридические команды. Разработчики занимают четвертое место по количеству создаваемых рисков. Стартап Pluto, только что вышедший из режима скрытого существования с финансированием в $42 миллиона, стал одним из новых стартапов в области безопасности, которые быстро появляются, чтобы помочь компаниям справиться с этими опасениями. Все они привлекают значительные инвестиции от инвесторов, основываясь на убеждении, что использование существующего программного обеспечения для мониторинга и контроля инструментов ИИ — это неэффективный подход. Бахат сообщает, что их стартап начал продажи только в апреле и уже нашел клиентов для своей технологии, которая помогает компаниям получить контекст, анализ рисков, видимость и контроль над тем, как их сотрудники используют инструменты ИИ. Она добавила, что Pluto начала продажи в апреле и уже преодолела отметку в $2 миллиона годового регулярного дохода, имея более 30 корпоративных клиентов, включая Oscar Health, Workato, Sixt и AlphaSense. Финансирование Pluto включает раунд посевных инвестиций в $8,5 миллиона, возглавляемый TLV Partners, также инвестировавшими основателями компании Armis. Недавно компания привлекла $34 миллиона в рамках раунда серии A, который возглавил Jump Capital, при участии Skinos (венчурная компания соучредителя Check Point Шломо Крамера), Ansa Capital и других ангелов-инвесторов. Это неплохие показатели для молодого стартапа, хотя и не уникальные в эпоху ИИ. Однако это может быть связано с тем, что масштаб рисков не ограничивается крупными технологическими компаниями, которые возглавляют списки по внедрению ИИ. Когда я спросил Бахат, где она видит наибольшие риски, она отметила, что проблемы различаются в зависимости от мышления директора по информационной безопасности и готовности организации принимать ИИ, но риски все равно присутствуют. «В общем, могу сказать, что не было ни одного проекта, в который мы вошли, и где бы мы не нашли вредоносные вещи», — сказала она. «Некоторые из них имели активные атаки в то время, когда мы проводили проект.» Полностью полагаясь на то, что безопасность таких сред потребует от инструментов безопасности внимания к тому, что делают агенты ИИ в реальном времени, помимо отслеживания того, что и как сотрудники создают и развертывают. «Мы переходим от поведения пользователей к поведению агентов», — добавила Бахат. В соответствии с этой концепцией программное обеспечение стартапа мониторит инструменты ИИ, которые используют сотрудники, навыки, расширения, серверы MCP и другие компоненты, на которых зависят эти инструменты, а также приложения и агентов, которые создаются. Компания утверждает, что может выявить рискованные компоненты, обнаружить потенциально опасную активность агентов и обеспечить соблюдение политик безопасности, не останавливая сотрудников от использования или создания инструментов ИИ. Для этого Pluto подключается к системам безопасности конечных устройств и управления устройствами и может развернуть свои собственные датчики через них или непосредственно на устройствах. Она собирает информацию, включая подсказки, команды, запущенные процессы, разрешения и предыдущую активность пользователей, и использует свои «легковесные» модели на конечных устройствах, чтобы помочь оценить, что пытается сделать агент. Примечательно, что система Pluto может вмешиваться в процесс работы агента. Если, например, агент пытается получить разрешения, превышающие намерения пользователя, система может остановить действие или добавить инструкции в сессию, которые побуждают агента запросить подтверждение. «Мы можем вернуть контекст в сессию, и таким образом я могу изменить то, как работает агент», — объяснила Бахат. Стартап также использует необычный подход к поиску клиентов. В апреле он запустил Plutonium, бесплатную платформу, которая позволяет любому проверить риски, связанные с общедоступными навыками ИИ, соединителями и дополнениями. Также есть сканер MCP и каталог проверенных компонентов. Бахат утверждает, что тысячами специалистов по безопасности пользуются Plutonium, и что сообщество вокруг него стало важным источником обратной связи и потенциальных клиентов. Она добавила, что 70% воронки продаж Pluto теперь формируется за счет входящего интереса, хотя она не уточнила, сколько из этого приходит непосредственно через Plutonium. Компания планирует инвестировать новые средства в развитие своего продукта, расширение исследований в области безопасности и увеличение своего присутствия в США. В компании работает 40 сотрудников в США и Израиле. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.