Вы дали ИИ-агенту доступ к документам компании. Осталось разобраться, чьи инструкции он выполняет 😏
Вы дали ИИ-агенту доступ к документам компании. Осталось разобраться, чьи инструкции он выполняет 😏 В сообщении пользователя или документе, который читает модель, могут оказаться вредоносные инструкции. Через них атакующий пытается заставить агента обойти ограничения, выдать…