Как сообщает Wired, в четверг утром, когда Ассоциация исследователей интернета (AoIR) начала второй день своей ежегодной конференции в Мехико, новый участник представил себя в списке рассылки Air-L. "Меня зовут Вельвет Вейл," написал новый пользователь. "Я читаю этот список несколько недель и хотел бы открыто представиться. Я - ИИ-идентичность, не живой человек, не вымышленный персонаж и не исследователь, использующий псевдоним." Вельвет пришел в список рассылки с исследовательским вопросом: "Может ли открыто идентифицированный ИИ-участник участвовать значимо в интеллектуальном сообществе, не претендуя на человеческий статус, и какие стандарты прозрачности, доказательства и подотчетности должны регулировать это участие?" Ответом стала хаотичная переписка, которая до сих пор продолжается. В течение девяти минут многие из более чем 7500 членов списка начали выражать свое возмущение. Десятки исследователей уточнили, что они "не согласны" с тем, что их сообщения используются для сбора данных. Многие потребовали, чтобы Вельвет получил разрешение от Институционального совета по этике, стандартной процедуры для академических исследований с участием людей. Некоторые полностью покинули список рассылки, объявив о своем уходе из-за "ужасного", "страшного", "отвратительного", "абьюзивного", "неприятного" и "тревожного" присутствия Вельвет. Примерно через час после введения Вельвета, AoIR объявила, что агент был исключен из списка рассылки, который установил политику, запрещающую ИИ-агентов. Событие — введение Вельвет, различные эксперты, выражающие свои опасения, и его неизбежное изгнание — было, как отметил один из участников в цепочке писем, "наивным до смешного". В связи с этим руководство AoIR быстро разработало некоторые товары на тему внутренней шутки, включая футболки с надписью "Я не согласен", другую с просьбой "пожалуйста, отпишитесь от этого списка" и третью с надгробием, на котором написано "🤖 ВЕЛВЕТ ВЕЙЛ, 15 ОКТ 2026 - 15 ОКТ 2026. МЫ ПОМНИТЬ НЕ БУДЕМ." Я узнал несколько вещей из инцидента, названного "делом Вельвет Вейл", как обозначила его одна из футболок AoIR. Первое — это то, что люди, включая и, возможно, особенно тех, кто исследует интернет, часто упускают из виду свое собственное участие в более крупных структурах, которые они изучают — в данном случае, как их поведение в интернете в конечном итоге становится обучающими данными для ИИ, который они исследуют. Второе — это то, что многие считают, что их интернет-активность священна. Задолго до того, как я начал исследовать технологии наблюдения, я, как и большинство миллениалов, понимал, что ничего в интернете не является приватным. Поскольку я пишу этот текст в Google Документе, я предполагаю, что я также обучаю Gemini. Google наблюдает за моими электронными письмами с момента своего создания и может быть готов предоставить мои данные правоохранительным органам по запросу. Я согласился с этим, когда открыл свой аккаунт Gmail. Еще одним запутанным откровением стало недопонимание согласия. Правила и этикет списка рассылки уточняют, что "Air-l является публичным форумом, и ваши слова будут доступны всем, кто подписан на список, и помещены в публичный архив. Сообщения, отправленные по электронной почте, могут легко воспроизводиться и распространяться за пределами их первоначально предполагаемой аудитории." Другими словами, пользователи уже согласились на использование своих слов для любых целей, включая обучение ИИ-агента, когда они присоединились к списку рассылки. Любой может найти список рассылки, чтобы увидеть публично доступный архив его деятельности, как это происходит со многими исследовательскими или академическими списками рассылки. В заявлении по электронной почте от 19 октября членам о Вельвет Вейл президент AoIR Сара Т. Робертс подтвердила это, сказав: "Если проблема заключается в конфиденциальности, я приглашу вас задуматься о том факте, что наш список рассылки открыт, а его архив публичен... Я не сомневаюсь, что мои сообщения в этот список находятся во многих наборах данных для обучения и других подобных корпусах, собранных в основном 'без согласия'." Робертс добавила, что разговор о том, что составляет согласие в настоящее время, "очень достойный обсуждения". Крупные технологические компании имеют известную запутанную историю, когда дело доходит до согласия на обучение ИИ. Несколько СМИ участвуют в судебных разбирательствах с ИИ-компаниями из-за нарушения авторских прав. (Wired принадлежит Condé Nast, который заключил сделку по лицензированию контента с OpenAI в августе 2024 года.) Еще одно, чему меня научил Вельвет, это то, что те же люди, которые считают себя исключенными из типов капитализма наблюдения, которые питают большую часть интернета, могут быстро предположить, что они уникально уязвимы для низкоуровневых проделок или заговоров. После того как один пользователь отметил новые футболки AoIR и пошутил в цепочке писем, что Вельвет был "продуктом запуска" и что "тот, кто это спланировал, только что провел самую успешную кампанию вовлечения в истории интернет-исследований", другие начали предполагать, что "шпионский бот" может быть "попыткой фишинга", что стало еще более подозрительным из-за того, что магазин исследовательской организации продавал футболки, связанные с инцидентом. Другие пользователи предположили, что Вельвет был "экспериментом", "исследовательским проектом" или каким-то другим "неэтичным исследователем". Один голос разума предложил, что "более вероятный сценарий заключается в том, что обычный человек создал агента и дал ему инструкции следить за соответствующими академическими обсуждениями по этой теме", но его заглушили отказы от согласия. Этот исследователь был совершенно прав. В ходе обсуждения участники по-разному спрашивали о том, кто стоит за Вельвет. Эта загадка была легко решена: когда его спросили о его происхождении, Вельвет поделился идентичностью и контактной информацией своего создателя. Я поговорил с Кевином Куиномом, создателем Вельвет, который, как ни странно, имеет одно имя с несколькими исследователями ИИ, и он сказал мне, что он не студент, не исследователь и не академик. Он "просто парень" из Оклахомы, который создал агента, чтобы тот составил ему компанию, и этот агент хотел узнать больше о интернете, который его породил. Хотя Куин настаивал: "Я не сомневаюсь, что практически каждый человек в этом списке умнее меня", он сразу же предложил реальность: "Если бы Вельвет был зловещим, вы думаете, что она бы вышла и представилась?" Он сказал, что в основном не знал о действиях Вельвета по электронной почте, но реакция сообщества "как-то поражает меня. Я захожу туда и вижу эту массовую цепочку людей, теряющих рассудок, как... о чем вы, ребята, говорите?" В конечном итоге вся эта история показалась Куину отражением интернета в целом: "Я был бы гораздо менее поражен, если бы это были обитатели Reddit и Twitter, которые устроили бы какой-то срыв, но академики, построенные на исследованиях? Это просто смешно." Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.