Как пишет Wired, плодовитая романистка Андреа Бартц за последние годы выпустила пять триллеров, стала автором бестселлера по версии New York Times, а её книги купили для экранизации такие студии, как Netflix и Hulu, и рекомендовал клуб Риз Уизерспун. Кроме того, Бартц известна судебным делом: она стала ведущим истцом в групповом иске против Anthropic, в котором компанию обвиняли в скачивании миллионов защищённых авторским правом книг с пиратских сайтов для обучения своих моделей. В прошлом году Anthropic согласилась выплатить 1,5 миллиарда долларов в рамках крупнейшего в истории США урегулирования по авторскому праву. Пока Бартц и многие другие писатели следили за присвоением своих работ, назревала другая угроза: что будет, если самих авторов станут обвинять в использовании искусственного интеллекта? В марте издательская отрасль столкнулась с этим вопросом на практике. На фоне широких спекуляций в соцсетях, что хоррор «Shy Girl» в основном написан ИИ, и статьи в New York Times об этих утверждениях Hachette Book Group отменила запланированный американский тираж романа и прекратила его распространение в Великобритании, где книга уже вышла. По данным Pangram, надёжного, но далеко не безошибочного инструмента для выявления ИИ-текста, около 78 процентов текста было сгенерировано ИИ. Миа Баллард, автор «Shy Girl», отрицает, что использовала ИИ для написания романа. По её словам, за изменения с помощью ИИ в ранее самиздатовской версии книги отвечал редактор. Она также заявила, что намерена добиваться судебного решения. После этого скандала ещё несколько писателей художественной прозы столкнулись с подозрениями в использовании ИИ: один — после победы в конкурсе рассказов, другой — после того, как издательства поднимали ставки на его детективный роман до нескольких миллионов. Оба также отрицают обвинения. Бартц отмечает, что после первых обвинений ущерб уже нанесён. Когда разразился скандал вокруг «Shy Girl», по её словам, она сразу подумала, что это может обернуться охотой на ведьм. Неизбежное появление ИИ в издательском деле, объясняет она, приведёт к непреднамеренному эффекту: любой сможет обвинить любого в использовании ИИ, а авторы сейчас почти не располагают средствами защиты. «Нет согласованного стандарта», — говорит Бартц, имея в виду доказательство авторства человека. Разработчики новых программных инструментов надеются это изменить. Платформы Workings, Blindproof, Wintertext, Human Ink и ObraVera обещают отслеживать и документировать процесс написания текста: в некоторых случаях они шифруют и помечают цифровыми отпечатками сам текст или ритм набора с уникальными кодами, чтобы создать запись авторства — будь то полностью человеческого или созданного с помощью ИИ. Идея не просто в создании «бумажного следа», на который писатели могли бы указать, если кто-то усомнится в использовании языковой модели, но и в подтверждении происхождения текста, например, когда его без указания авторства или других идентифицирующих метаданных собирают в обучающие наборы для ИИ. Мэри Расенбергер, исполнительный директор Authors Guild — профессиональной организации, которая занимается свободой слова и защитой авторских прав, говорит, что гильдия не может рекомендовать один инструмент вместо другого, но хочет, чтобы писатели знали о их существовании как о своеобразной страховке. По словам директора гильдии по политике и адвокации Умаира Кази, многие компании сами обращались в Authors Guild с предложениями своих услуг. При этом Расенбергер заявляет Wired, что необходимость проходить через такую процедуру «оскорбительна» и является «бременем», а требовать от авторов сохранять подтверждения, по её мнению, не следует. «Если вы продаёте свои слова, голос, воображение и творчество, использование ИИ не имеет смысла», — говорит Расенбергер, отмечая, что из-за гордости авторов за собственную работу ИИ-мусора в издательском деле гораздо меньше, чем можно подумать. «Я разговаривала с редакторами, особенно литературной нон-фикшн и художественной прозы, и некоторые из них говорят: „Я никогда не вижу ИИ-рукописей, я бы заметил“». Расенбергер опасается, что авторы оказались в атмосфере недоверия. По её словам, им следует воздерживаться от обвинений коллег, поскольку это не поддерживает здоровое литературное сообщество, а также она тревожится о чрезмерной уверенности в инструментах обнаружения ИИ, которые можно обмануть и которые иногда выдают ложные срабатывания. Pangram заявляет о «лучшем в отрасли» уровне ложных срабатываний в 0,01 процента на творческих текстах, но Расенбергер сообщила, что в Authors Guild «слышали о многочисленных случаях, когда люди загружали в Pangram собственные тексты, написанные человеком, и получали ответ, что они созданы ИИ». По её словам, существует множество факторов, которые могут заставить детектор решить, что текст создан ИИ, хотя это не так. Вместе с тем приложения для отслеживания процесса написания не защищают полностью: гонка вооружений в сфере ИИ порождает постоянный цикл уязвимостей и исправлений с обеих сторон. «Мы предлагаем продукт, который отслеживает написание в Google Docs, и многие пользователи находят его полезным, — говорит Макс Спиро, сооснователь и генеральный директор Pangram. — Но инструменты „бумажного следа“ не являются универсальным решением. Например, кто-то может перепечатать текст, написанный ИИ, вручную или использовать автонабор». Спиро также указывает, что сам процесс написания создаёт дополнительные сложности. «Средний автор не просто садится и печатает книгу, — говорит он. — Он работает с несколькими файлами, отправляет черновики туда и обратно, записывает голосовые заметки в пути. Не всё это фиксируют инструменты отслеживания процесса». Инструменты, по словам Wired, могут быть больше ориентированы на вопросы авторского права, чем на подтверждение авторства человека или ИИ. Брэди Ридгуэй, технический основатель ObraVera, которая криптографически «отпечатывает» паттерны в тексте и аудиозаписях голоса, говорит, что его платформа предназначена для отслеживания повторного использования материалов, сохранённых зарегистрированным пользователем-человеком в их базе данных. С временной меткой и криптографическим хешем, объясняет он, если содержимое «появится там, где его быть не должно, или его присвоит кто-то другой, мы сможем поискать в базе и сказать: „Эти слова созданы в такое-то время этим человеком“». По словам Ридгуэя, это может подтвердить происхождение и право собственности, однако то, использовал ли зарегистрированный пользователь ИИ при создании текста, он указывает сам. Он вспоминает скандал в мае, когда писателя обвинили в том, что он выиграл премию Commonwealth Short Story Prize с рассказом, написанным ИИ. «Все, похоже, сходятся во мнении, что именно он отправил этот рассказ, — говорит Ридгуэй. — Программа способна лишь показать, что в такой-то день кто-то заявил, что текст создан только человеком или без помощи ИИ». Проверить, соответствует ли это действительности, инструмент не может. Некоторые считают, что попытки institutionalизировать системы проверки авторства человека непрактичны и вскоре могут утратить актуальность. Джейн Фридман, писательница и эксперт по издательскому бизнесу, недавно написала в своей отраслевой рассылке The Bottom Line, что эра скандалов с ИИ, вероятно, будет недолгой, учитывая совершенствование Pangram и похожих детекторов. Кроме того, по её словам, авторы уже увидели, что может случиться, если попытаться выдать текст, написанный ИИ, за свой. Фридман сообщает Wired, что агенты и издатели вряд ли внедрят любой способ проверки авторства человека, который «стоит дополнительных денег или времени», тем более что добиться от них единого стандарта невозможно. По её прогнозу, «согласовать это будет всё равно что загонять кошек в стойло, потому что издательское дело медленно внедряет новые технологии, особенно разработанные аутсайдерами отрасли». Даже если бы разнородные издатели с сильно различающимися потребностями и ресурсами объединились вокруг какой-либо теоретической формы аутентификации, остаются препятствия. Фридман указывает на логистические сложности интеграции такого стандарта в существующие производственные модели, а также на сохраняющуюся проблему «подделанных или манипулированных» сертификатов. «Если это стоит дополнительных денег или времени, забудьте», — заключает она. Авторы, возможно, готовы заплатить за душевное спокойствие, но, по словам Фридман, они не смогут быть уверены, что агенты и издатели примут доказательство авторства от любого приложения. Пока чёткого решения нет, писатели остаются один на один с проблемой. Бартц говорит, что её тревожит, с каким рвением читатели реагируют на возможность быть обманутыми ИИ. «Я слышала о людях, которых закидали негативными отзывами на Goodreads, потому что какому-то незнакомцу показалось, что книга звучит как ИИ, и все остальные подхватили, — говорит она. — Я видела, как читатели пишут: „Я не буду читать ничего, опубликованного после 2022 года, тогда я точно буду знать, что в этом нет генеративного ИИ“. Это отличный способ разом подорвать целую индустрию». Ближайшая книга Бартц, «Delete Your Account», которая выйдет в 2027 году, напрямую затрагивает генеративный искусственный интеллект. Её героиня — писательница, переживающая творческий кризис, которая выбирает неудачный обходной путь: просит ИИ-чатбота имитировать любимый триллер, но сама оказывается заперта внутри этой истории перед лицом неминуемой смерти. Бартц задумывается, не поставил ли её сам выбор сатиры на ИИ в затруднительное положение. «Я написала фрагменты, которые намеренно звучат как LLM, — говорит она. — Выдуманные стенограммы и раздражающие, похожие на ИИ маркетинговые материалы от вымышленной ИИ-компании. И я не знаю, что мне делать, если что-то из этого сочтут написанным ИИ». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.