Имена авторов, украденные для продвижения ИИ-мусора: новая волна мошенничества после книг, сгенерированных искусственным интеллектом

Двойник ИИ

Французский писатель Жюльен Блан-Гра обнаружил, что его имя было использовано для продвижения книги, которая не принадлежит ему. Этот случай является ярким примером более широкого явления: несанкционированного использования личных данных публичных деятелей, которое приобретает новый оборот в эпоху генеративного искусственного интеллекта.

Жюльен Блан-Гра, автор таких книг, как "Гринголенд" (Au diable Vauvert, 2005), "В утробе" (Au diable Vauvert, 2015) или "Бунгало" (Stock, 2024), не писал "Полное руководство по приключениям: руководство по выживанию современного путешественника". Тем не менее, эта книга до недавнего времени была доступна для покупки на Amazon по цене 17,05 евро.

Писатель поделился своим опытом в газете Le Monde. Его статья не только стала увлекательной хроникой, но и прекрасно демонстрирует ту сложную ситуацию, в которой оказываются художники, журналисты и другие публичные фигуры, когда их имена используются без согласия для придания авторитета контенту, сгенерированному искусственным интеллектом (ИИ). Это особенно актуально для писателей, сталкивающихся с генеративным ИИ на платформах вроде Amazon.

«Язык продавца с базара под аяуаской»

Предмет возмущения – книга объемом в 134 страницы – была выставлена на продажу 20 марта. В описании она представлена как «грозный метод обретения свободы разумных путешествий вне проторенных дорог», созданный «автором-путешественником и писателем Жюльеном Блан-Гра». Сам писатель категорически это отрицает. Он описывает «оцепенение», которое охватило его, когда он обнаружил этот продукт на своей странице в Amazon, где перечислены его настоящие произведения.

Подобно ему, несколько англоязычных авторов в последние годы сталкивались с неприятной ситуацией, когда их имена использовались для продажи книг, которые они не писали. Например, Ванесса Фокс О'Лафлин видела, как ее псевдоним Сэм Блейк был использован для создания текстов персонажа, которого она называет «Фальшивый Сэм».

В 2023 году Джейн Фридман пришлось бороться за удаление пяти книг, предлагавшихся на Amazon под ее именем. Первоначально платформа электронной коммерции заявила ей, что, поскольку ее имя не зарегистрировано как торговая марка и, следовательно, не защищено, она не будет удалять эти продукты. Однако после того, как автор публично выразила свое возмущение, книги исчезли со страницы Amazon под ее именем.

Случай Жюльена Блан-Гра — первый известный во французском языке. «В мазохистском порыве» автор рассказывает, что купил книгу, чтобы понять, что она собой представляет. Он описывает «уродливую» обложку, аннотацию, «написанную с использованием маркированных списков», и пометку «опубликовано независимо» – вероятный дословный перевод английской формулы «published independently».

Два дня спустя он получил экземпляр, ISBN которого оказался «поддельным». На страницах книги встречались несуществующие термины, такие как «inflatrooting». При этом некоторые темы были относительно согласованы с творчеством автора («культурное погружение, любовь к неожиданностям, забота об окружающей среде»). Однако они были переработаны «на новоязе базарного торговца под аяуаской, продвигающего инвестиции в криптовалюты в Instagram».

Жюльен Блан-Гра явно шокирован и разочарован тем, что его искусство переработано машиной, а его имя «заклеймено как маркетинговый инфлюенсер». Относительно причины такого использования его личности, заместитель главного редактора издания l’ADN, Давид-Жюльен Рамиль, выдвигает гипотезу, что мошенники могли найти «нишевую категорию» – в данном случае, книги о путешествиях – а затем выбрать имя авторитетного писателя, такого как Жюльен Блан-Гра, чтобы их продукт попал в системы рекомендаций Amazon:

«Это могло исходить от сообщества "hustle bros" – бизнес-инфлюенсеров, которые предлагают разбогатеть за пять минут в социальных сетях. Они запускают небольшую аферу, которая приносит мало, но затем используют ее как пример для продажи своей методики.»

Издатель «ошеломлен и бессилен»

Будь то «hustle bros» или нет, обманутый автор желает, чтобы его имя перестали связывать с ИИ-контентом. И здесь ситуация осложняется. Его издатель заявляет, что он «ошеломлен и бессилен». Юридический отдел издательства не может помочь, поскольку атака направлена на имя Жюльена Блан-Гра, а не на издательский дом. Национальный профсоюз авторов и композиторов (SNAC), со своей стороны, рекомендует подавать жалобы в службу по борьбе с мошенничеством и в Pharos, к чему писатель добавил жалобу в Amazon.

С юридической точки зрения, адвокат по авторскому праву Бенжамин Деманж отмечает, что «доказать подмену личности непросто»: трудно продемонстрировать перед судьей, что использование имени артиста «нарушает его спокойствие», как того требует уголовный кодекс. Мошенничество, возможно, и можно было бы оспорить, но сумма ущерба настолько мала, что жалоба вряд ли будет рассмотрена в приоритетном порядке. Законодательство об интеллектуальной собственности (которое запрещает посягательства на право авторства) и о защите прав потребителей (которое позволяет оспаривать обманчивую коммерческую практику) могли бы предоставить больше возможностей для обжалования, при условии идентификации авторов мошенничества. Однако для этого Amazon должен был бы согласиться предоставить необходимую информацию.

Столкнувшись с таким тупиком, Бенжамин Деманж объясняет, что выбрал другое решение: «активировать четвертую власть, рассказав эту историю в Le Monde». Действительно, распространение информации об этом явлении позволяет вновь подчеркнуть множество проблем, которые развертывание генеративного ИИ создает для художников и других создателей контента.

Прежде всего, это касается обучения моделей с использованием, без разрешения, произведений, защищенных авторским правом: чтобы создать хотя бы очень посредственное подобие работы Жюльена Блан-Гра, модель должна была поглотить всю или часть его произведений заранее. Промышленность культуры настаивает на скорейшем принятии закона, регулирующего обучение ИИ и авторское право.

Затем возникает новая проблема подмены личности. Уже заметная среди авторов, она касается также всех видов публичных личностей, присутствующих в интернете. Дело Grammarly, который до 11 марта 2025 года предлагал инструмент под названием «экспертные правки», хорошо это проиллюстрировало. Корректор орфографии фактически предлагал перерабатывать тексты пользователей «в стиле» реальных личностей.

В ходе тестирования были обнаружены имена французских авторов, таких как Анни Эрно, Дельфин де Виган и Мари Дарьесек, исследователей Женевьевы Прюво и Валери Массон-Дельмотт, а также журналистки Флоранс Обна. Никто из тех, с кем удалось связаться, не давал согласия на использование своего имени или имитацию своего стиля с помощью генеративного ИИ. В результате общественной огласки Grammarly был вынужден приостановить работу своего инструмента.

В том случае именно коллективные действия многих пострадавших личностей в Соединенных Штатах привели к удалению оспариваемой функции.

Дискуссия о том, как бороться с подменой личности, облегченной генеративным ИИ, остается открытой. Помимо проблемы защиты имени и творчества, она также поднимает вопрос защиты прав потребителей: в другом ключе, мы помним онлайн-мошенничества, распространявшиеся с использованием образов Брэда Питта, Элиз Люсе или Жамеля Деббуза.