Французская литература переживает один из тех скандалов, который оставляет неприятный осадок и одновременно заставляет столкнуться лицом к лицу с неудобной проблемой. Роман « C'était ça ou mourir » канадско-гаитянского писателя Телисона Орельена из феномена литературного возрождения превратился в объект неофициального расследования на тему того, был ли его текст написан с помощью искусственного интеллекта. Обвинение исходит не от суда или издателя, а от анонимного пользователя на X, который отправил фрагменты произведения на проверку с помощью специального инструмента.
Книга, также переведенная на испанский язык под названием Era eso, morir («Вот и все, умирать »), разошлась тиражом около 35 000 экземпляров за пять недель и считалась претендентом на крупные награды. Теперь вопрос уже не только в том, кто ее написал, но и в том, что именно означает авторство в индустрии, которая начинает сталкиваться с языковыми моделями, способными имитировать человеческий стиль. Издатели, агенты и литературные жюри внимательно следят за этим делом, поскольку оно предвещает аналогичные проблемы на других европейских рынках.
Во Франции возбуждено дело: от анонимных жалоб до литературных премий.
Скандал начался, когда аккаунт Balance ton Claude опубликовал несколько анализов текста на X, выполненных с помощью Pangram — программы, специализирующейся на выявлении закономерностей в текстах, сгенерированных искусственным интеллектом. Согласно этим результатам, некоторые отрывки романа были созданы машиной, и весь текст был «почти полностью» написан таким образом. Пост собрал миллионы просмотров и привлек внимание к книге, которая до этого момента пользовалась признанием критиков и высокими продажами.
Французские СМИ подхватили эту идею. Газета Le Monde проанализировала более половины романа с помощью Pangram и пришла к выводу, что более 95% текста могло быть сгенерировано искусственным интеллектом с высокой степенью достоверности. Этот вывод поразителен, поскольку Pangram считается одним из самых точных детекторов ИИ на рынке. Тем не менее, сама природа этих инструментов не позволяет говорить об окончательном доказательстве: они не подтверждают авторство, а лишь указывают на вероятность.
Публикация книги также объясняет масштаб скандала. За пять недель было продано около 35 000 экземпляров , книга вошла в шорт-лист престижных премий, таких как Гонкуровская премия, а также получила другие награды во Франции. Этот коммерческий и критический успех сделал подозрения в отношении ИИ гораздо более неприятной проблемой для отрасли.
В ответ на обвинения Телисон Орельен опроверг использование искусственного интеллекта при написании романа. Он объяснил, что первый черновик был закончен до того, как ChatGPT публично выступил с протестами, и что повторения, образы и ритмы в тексте отражают его собственный способ самовыражения, уходящий корнями в его гаитянское и карибское наследие. И он, и его издатели готовят документацию о творческом процессе, чтобы попытаться доказать, что работа принадлежит ему.
Инструменты обнаружения: улики, а не неопровержимые доказательства.
Этот случай привлек внимание к Pangram и детекторам ИИ в целом . Инструмент может похвастаться очень низким уровнем ложных срабатываний и упоминался в академических исследованиях, но эксперты отмечают, что ни одна система не может однозначно определить, кто написал текст. Различные СМИ и пользователи тестировали те же фрагменты текста с помощью других детекторов и получили противоречивые результаты: некоторые классифицировали их как, вероятно, написанные человеком.
Специалисты по криминалистической экспертизе предупреждают, что определенные стили письма могут приводить к ошибкам , а точность анализа языков, отличных от английского, снижается. К этому добавляется важная деталь: сам детектор — это искусственный интеллект, поэтому его вердикт основан на статистических закономерностях, а не на документальных доказательствах. В случае с Орельеном разница между подозрением и уверенностью огромна.
На самом деле, уже были распространены доказательства, основанные на текстах, написанных людьми, которые такие инструменты, как Pangram, пометили как сгенерированные ИИ. Это не означает, что обвинение против Орелиена ложно, но требует осторожного отношения к результатам. Среди специалистов по обнаружению ИИ нет единого мнения , и на данный момент подозрения основаны на технических данных, которые не подтверждают и не опровергают использование автором языковой модели.
Основная тема дискуссии: авторство, награды и правила отрасли.
Помимо этого конкретного случая, полемика подняла вопрос, которого индустрия долгое время избегала: где проходит грань между использованием ИИ как инструмента и предоставлением ему возможности писать за вас? Использовать его для исследований, редактирования или преодоления писательского ступора — это не то же самое, что делегировать ему структуру, стиль или диалоги. Французские литературные круги спорят о том, заслуживают ли обе практики одинаковой критики и должны ли читатели знать, что входит в каждую книгу.
К присуждению премий также предъявляются серьезные требования. В ходе дискуссии вокруг литературных конкурсов высказывалось мнение, что правила должны быть гораздо более четкими, чтобы предотвратить мошенничество, и что обоснованного подозрения должно быть достаточно для дисквалификации произведения . В то же время некоторые издатели и агенты призывают не превращать процесс выявления нарушений в «охоту на ведьм», поскольку ложные срабатывания могут навредить добросовестным авторам. Отсутствие единых правил усугубляет это чувство неопределенности.
Дело Орельена также показало, что искусственный интеллект — это уже не угроза будущего, а проблема сегодняшнего дня в книжной индустрии . От подачи рукописей до продвижения, включая контракты и авторские права, каждое звено в цепочке нуждается в четких правилах. В то время как одни авторы утверждают, что писательство — это личный и уникальный опыт, другие считают, что технологии могут быть полезным инструментом, если их использование прозрачно.
Роман Телисона Орельена продолжит вызывать дискуссии, но его истинное влияние выходит далеко за рамки награды или резкого роста продаж. Этот эпизод выявил хрупкость критериев авторства и сложность доказательства того, кто что написал, когда в дело вовлечен искусственный интеллект. До тех пор, пока не будут разработаны общие правила и более надежные методы проверки, каждое новое дело будет разрешаться на фоне подозрений, пресс-релизов и тревожного ощущения, что индустрия отстает от технологий.