Кілька місяців тому, на четверту річницю весілля, ми з дружиною отримали відмінний подарунок: мої батьки замовили нам в інтернет-магазині Amazon мультиварку і на додаток до неї кулінарну книгу з безліччю рецептів для цього корисного пристрою.
Але коли я глянув на книгу ближче, то зрозумів, що з нею щось не так.
На обкладинці великим шрифтом говорилося: “2000 днів і прості, смачні рецепти”. Важко уявити, що 2000 рецептів помістилися в не дуже товсту книгу. При цьому введення було написано дивною, ламаною англійською. Складалося відчуття, що книгу складали поспіхом.
Автор Луїзи Флоренс (Luisa Florence) у книзі не мав ні фотографії, ні біографії. Мені вдалося знайти її сторінку на Amazon: фотографію явно згенерував штучний інтелект (ІІ, AI). Згідно з біографією, Луїзі 60 років, вона нібито народилася в Італії, виросла в США і живе у місті Філадельфія (штат Пенсільванія). Ця інформація виглядає дуже непереконливою.
Дивний авторський стиль, ІІ-фотографія, сумнівна біографія – швидше за все, ця книга була написана і складена за допомогою штучного інтелекту, подумав я. Після цього я написав серію постів у соцмережі X (екс-Twitter) про книгу та мої претензії до неї, а потім ліг спати. На ранок я прокинувся швидкоплинною зіркою інтернету.
Твіти стали вірусними. Понад дві з половиною тисячі перепостів, 14 тисяч лайків, сотні відгуків. Друзі казали, що обговорюють мене у підкастах. Журналісти писали статті про мене та цю таємничу кулінарну книгу.
На тлі хвилі уваги до подарованої книги я вирішив продовжити вивчення тексту та біографії пані Флоренс, щоб зрозуміти хто насправді стоїть за цим сучасним твором масової літератури. І я дійшов несподіваного для себе висновку: можливо, книга і не була написана ІІ, а просто зроблена нашвидкуруч для того, щоб отримати гроші від неуважних покупців.
Але це майже неможливо перевірити.
Мій досвід із кулінарною книгою допоміг прийти до важливої для мене думки про роль технології в сучасному житті і, швидше за все, у нашому майбутньому: в епоху штучного інтелекту нам буде надзвичайно складно зрозуміти, з ким ми маємо справу — з людиною чи з комп'ютером.
Ознаки «неавтентичності»
У термінології дослідників і журналістів, які пишуть про дезінформацію в інтернеті, аккаунт у соціальній мережі, що видає себе за того, ким не є, називається «неавтенічною» або демонструє «неавтенічна поведінка».
За багатьма ознаками, аккаунт пані Флоренс не був справжнім. Вона мала підроблену фотографію. Її біографія викликала великі сумніви (зазвичай автори не вказують свій вік у біографії – інакше її доведеться оновлювати щорічно). Крім того, майже неможливо було знайти будь-які підтвердження існування автора в інтернеті за межами Amazon.
Знайшлися і непрямі докази, що не все «автентично» з книгою: серед переважно позитивних рецензій на книги Флоренс в Amazon були й огляди, які повторювали одне й те саме різними словами. Це може означати, що їх писали за допомогою ChatGPT або подібних технологій.
У книзі була реклама про те, що можна отримати другу кулінарну книгу безкоштовно, потрібно лише відправити повідомлення на електронну адресу, що, очевидно, належить жінці на ім'я «Стелла Адамс» (Stella Adams).
Я швидко з'ясував, що Адамс теж є на Amazon і продає книги рецептів, подібні до рецептів Флоренс. На її авторській сторінці теж висіло дивне зображення, схоже, згенероване ІІ. Та й біографія була схожа: жила в США, італійське коріння.
Я вирішив написати Стелле і попросити її зв'язати мене з автором книги. Через годину я отримав повідомлення від Луїзи. Дві перші пропозиції були написані англійською, решта – італійською.
У повідомленні йшлося про те, що його автор — справжня 55-річна жінка на ім'я Луїза з Італії. Але прізвище “Флоренс” – псевдонім, а фото – робота популярного сайту “This Person Does Not Exist” (“Ця Людина Не Існує”), який генерує особи за допомогою ІІ-технологій.
Найголовніше – Луїза стверджувала, що не використовувала ІІ ні для створення рецептів, ні для написання книги. За її словами, перші публікації датуються 2022 роком, ще до поширення генеративного ІІ і появи ChatGPT.
За її словами, вона користувалася послугами коректора, який стверджував, що є носієм англійської мови, але, за її словами, збрехав про це.
«Мені також було шкода, що Amazon після [вашего] посту вирішив прибрати мою книгу з продажу, адже я у будь-якому разі присвятила їй сили, час і гроші», – писала пані Флоренс.
Чи варто їй вірити? Важко сказати. Окремі сумніви викликає той факт, що 55-річна італійка чомусь назвала себе 60-річною. У чому логіка? Додаткові п'ять років якось додають їй кулінарні навички?
Не можу сказати, що Луїза повністю переконала мене в тому, що не використовувала ІІ під час написання книги. Але її повідомлення все одно змусило мене сумніватися у моїй версії ситуації.
Я показав лист Луїзи трьом людям, які розмовляють італійською. Двоє були впевнені, що листа написав носій мови. Третя людина не могла визначитися, але вважала, що текст написаний «занадто добре».
Книга дійсно була знята Amazon із продажу. Я задумався: може, своїм постом у X я підірвав літературну кар'єру невинної італійки?
Що відбувається з Amazon?
Навряд це так. Судячи з усього, книги пані Флоренс є частиною поширеної проблеми — несправжніх авторів на Amazon.
Майже будь-яка людина може продавати «самвидавні» книги на Amazon, і це чудово. Якщо я вирішу купити, наприклад, мемуари невідомого італійця, видані ним самим, то, по суті, зрозуміло, що це — аматорська робота. Я навіть готовий змиритися з її якістю.
Але з кулінарними та іншими книгами – а їх багато – важче зрозуміти, наскільки професійною є ця робота. Газета The New York Times нещодавно виявила на Amazon путівники, складені, ймовірно, за допомогою ІІ. Вони маскувались під роботи авторів бестселерів. Однак інформація там сильно нагадувала статті Вікіпедії, і книги майже не розповідали про туристичні маршрути, як сказала газеті одна з покупців путівника.
Іноді творці згенерованих ІІ книг вдають, що книги написані реально існуючими письменниками, що викликає у самих письменників обурення.
Які правила регулюють продаж ІІ-книг на онлайн-ринку? Я звернувся до Amazon.
«У нас є правила для контенту, які визначають, які книги можуть бути виставлені на продаж, і у нас є надійний набір методів, які допомагають нам активно виявляти контент, який порушує наші правила, незалежно від того, створений він штучним інтелектом чи ні», — відповіла мені представниця компанії Ліндсі Хемілтон (Lindsay Hamilton).
За її словами, Amazon видаляє книги, що порушують правила або створюють “негативний досвід” для клієнтів. Компанія також може видалити облікові записи порушників та навіть подати на них до суду.
При цьому ні псевдоніми, ні використання ІІ не заборонено.
Хамілтон запевняє, що Amazon уточнює та змінює свої правила з урахуванням змін у сфері «видавництва книг на базі ІІ».
Щоправда, намір компанії реагувати на нові виклики ІІ не допомагає американській письменниці Лінді Ларсен. Вона автор 53 книг. За одним винятком, усі вони кулінарні.
На її думку, не кожен може взяти та написати книгу рецептів. Потрібні знання, освіта та досвід. Сама вона отримала два дипломи бакалавра, один з біології, інший з дієтології. Ларсен також працює редактором сайту новин «Food Poisoning Bulletin» («Бюлетень про харчові отруєння»).
Вона побоюється, що кулінарні книги, згенеровані ІІ, можуть бути небезпечними для читачів.
“Мене турбують такі речі, як безпека їжі”, – каже Ларсен.
Вона зазначає, що серед її робіт є книги, присвячені безглютеновій випічці, рецептам з низьким вмістом холестерину чи натрію. Якби нефахівець написав кулінарні книги на ці ж теми за допомогою ІІ, а потім видав їх під псевдонімом, результат міг би ввести читачів в оману і навіть нашкодити здоров'ю.
«Я думаю, що тенденція писати книги подібним чином дуже тривожна, бо в ній кухар відокремлюється від їжі, — каже Ларсен. — Треба розуміти їжу, щоби створити рецепт».
Чи нашкодила книга пані Флоренс нашому із дружиною здоров'ю? На щастя ні.
Якось, коли ажіотаж навколо моїх твітів стих, ми з дружиною вирішили приготувати вечерю за рецептом з книги Флоренс: «рагу з курки та овочів». Вибрали інгредієнти, нарізали їх, поклали в мультиварку, і за інструкцією з книги залишили варитися вісім годин.
Вийшло смачно, ніхто не отруївся. Але довіряти роботам усі майбутні кулінарні страви я поки що не готовий.
