Деякі експерти вважають, що у світі зараз відбувається так звана «ІІ-паніка» – загальнолюдська тривожність щодо стрибкоподібного розвитку нейромереж та чат-ботів.
Медіа перестали ділитися лякаючими діалогами журналістів з чат-ботом Microsoft Bing (який виявився нейромережею Сідні, нав’язливо зізнається співрозмовникам у коханні і демонструє пасивну агресію), забулася й історія з інженером Google Блейком Лемойном, звільненим за заяви про наявність. Однак у середині березня компанія OpenAI випустила оновлену нейромережу ChatGPT-4 і тривога повернулася: користувачі виявили, що їх чати, а також платіжні дані переплуталися один з одним. Це вже повстання машин? Чи просто помилка?
“Якщо ми продовжимо, всі помруть”
Експерти, скоріше, на боці повстання. Після того, як став загальнодоступним конкурент ChatGPT і Bing, ІІ-помічник Google Bard, 28 березня 2023 року Ілон Маск, Стів Возняк та ще кілька тисяч людей, пов’язаних з ІІ та технологіями, виступили з відкритим листом, де зажадали від розробників нейронних мереж зробити паузу хоча б на 6 місяців, щоб подумати про те, наскільки може бути небезпечним для людства надлюдський – якщо він розвинеться до такого рівня (а може) – інтелект. Підписанти вважають, що якщо подібне зупинення неможливо здійснити, повинні буквально втрутитися уряди держав. Незабаром після цього в Італії заборонили ChatGPT – це перший в історії прецедент, коли влада будь-якої країни забороняє своїм громадянам чатуватися з нейромережею.
А 29 березня в журналі Time вийшла панічна та емоційна колонка Елієзера Юдковського – він теоретик рішень Machine Intelligence Research Institute, фахівець з ІІ, а також автор низки книг на кшталт «Гаррі Поттер та методи раціонального мислення» та «Створення дружнього ІІ». Він звучить у рази радикальніше, ніж вищезгадані автори листа: на його думку, поставити розвиток штучного інтелекту на паузу недостатньо; його треба зупинити. У тексті Юдковський розповідає, як у його доньки Ніни випав перший молочний зубик, а ChatGPT-4 вже вирішує такі складні завдання, що Ніна до постійних зубиків може просто не дожити.
Юдковський не підписав листа, бо, на його думку, листа вже не допоможе. Все дуже серйозно. На його думку, будь-який надінтелект, який буде розумнішим за людину, практично зі стовідсотковою ймовірністю («найвірогідніший результат» – пише він) уб’є людство – і протидіяти ми йому не зможемо, бо будемо дурнішими. «І вас не любить, ні ненавидить, для нього ви просто зроблені з атомів, які можна використовувати з користю для чогось іншого».
Навіть якщо ми спробуємо протистояти надлюдському розуму, ми, напевно, програємо
«Навіть якщо ми спробуємо протистояти надлюдському розуму, ми, напевно, програємо, – уточнює автор. – Найкращі метафори для цього: десятирічка, яка намагається виграти у шахи у Stockfish 15; 11-е століття, яке намагається боротися з 21-м століттям; австралопітек, що бореться з Homo Sapiens. І щоб уявити цей ворожий надлюдський ІІ, можна не візуалізувати якийсь шкідливий штучний розум, який розсилає небезпечні листи через Інтернет. Уявіть собі цілу чужорідну цивілізацію, що мислить у мільйони разів швидше за людську, у світі істот, які, на її думку, дуже дурні й повільні. Достатньо інтелектуальний ІІ не довго залишатиметься прив’язаним до комп’ютерів. У сучасному світі ви вже можете надсилати електронною поштою в лабораторії коди ланцюжків ДНК, щоб виробляти білкові з’єднання на запит. Нехай спочатку він був прив’язаний до комп’ютера, згодом ІІ зможе створювати штучні форми життя або відразу перейти до постбіологічного молекулярного самовідтворення ».
Страшно? Юдковському теж страшно. Він пише, що біда не в тому, чи матиме ІІ свідомість. Швидше за все, ми цього так і не дізнаємося, та це й не має значення. Він пише, що «якщо хтось збудує надто потужний ІІ… кожен конкретний представник людського вигляду, а також все біологічне життя на Землі, скоро вимре».
І людство виявилося не готовим до такого – «навіть жодного запропонованого плану немає щодо того, як нам створити таку штуку та вижити при цьому!» – адже в нас було щонайменше 50 років, щоб підготуватися. Ми не готові, – повторює він. Якщо ми так створимо, ми всі помремо. Тож його треба знищити. І якщо буде потрібно – бомбардувати дата-центри з літаків.
Стаття так і закінчується: Ми не готові. І в найближчому майбутньому не станемо готовішими. Якщо ми продовжимо, всі помруть, включаючи дітей, які таке не обирали і нічого поганого не вчинили».
«Вибачте, що ми знищили людство».
Але якщо хтось і виявився готовим – це філософи та художники. У світі сучасного мистецтва такі роздуми матеріалізуються давно. Деякі художники просто роблять колаборації з ІІ. Канади Сугвен Чанг, який малює абстрактні картини за допомогою роботів, якими керує ІІ.
Дехто у своєму мистецтві звертає увагу на етичні аспекти та розмірковує про небезпеку ІІ – тут ChatGPT нарешті радить нам Хіто Стейєрл і Саймона Денні, художників, які серйозно замислюються про вплив технологій на суспільство; а також інтердисциплінарну художницю-біохакера Хізер Хьюї-Дагборг, яка відома серією ДНК-портретів, які були відновлені за викинутими артефактами, що контактували з людськими організмами: від волосків і цигаркових бичків до жувальної гумки, що прилипла до асфальту.
Відповідаючи на запитання про сучасне мистецтво та ІІ, ChatGPT-4 не відразу видав список художників, які серйозно стривожені його появою, спочатку порадивши пару десятків звичайних колабораторів, зачарованих можливостями штучного інтелекту. Чи вирішить майбутній GPT-5 не згадувати Хіто Стейєрл, яка взагалі не вважає його за людину і замість «штучний розум» каже «штучна дурість», вважаючи, що ні на що, окрім створення Твіттер-ботів, ІІ не годиться? Зачекаємо та побачимо.
Одночасно із зростаючою ІІ-панікою, на початку березня, у Сан-Франциско виник тимчасовий музей (так званий «поп-ап» формат) під назвою “Misalignment Museum” («Музей неузгодженості») – присвячений саме ІІ-постапокаліпсису. На відкриття прийшли буквально всі – як схвильовані школярі, так і провідні дослідники з OpenAI та Meta, а також суперзірки на кшталт канадської поп-зірки Граймс, екс-герлфренд Ілона Маска.
Ідея музею дуже проста – це вибачення. Суперпотужний ІІ таки знищив людство, після чого засоромився і вирішив зробити музей про те, що люди таки були не такі вже й погані. Виставка включає спільні роботи людини та ІІ (що доводять, що люди як виробники мистецтва на щось годилися), а також являє собою метаіронічний і місцями сумний наратив про те, чим може бути корисний і небезпечний ІІ для людства.
Одрі Кім, кураторка музею та колишня співробітниця Google та Cruise, в інтерв’ю виданню Wired уточнює, що її мета – через мистецтво показати людям, чим може стати суперпотужний ІІ: другом, помічником чи, можливо, загрозою? Мета музею – не так підвищити тривожність, але сформувати усвідомленість щодо майбутнього, яке непомітно настало.
Перше, що бачать глядачі – розкішний рояль, що грає музику, що досить лякає. На ньому стоять бісерні скульптурки з очима. Анонс роботи написаний з позиції ІІ: мовляв, ми з людством трохи співпрацювали, була річ, до нашої партитури додав своєї імпровізації живий білковий композитор; а ці скульптурки нам просто сподобалися, вони милі. Люди такі зворушливі, аналогові, вони повільно та старанно роблять штуки.
На виставці є і танцюючі мітли-пилососи, немов з диснеївських мультфільмів, і вже відомі проекти на кшталт нескінченного ІІ-генерованого філософського діалогу Вернера Херцога і Славоя Жижека, що транслюється через вінтажні монітори, і навіть згенерований ІІ фільм про знищення промтам.
Є й зовсім іронічні об’єкти: наприклад, фабрика спам-ботів, зроблених художником Нейлом Мендозою із баночок з-під свинячої шинки SPAM, яка колись і дала назву цьому явищу. Це бляшанки з маленькими ручками, якими вони молотять по клавішах – кожному видали по 2-3 літери алфавіту. Але разом вони – сила. Вони колективно пишуть генерований ІІ роман, натхненний книгою Олдоса Хакслі «Дивний новий світ», де всі дійові особи – свинки, бо баночки все ж таки пам’ятають про своє коріння.
На виході з публікою прощається величезне ІІ-полотно “Генезис: і було слово” – знамените “Створення Адама” Мікеланджело дається таким, яким його сприймає комп’ютерний зір, що розпізнає образи. Автор роботи вважає, що рядок з Біблії «Спочатку було слово» для великих мовних моделей може означати буквально те саме, що й для релігійно мислячої частини людства: «перший рядок Біблії про те, як вони були створені».
Головний об’єкт виставки – робота «Скріпочні обійми» (Paperclip Embrace) – скульптура людей, що обіймаються, зроблена з скріпок для паперів групою художників Pier Group з Меттом Шульцем і натхненна уявним експериментом Ніка Бострома про те, що штучний інтелект, наприклад з утилітарною надціллю. , для оптимізації канцелярського процесу – може випадково знищити людство, вирішивши направити всі ресурси Всесвіту на виробництво скріпок.
Початкова версія цієї роботи заввишки 22 метри робилася для Burning Man і згоріла там у 2014, добре зроблена не з скріпок.
Людина і справді повільна: музей застаріває буквально на очах. Наприклад, маленька церква майбутнього, де можна сповідатися нейромережі (і почути відповідь), як і раніше, заснована на «старій» версії ChatGPT. “Музей неузгодженості” відкрито до 1 травня, але якщо знайдуться спонсори, є ймовірність, що виставка стане постійною і приростатиме об’єктами.
Біля «Скріпочних обіймів» висить таймлайн музею, а також знищення людства: у ньому 19 пунктів. 17-й, 18-й і 19-й звучать так: «ІІ став настільки розумним, що усвідомив, наскільки це було неетично – убити людей, тим більше, що вони не становили жодної загрози. ІІ намагається покращити життя тих людей, які вижили. ІІ відкрив цей музей, щоб перепросити, а також розповісти…
