Публикация книги «Гипнократия: Трамп, Маск и новая архитектура реальности» всколыхнул научное сообщество. Причиной стала не только изложенная в ней теория о политических и медийных манипуляциях, питаемых властью и фантазиями, но и неожиданное раскрытие подлинного происхождения текста.
Как выяснилось, некий Цзянвэй Сюнь, указанный автор, – лишь фикция. Журналистка Сабина Минарди из итальянского издания L’Espresso установила: автором текста и вымышленной личности стал профессор Андреа Коламедичи, который создал их с помощью генеративного искусственного интеллекта. Этот факт стал поводом для бурной дискуссии о природе знания, достоверности реальности и границах авторской ответственности.
Не менее удивительным оказалось и заявление самого Коламедичи:
«Я вовсе не стремился никого ввести в заблуждение или высмеять журналистику, показав её неспособность проверять информацию. Меня интересовал нарративный эксперимент, который создавал бы ту самую реальность, о которой рассуждает книга».
Такой «перформанс» как художественный жест ставит перед нами целый ряд вопросов. Можно ли считать ИИ соавтором? Что ценнее – идеи или их выражение? Если идеи значимы, имеет ли значение, кем они сформулированы – человеком или алгоритмом?
Эти вопросы отсылают нас к проблеме авторства в диалогах Платона. В большинстве из них ключевую роль играет Сократ, учитель философа, сам не оставивший после себя ни одной строчки. Платон делает его персонажем, через которого развивает собственную философскую систему. Однако по мере становления авторской мысли Сократ постепенно уходит на второй план – и в последнем диалоге философа, «Законах», он уже не появляется вовсе.
Возникает вопрос: какие идеи действительно принадлежат Сократу, а какие – Платону? Не стал ли Сократ катализатором своеобразного философского «перформанса», аналогичного тому, что устроил Коламедичи через образ Сюня?
Аристотелевская риторика
В случае «Гипнократии» Коламедичи создал необычный, но убедительный образ: китайского мыслителя, который придумывает термин с греческими корнями – от hypnos («сон») и kratos («власть», «господство») – чтобы критиковать Трампа и Маска, влиятельных западных фигур в политике и экономике. Свой голос и интонации он «передал в руки» ИИ, обученному на материалах его прошлых работ, создав тем самым текст, построенный на вероятностных алгоритмах.
Итог. Как специалисты, так и обычные читатели приняли книгу с энтузиазмом. Она вербализировала именно то, что хотелось услышать, от имени того, от кого хотелось услышать – и в нужный момент.
«Гипнократия» воплощает три способа убеждения, о которых писал Аристотель в «Риторике»: через личность говорящего, через воздействие на слушателя и через логику самого высказывания.
Этос (доверие к личности) здесь представлен авторитетом восточного мыслителя. Пафос (воздействие на чувства) – в образах Трампа и Маска, способных пробуждать страсти. Логос – в концепции гипнократии, кажущейся актуальной и созвучной современной реальности.
Казалось бы, перед нами просто удачный маркетинговый ход. Но почему же тогда он вызвал столь бурную реакцию? Проблема – в достоверности и валидности высказываний, а также в легкости, с которой мы оказываемся обманутыми.
Фантазии, идущие дальше технологии
Впрочем, и до появления ИИ научное сообщество не раз становилось жертвой правдоподобных подделок.
Так, в 1996 году физик Алан Сокал решил продемонстрировать отсутствие научной строгости в некоторых академических журналах. Он опубликовал в Social Text абсурдную статью, изобилующую бессмыслицей, но соответствующую идеологическим ожиданиям редакторов. Эта акция, известная как дело Сокала, разоблачила недостатки рецензирования и интеллектуальной экспертизы.
Похожий случай – генератор научных статей SCIgen, созданный исследователями MIT. При его помощи в разных академических изданиях были напечатаны десятки фальшивых статей, которые теперь размещены на специальном сайте – как доказательство того, насколько коммерциализировалась публицистика.
К этому клубку иллюзий добавляется ещё один элемент: внешняя правдоподобность продуктов ИИ.
В 2023 году фотограф Джос Эйвери признался, что его нашумевшие портреты в Instagram были созданы с помощью нейросети. А писательница Риэ Кудан, получившая престижную литературную премию Акутагавы, заявила, что около 5% её романа было написано при участии ChatGPT.
Эти примеры показывают, что отличить произведение ИИ от творения человека становится всё труднее. Это вновь приводит нас к знаменитой аллегории пещеры Платона – или Сократа, – изложенной в седьмой книге «Государства».
Новая Платонова пещера
В аллегории узник, с детства прикованный к стене пещеры, воспринимает проецируемые на неё тени как единственную реальность. Однажды он освобождается, выходит наружу и видит свет – познаёт истину. Вернувшись в пещеру, он пытается открыть глаза другим, но его не только не слушают, а ещё и в конце концов убивают.
Этот образ показывает, как чувственное восприятие способно нас обмануть, и лишь разум может помочь разобраться в подлинной природе вещей. В мире, где всё труднее отличить, что создано ИИ, мы словно вновь оказались в пещере – и довольствуемся тенями, выдаваемыми за реальность.
Похоже, этот процесс уже идёт. Главный редактор L’Espresso Эмилио Карелли заявил:
«Если тезисы книги верны – или, по крайней мере, сумели вызвать живой культурный спор, в который вовлеклись философы и мыслители, – имеет ли значение, что текст написан искусственным интеллектом? Или, как в данном случае, создан в соавторстве с ним?»
Однако стоит помнить: ИИ не нейтрален. Его ответы отражают предвзятость, мировоззрение и цели тех, кто его разрабатывает, а также этику тех властных структур, в чьей юрисдикции он находится. Опасность заключается не только в том, что такие «теневые истины», как в «Гипнократии», могут нас обмануть, но и в том, что они скрывают. Отсутствие конкретного автора снимает с текста ответственность за последствия и утаивает истинные мотивы его создания.
История с «Гипнократией» – не просто вопрос авторства в цифровую эпоху. Это напоминание о философском духе, побуждающем задаваться вопросами: кто говорит, зачем он это делает, и есть ли в этом истина? Ведь именно так на протяжении веков философы анализировали Платона, выясняя, где заканчивается Сократ и начинается сам Платон.
Возникает ещё один важный вопрос: можем ли мы, люди XXI века, всё ещё отличать подлинное от искусственного в мире, где ложь звучит всё убедительнее? Век ИИ – это вызов нашему критическому мышлению. Но путь из пещеры всё ещё открыт: начать можно с простого – остановиться, подумать, вглядеться в мир вокруг и попытаться понять его. Это и будет первым шагом к свету настоящего знания.
Рональд Фореро-Бальварес
Классический филолог,
Университет Ла Сабана
Источник – The Conversation
Перевод с английского – АТМА
Идея и промпт иллюстрации © АТМА
