Граница между текстами, написанными человеком, и текстами, созданными машиной, стремительно размывается: всё сложнее понять, кто стоит за написанным — автор из плоти и крови или алгоритм.
И вот очередной тревожный сигнал: маркетинговая компания Graphite опубликовала исследование, согласно которому свыше 50% статей в сети теперь генерируются нейросетями.
Как исследователь, изучающий искусственный интеллект, его использование в повседневной жизни и влияние на культуру, я много размышляю о том, на что способна эта технология и где проходят её границы.
Если в сети всё чаще встречаются тексты, написанные нейросетью, не значит ли это, что человеческий копирайтинг, человеческое писательство со временем окончательно исчезнет? Или же это просто очередное технологическое новшество, инструмент, к которому человек в итоге приспособится?
Это не конец
Размышления об этих вопросах напомнили мне эссе Умберто Эко «Апокалиптики и интегрированные», написанное в начале 1960-х годов. Позднее фрагменты этой работы вошли в сборник «Отложенный апокалипсис», с которым я впервые познакомился в студенческие годы в Италии.
В этом тексте Эко описывает два подхода к массовой культуре. «Апокалиптики» видят в новых медиа источник культурного упадка и нравственного распада. «Интегрированные» напротив воспринимают технологические новшества как инструмент расширения доступа к культуре и её демократизации.
Во времена Эко объектом споров были стремительно распространявшиеся телевидение и радио. Сегодня похожие реакции всё чаще вызывает искусственный интеллект.
Однако Эко считал оба подхода чрезмерными. Он писал, что не имеет смысла рассматривать новые медиа либо как источник бедствий, либо как чудесное спасение. Вместо этого он призывал обращать внимание на то, как люди и различные сообщества используют эти инструменты, какие риски и возможности они открывают и каким образом влияют на существующие структуры власти — порой даже укрепляя их.
Когда я читала курс о дипфейках – это было во время выборов 2024 года – урок Эко снова напомнил о себе. То были недели, когда и учёные и СМИ регулярно предупреждали всех нас о надвигающемся «дипфейковом апокалипсисе».
Будут ли дипфейки использовать для подделки речи ключевых политиков и точечного распространения дезинформации? Что произойдёт, если накануне выборов генеративный ИИ голосом какого-нибудь кандидата призовёт избирателей не голосовать, остаться дома?
Подобные опасения нельзя назвать беспочвенными: исследования показывают, что люди в целом плохо распознают дипфейки, хотя уверенность в собственных навыках у большинства куда выше реальных способностей.
Тем не менее «конца света» не случилось. После выборов аналитики пришли к выводу, что дипфейки действительно усилили несколько уже существующих политических тенденций — в частности, размывание доверия и рост поляризации. Однако убедительных данных о том, что они повлияли на итог голосования, нет.
Списки, новости, инструкции
Опасения, которые вызывает искусственный интеллект у сторонников демократии, заметно отличаются от тревог, знакомых писателям и художникам.
Для творческих профессий главный узел проблем связан с авторством. Как одному человеку тягаться с системой, обученной на миллионах голосов и пишущей моментально? А если подобный формат станет повседневностью, что произойдёт с творческим трудом — с творческими профессиями и с тем смыслом, который они несут?
Важно уточнить, что именно имеется в виду под «онлайн-контентом» — термином, которым оперирует исследование Graphite. Авторы проанализировали более 65 000 случайно выбранных текстов объёмом не менее ста слов, так, чтобы под это условие могло попадать всё: от рецензий на научные статьи до рекламных объявлений.
Если присмотреться к результатам исследования внимательно, становится ясно, что подавляющая часть материалов, созданных ИИ, это – тексты «общего назначения»: новостные заметки, инструкции и гайды, посты о стиле жизни, обзоры товаров.
Доля новых материалов в интернете, созданных ИИ
Согласно исследованию маркетинговой компании Graphite, начиная с 2023 года доля сетевого контента, генерируемого искусственным интеллектом, стремительно увеличивалась, а затем вышла на плато в период между 2024 и 2025 годами.
Chart: The Conversation, CC-BY-NDSource: Graphite • Get the data • Created with Datawrapper
Главная цель такого контента — убедить или проинформировать, а не продемонстрировать оригинальность или творческий замысел. Иными словами, ИИ оказывается особенно полезен там, где тексты носят утилитарный и шаблонный характер. Например, список достопримечательностей Рима, стандартное сопроводительное письмо, рекламный текст для продвижения бизнеса.
Целая отрасль авторов-копирайтеров — в основном фрилансеров, включая большинство переводчиков — делало именно такую работу: вели блоги, писали инструкции, SEO-тексты, посты для социальных сетей. Быстрое внедрение больших языковых моделей перетягивает на себя эту работу, аннулируя, условно говоря, заказы, которые прежде обеспечивали их безбедное существование.
Сотрудничество с ИИ
Резкое сокращение таких заказов подводит нас к ещё одной проблеме, о которой говорит исследование Graphite: к вопросу подлинности. Это не только о том, кто или что создало, скажем, текст, но и о том, какую ценность люди придают творческому труду.
Как отличить статью, написанную человеком, от текста, созданного машиной? И имеет ли это умение какое-либо значение вообще?
Со временем это различие, вероятно, потеряет свою остроту, особенно по мере того как всё больше текстов будет появляться в результате взаимодействия человека и ИИ. Автор может набросать несколько строк, позволить ИИ развить их и затем переработать полученный материал в окончательный вариант.
Эта статья не является исключением. Не будучи носителем английского языка, я часто обращаюсь к ИИ, чтобы отшлифовать формулировки перед отправкой черновиков редактору. Иногда система пытается изменить смысл моих слов. Как только вы поймёте её стилистические предпочтения, появится возможность их обойти и сохранить свой собственный стиль.
Кроме того, искусственный интеллект нельзя считать полностью «искусственным», ведь его обучают на материалах, созданных людьми. Стоит помнить, что ещё до появления ИИ человеческие тексты никогда не были чисто «человеческими». Любая технология — от пергамента и гусиных перьев до печатной машинки и современных языковых моделей — влияла на то, как люди пишут и как читатели воспринимают тексты.
Ещё один важный момент: современные модели ИИ всё чаще обучаются на данных, включающих в себя не только человеческие тексты, но и тексты, созданные ИИ, а также материалы, произведённые человеком и машиной совместно.
Это вызвало следующие опасения: смогут ли такие модели продолжать совершенствоваться со временем. Некоторые комментаторы уже писали по поводу пользовательских разочарований на фоне выхода новых крупных обновлений известных языковых моделей, когда компании не имели возможности реализовать собственные же анонсы.
Человеческий голос может становиться ещё важнее
Но что происходит, когда люди начинают чрезмерно полагаться на ИИ в работе с текстом?
Некоторые исследования показывают, что использование искусственного интеллекта для генерации идей может стимулировать творческую активность, однако спектр этих идей часто сужается. Однородность проявляется и в стиле: системы склонны вести пользователей к схожим формулировкам, что нивелирует индивидуальные особенности авторского голоса. Учёные также отмечают смещение в сторону западных — особенно англоязычных — норм письма у авторов из других культур, поговаривают даже о новой форме «колониализма».
Больше интересного
В этом смысле тексты, в которых проявляются оригинальность, личный голос и стилистический замысел, обретают ещё большее значение в медийном пространстве. Они могут сыграть ключевую роль в обучении следующих поколений моделей.
Если отбросить наиболее апокалиптические сценарии и допустить, что ИИ будет развиваться дальше — возможно, медленнее, чем в последние годы — вполне вероятно, что вдумчивое, оригинальное писательство, созданное человеком, станет ещё более ценным.
Иными словами, труд писателей, журналистов и мыслителей не потеряет смысла только потому, что значительная часть контента в интернете теперь создаётся не людьми.
Франческо Агнеллини
Преподаватель цифровых технологий
и анализа данных, Университет Бингемтона,
Государственный университет Нью-Йорка
Источник – The Conversation
Перевод с английского – АТМА
