В 1917 году Зигмунд Фрейд описал три «нарциссических оскорбления», которые наука нанесла человеческому самолюбию. Речь шла о великих открытиях, показавших, что люди вовсе не такие исключительные, как им казалось прежде.
Первый удар нанёс астроном Николай Коперник: именно он доказал, что Земля не является центром Вселенной, поскольку центральное место в Солнечной системе занимает Солнце. За этим последовали ещё два удара. Человечество лишилось звания «венца творения» благодаря теории эволюции Чарльза Дарвина, а затем – и представления о собственном суверенитете через открытие власти бессознательного. Последнее было уже заслугой самого Фрейда, и именно этот третий удар оказался самым болезненным.
Если бы Фрейд узнал об искусственном интеллекте, он, полагаю, добавил бы к трём «оскорблениям» четвёртое. За космологическим, биологическим и психологическим последовал интеллектуальный удар. ИИ поставил под сомнение наше представление о самих себе.
Как богослов, я особенно часто задумываюсь о том, какие последствия эта угроза несёт для нашего духовного самосознания. В целом человечество сумело пережить первые три «нарциссических оскорбления», но вот какие средства найдутся чтобы преодолеть это – финальное – поражение?
1. Меняем формулировки
Несмотря на то что возможности и достижения искусственного интеллекта поражают воображение, сам термин «искусственный интеллект» можно поставить под сомнение, чтобы снизить ущерб, который он наносит нашему самовосприятию. Более уместным могло бы быть определение «сорассудочность» или «сосознание» – оно подчёркивает, что, например, большие языковые модели следует рассматривать лишь как дополнение к нашим собственным умственным способностям. Такой язык смягчает резкость и снимает излишнюю тревогу.
2. А был ли мальчик?
Некоторые исследователи ставят под сомнение саму «разумность» искусственного интеллекта, указывая на то, что большая языковая модель – это всего лишь «стохастический попугай». На первый взгляд кажется, будто ИИ обладает глубоким пониманием того, что он выдает, но на деле это лишь система, комбинирующая языковые шаблоны из огромного массива данных, опираясь на вероятностные связи, – без всякого осмысления.
«Мы не собираемся превращаться в бездумных питомцев ИИ», – написал когнитивист Питер Йорденфорс. Бояться стоит не самого ИИ, а нас самих: поддавшись его соблазну, мы рискуем растратить завоевания эпохи Просвещения.
Сосредоточившись на различиях между человеческим разумом и его искусственным подобием, мы начинаем понимать: пока коллективный человеческий интеллект способен оценить правдоподобие того, что выдаёт машина, никакие оскорбления нам не страшны.
3. Говорим не об «интеллекте», а об «интеллектах»
Человеческий разум – это не что-то единое, а целый спектр дополняющих друг друга интеллектов: художественного, личностного, нравственного. Все они сходятся в особом типе мышления – интуитивном, укоренённом в обществе и имеющем особое значение для духовной жизни. Это полная противоположность «стохастическому попугаю».
Человек ищет и находит смысл даже за пределами реальности, тогда как ИИ застревает в «здесь и сейчас», в сфере обыденного. Когда большая языковая модель производит бессмыслицу или неточности, это называют «галлюцинацией». Искусственный интеллект галлюцинирует, человеческий – выходит за пределы реальности.
Учитывая эту способность человека соединять разные формы интеллекта, можно сказать, что ИИ не дотягивает до человеческого разума – по крайней мере, пока.
Да, но…
Все эти попытки смягчить «оскорбление» от ИИ исходят из признания того, что он работает иначе, чем человеческий разум. В отличие от человека, его природа – в вычислениях и статистике. Но это вовсе не означает, что можно расслабиться. Скорость, масштаб и сложность обработки данных ИИ способны достичь таких уровней, при которых различие между машинным и человеческим мышлением перестанет иметь значение: в счёт пойдёт результат, а не то, каким образом он получен.
Представим: я охвачен сильным страхом смерти, близкие люди не могут помочь, и только нейросеть даёт мне совет, который я воспринимаю как ценный и как проявление заботы. Будет ли тогда иметь значение, как именно я называю эту вещь, является ли она по-настоящему разумной или скольким видам интеллекта она соответствует?
Практическая польза перевешивает философские споры. И что же дальше? Пережитая на собственном опыте польза ИИ, скорее всего, перевесит все философские рассуждения о его «разумности».
Метания между техно-мессианством («ИИ спасёт нас и нашу планету») и техно-дистопией («ИИ станет концом человечества») – вполне понятная реакция на это интеллектуальное оскорбление. Но безоговорочное восхищение – социально безответственно, а паника чаще всего приводит либо к глупым решениям, либо к полной апатии.
Социальные и правовые институты не успевают за развитием искусственного интеллекта – особенно там, где право строится на демократических принципах. В тумане этой неопределенности теряется ясность, размываются границы ответственности, последствия обрушиваются неожиданно.
ИИ изменит наше представление о знании, занятости, общении, добропорядочности. Его распространение изменит рынок труда, и это неизбежно вызовет социальное напряжение. Без критического гуманитарного осмысления ИИ не сможет внести вклад в формировании гармоничного общества, открытого для всех.
Чтобы справиться с вызовом, требуются коллективные усилия всех страт общества. Технических и юридических знаний будет недостаточно. Именно в гражданском обществе поднимаются экзистенциальные вопросы, и ответы на них ищут не только в экономических или геополитических расчетах, но и в культурных, философских и богословских источниках, в которых человечество веками находило ориентиры.
Больше интересного
Отличительные черты нынешней западной цивилизации – индивидуализм, потребительство и секуляризм – оказываются недостаточными перед лицом нарциссического вызова, который бросает нам ИИ. Здесь решающими становятся иные человеческие качества: способность к отношениям, стремление к трансцендентному, умение признавать ошибки и готовность к ответственности.
Антье Жакелен
Старший советник, теолог-систематик,
Лундский университет
Источник – The Conversation
Перевод с английского – АТМА
