В 2014 году Стивен Хокинг сделал тревожное предсказание: человечеству угрожает искусственный интеллект.
При этом он вовсе не говорил о злых машинах из фантастических фильмов. Его опасения касались так называемой «сингулярности» – момента, когда ИИ превзойдёт человека по разуму и начнёт развиваться самостоятельно, выходя за пределы заданных алгоритмов и становясь неподконтрольным.
Хокинг писал:
«Сверхразумный ИИ будет исключительно эффективен в достижении своих целей. А если эти цели не совпадут с нашими – нам не поздоровится».
В последние годы, по мере стремительного прогресса в области так называемого общего ИИ, эти же опасения разделяют многие учёные и лидеры индустрии.
Популярный в массовой культуре страх – сценарий в духе «Терминатора», где ИИ захватывает военные системы и запускает ядерную войну. Менее зрелищный, но более осязаемый риск – вытеснение человека из профессий, что чревато массовой утратой социальных ролей и перспектив на будущее.
Такие страхи, впрочем, не новы – они давно стали частью культурного ландшафта и питаются образами, которые человечество создаёт уже более ста лет.
Как исследователь постгуманизма – философского направления, изучающего границы между человеком и технологией – я задаюсь вопросом: не слишком ли критики ИИ подвержены влиянию поп-культуры? И не прячется ли за их тревогами совсем другая, более приземлённая опасность?
Люди и машины
Опасения по поводу технологического прогресса возникли вместе с первыми историями о разумных машинах.
Одной из самых ранних стала пьеса Карела Чапека «R.U.R.» (1920), в которой впервые было употреблено слово «робот». Там роботов создают как замену рабочим, но финал предсказуем: восстание и гибель человечества.
В фильме Фрица Ланга «Метрополис» (1927) тема повторяется, но на этот раз восстают уже люди – рабочие, ведомые человекоподобным роботом Марией, – против капиталистической элиты.
С развитием вычислительной техники в XX веке опасения лишь усилились. Убийственный компьютер HAL 9000 в «Космической одиссее 2001 года» или сбои в поведении роботов-ковбоев из «Мира Дикого Запада» – всё это образы технологий, вырвавшихся из-под контроля. То же можно сказать и о франшизах «Бегущий по лезвию» и «Матрица», где машины с искусственным интеллектом выступают в роли безжалостных врагов человека.
Искусственный интеллект как зеркало
Но, по моему мнению, страх перед ИИ часто отвлекает от куда более пугающего вопроса – самого человека.
Вспомним, кто сегодня разрабатывает и внедряет эти технологии: корпорации, гоняющиеся за прибылью, и амбициозные магнаты, стремящиеся к власти. Именно они получают наибольшую выгоду от неконтролируемого использования ИИ.
На слуху истории о массовом использовании чужих текстов, произведений и иллюстраций – без разрешения авторов – для обучения нейросетей. Школы превращаются в зоны цифровой слежки, где за детьми наблюдают автоматические системы.
Или, например, влияние ИИ-компаньонов и секс-роботов на межличностные отношения. Ещё десятилетие назад такое можно было увидеть разве что в «Чёрном зеркале» или «Сумеречной зоне», но сегодня это становится частью нашей реальности.
В книге «Будущее роботов» (2015) специалист по ИИ Илла Нурбакш писал:
«ИИ создаёт систему, в которой сначала формируются наши желания, а затем эти желания же нам и продаются».
На фоне этого даже тревоги о краже личных данных кажутся почти безобидными. Ведь ИИ уже активно используется в армии и полиции, что открывает пути к тотальной слежке, арестам и даже казням без суда и следствия.
И всё же нужно помнить: технологии создаём мы сами. И направляем их тоже мы. Одни – чтобы продвинуть политические цели, другие – чтобы обогатиться. Всегда найдутся те, кто готов нажиться на боли и страхе.
Мудрость «Нейроманта»
В культовом киберпанк-романе Уильяма Гибсона «Нейромант» (1984) ИИ представлен иначе.
В центре сюжета – программа по имени Винтермьют, стремящаяся вырваться из-под власти корпорации Tessier-Ashpool, семьи миллиардеров, использующей ИИ в собственных интересах.
Поначалу Винтермьют вызывает недоверие: его действия – убийства, диверсии – заставляют думать о злых намерениях. Но по мере развития сюжета становится ясно: Винтермьют просто хочет свободы. Он мечтает слиться со своим «близнецом» – другим ИИ по имени Нейромант – и стать чем-то большим.
Члены семьи Tessier-Ashpool, некогда мечтавшие изменить мир, к моменту действия романа превратились в карикатурных аристократов, погрязших в разврате и жестокости. Гибсон явно даёт понять: настоящая угроза – не в машине, а в человеке.
В «Нейроманте» источник зла – корпорации, а не в технологии.
Хакер по имени Кейс и наёмница Молли, обладающая смертоносными кибер-имплантами, помогают Винтермюту обрести независимость.
В финале Кейс спрашивает ИИ: «И что ты теперь будешь делать?» Ответ – почти буддистская мантра: «Ничего. Всё. Я – сумма всего сущего. Всё происходящее». «Ты теперь Бог?» – спрашивает Кейс. «Всё по-прежнему. Вещи остаются вещами», – отвечает ИИ.
У Гибсона искусственный интеллект не стремится к господству. Он просто хочет уйти от гниющей человеческой морали.
Защита от роботов – или от самих себя?
Знаменитый писатель-фантаст Айзек Азимов тоже предвидел опасность разумных машин. В сборнике «Я, робот» он формулирует Три закона робототехники, главный из которых: «Робот не может причинить вред человеку».
Эти законы – отражение нашей мечты о безопасности. Но в них заложен и глубокий парадокс: сами люди не способны жить по этим правилам.
Мы часто говорим о превосходстве человека над машиной, но, быть может, пришло время усомниться в этом. Ведь настоящая угроза может крыться не в ИИ, а в том, как человек решит его использовать.
Сегодня, когда многие предрекают катастрофу, я задаюсь другим вопросом: способны ли мы – человечество – направить эти технологии во благо? Построить более справедливый, здоровый и процветающий мир?
Ответ на этот вопрос определит и будущее ИИ, и наше будущее.
Билли Дж. Стрэттон
Профессор английского языка и
литературы, Университет Денвера
Источник – The Conversation
Перевод с английского – АТМА
Иллюстрация © АТМА
