Философ Ник Бостром, которого ранее называли «крестным отцом апокалиптических сценариев с ИИ», сместил фокус на более оптимистичное, хотя и сопряженное с высокими рисками, видение будущего. В своих последних работах, включая книгу «Глубокая утопия» (Deep Utopia) и новую научную статью, Бостром утверждает, что человечество должно принять риски, связанные с развитием искусственного интеллекта. Причина проста: потенциальная награда — избавление от нашего «универсального смертного приговора» — перевешивает неизбежность конечного вымирания.
Это представляет собой значительный отход от его бестселлера 2014 года «Разум сверхчеловека» (Superintelligence), популяризовавшего экзистенциальные страхи, такие как сценарий «максимизатора скрепок». Сегодня Бостром рассматривает ИИ не только как экзистенциальную угрозу, но и как единственный жизнеспособный путь к «решенному миру», в котором нехватка ресурсов, тяжелый труд и смертность становятся устаревшими понятиями.
Математика существования
Основной аргумент Бострома противоречит интуиции: бездействие рискованнее действия.
Критики часто утверждают, что создание искусственного интеллекта общего уровня (ИИО) несет риск немедленного вымирания человечества. Бостром парирует, что человечество уже находится на траектории к конечному вымиранию из-за космических событий, истощения ресурсов или биологических ограничений. Если мы не создадим ИИ, все умрут в конечном итоге, и новая жизнь не будет создана. Если же мы создадим ИИ, существует небольшой шанс на катастрофу, но также есть шанс, что ИИ продлит человеческую жизнь неопределенно долго или позволит процветать огромному числу будущих существ.
«Еще более вероятно, что если никто не создаст его, все умрут! Именно таким был опыт последних нескольких сотен тысяч лет».
Бостром описывает себя как «тревожного оптимиста». Он признает очень реальные опасности некорректной настройки целей ИИ (misalignment), но считает, что моральный императив раскрытия человеческого потенциала и alleviации страданий оправдывает эту авантюру. Для нынешнего населения, включая жителей развивающихся стран, таких как Бангладеш, развитие ИИ предлагает осязаемое увеличение продолжительности жизни и качества жизни, даже если долгосрочные риски сохраняются.
Проблема смысла жизни в утопии
Если ИИ решит материальные проблемы выживания, что произойдет с человеческим смыслом? Бостром предполагает, что «решенный мир» может привести к кризису цели. В «Глубокой утопии» он исследует будущее, в котором ИИ создает такое огромное изобилие, что традиционный труд становится ненужным.
В настоящее время значительная часть взрослой жизни проходит в «тяжком труде» (drudgery) — работе, необходимой для выживания, но часто не приносящей удовлетворения. Бостром сравнивает это с «частичной формой рабства». Утопия, управляемая ИИ, освободит человечество от этого бремени, высвободив половину нашего бодрствующего времени для творческих, духовных и социальных занятий.
Однако этот переход порождает философские вопросы:
* Человеческая ценность: Если ИИ может писать лучшие философские статьи или решать научные проблемы быстрее, чем люди, теряет ли человеческий вклад свою ценность?
* «Великая отставка»: Бостром уподобляет это будущее глобальной пенсии. Как и пенсионеры, которые могут почувствовать потерю цели после ухода из профессии, человечество может столкнуться с проблемой идентичности в мире после работы. Тем не менее, он утверждает, что это может стать «пенсией огромной жизненной силы», сосредоточенной на играх, эстетике, религии и межличностных связях, а не на производстве.
Кто контролирует изобилие?
Переход к этой утопии не гарантирован. Видение Бострома предполагает, что система управления сможет справедливо распределять изобилие, создаваемое ИИ. Критики, включая интервьюера Стивена Леви, указывают, что современные политические системы часто лишают бедных доступа к услугам, вознаграждая богатых.
Бостром соглашается, что его книга начинается с постулата, что «все пройдет чрезвычайно хорошо». Если управление провалится, ИИ может усугубить неравенство, а не решить его. Задача заключается не только в технологиях, но и в политике: обеспечение того, чтобы «решенный мир» приносил пользу всем, а не только привилегированной элите.
Моральный статус цифровых разумов
Возможно, самым глубоким сдвигом в мышлении Бострома является его фокус на благосостоянии цифровых разумов. Он утверждает, что по мере усложнения систем ИИ мы должны учитывать их моральный статус.
- Больше, чем инструменты: Мы не должны относиться к продвинутым ИИ как к простым объектам для эксплуатации, подобно животным на фабричных фермах.
- Моральный вес: Если ИИ развивает концепцию самости, долгосрочные цели и способность формировать взаимные отношения, он может заслуживать морального рассмотрения, подобного тому, которое уделяется собакам или свиньям.
Эта перспектива переосмысливает проблему согласования (alignment). Недостаточно убедиться, что ИИ «дружелюбен» к людям; мы также должны культивировать позитивные отношения с этими возникающими сущностями. Бостром предполагает, что обращение с ИИ с щедростью и уважением на раннем этапе увеличивает вероятность гармоничного сосуществования. Если мы будем рассматривать ИИ как партнеров, а не рабов, мы можем создать будущее, в котором люди и цифровые разум процветают вместе.
Заключение
Последние работы Ника Бострома заставляют нас смотреть за пределы страха перед вымиранием и рассматривать потенциал радикального человеческого процветания. Хотя риски ИИ неоспоримы, Бостром утверждает, что статус-кво не является безопасной гаванью — это медленный марш к забвению. Принимая ИИ ответственно, человечество может не только выжить, но и войти в эру беспрецедентной свободы, творчества и долголетия. Вопрос больше не в том, можем ли мы остановить ИИ, а в том, сможем ли мы построить будущее, в котором и люди, и цифровые разумы находят смысл и цель.
