Гонка вооружений в сфере искусственного интеллекта — это ложь, которую мы рассказываем сами себе. И ложь эта обходится нам крайне дорого.
Верити Хардинг знает об этом лучше других. В период с 2016 по 2020 год она не просто писала алгоритмы. Она готовила брифинги для мировых лидеров. Ей выслушивал Барак Обама. То же самое сделал Эмманюэль Макрон. Будучи главой направления публичной политики в Google DeepMind, Хардинг годами пыталась сохранить цивилизованность в дискуссиях.
Тогда международное сотрудничество казалось возможным.
«Исследования в области ИИ были основаны на международном сотрудничестве».
Потем всё изменилось. Коллаборативная атмосфера исчезла. Её сменила острая конкуренция. Anthropic против OpenAI. США против Китая. Внезапно все начали говорить о войне. О гонке вооружений. Это словосочетание прилипло к ушам, как репейник к шерсти.
В книге Переосмысление гонки ИИ-оружия Хардинг и такие авторы, как историк Лоуренс Фридман, утверждают, что язык формирует политику. Слова имеют значение. Называть ИИ «смертоносным оружием» может звучать драматично, но это убивает дипломатию. Оно закрывает путь кооперации, необходимой для обеспечения безопасности технологий и их справедливого распределения.
Для небольших наций ставки здесь ещё выше. Если они примут нарратив о гонке вооружений, им придётся выбирать сторону. Они станут пешками. Победит либо США, либо Китай. Голоса других стран редко учитываются.
Сексуальная ложь
Хардинг рассказывает журналу WIRED, что метафора войны популярна по одной простой причине: она кажется понятной. Она «сексуальна». Простые нарративы комфортны. Однако, если копнуть глубже, становится ясно, что такая рамка полностью ограничивает ваше мышление.
Почему произошёл сдвиг от «захватывающей науки» к «цивилизационной битве»?
Произошло две вещи.
Первая. Людям стало страшно. Существует genuine страх того, что ИИ в руках неверных людей приведёт к катастрофе. Логика была проста: демократии должны держать ключи. Контроль должен остаться здесь. Не там.
Вторая. Голоса, выступающие против регулирования, нашли удобного врага. Указывая на Китай как на «злодея», они сделали дерегулирование вопросом патриотизма.
Логика была такой: если вы регулируете — побеждает Китай. Вот такая была аргументация.
А затем появился ChatGPT. Конец 2022 года.
Тайминг не мог быть хуже для здравомыслия. Мир уже был на грани. Пандемии сделали границы хрупкими, но в то же время критически важными. Война в Украине превратила абстрактные геополитические теории в грязь и кровь. Внезапно вооружение с использованием ИИ перестало быть концепцией из научной фантастики. Оно стало реальностью.
Нарратив закрепился мгновенно. ИИ стал новым ядерным опционом. Новой холодной войной. История рифмовалась самым худшим образом.
Победа изоляционизма
Кто контролирует технологии, когда супердержавы воюют? Ответ редко бывает однозначным, но хаос играет на руку тем, кто громче кричит.
Технологии, конечно, формируют общество. Но общество в той же степени формирует технологии. В данный момент напряжённая политическая обстановка в США диктует, как будет развиваться ИИ. Изоляционизм определяет политику.
Хардинг утверждает, что поворот внутрь себя — плохая стратегия. Собственный суверенный потенциал Великобритании и Европы действительно важен. Да. Но тотальный изоляционизм затмевает реальность.
Даже супердержавы не могут построить всё самостоятельно. США нуждаются в чипах. Китаю нужны критически важные минералы. Всем нужны учёные. Цепочка поставок представляет собой серию стратегических узких мест.
«Вы не получите наши чипы».
«Ну, а вы не получите наши ресурсы».
Нереалистично полагать, что любая страна может поддерживать полностью суверенный стек технологий ИИ. Зависимости слишком запутаны.
Силы среднего звена
Администрация Трампа активно использовала эту националистическую риторику. Исполнительный указ, пропитанный идеологией «Америка прежде всего», вынудил компанию Anthropic отозвать свою новейшую модель. Это вызвало шок во всей индустрии.
Европейским державам стоит беспокоиться. Они сильно зависят от американских технологий.
Но сотрудничество и конкуренция — не враги. Хардинг предлагает найти золотую середину. Создать коалицию стран среднего звена.
Подумайте об этом. У Канады есть минеральные ресурсы. У Франции и Великобритании — таланты и экосистемы. У Японии и Южной Кореи — глубокая инженерная база. Индия привносит масштаб.
Вместе они обладают влиянием. Вместе они обладают масштабом.
Суть в том, чтобы не позволять рамке гонки вооружений убедить вас в том, что игра — это бинарная гонка.
Когда небольшие нации верят, что они всего лишь шахматные фигуры в бинарной борьбе, они делают это реальностью. Они становятся второстепенными игроками. Принятие этой посылки означает сдачу инициативы.
Кто выигрывает?
Деньги стекаются к страху. Скорость вливания капитала в ИИ была бешеной. Эта скорость подталкивала нарратив. Но деньги — не единственный коррумпированный фактор.
Крупные лаборатории? Они соучастники.
Рамка ИИ как эксклюзивного оружия высоких ставок даёт власть тем, кто владеет инструментами. Это подразумевает, что технология слишком опасна для всех, кроме гигантов. Слишком сложна для регулирования. Только они знают, как её исправить. Только они могут лидировать.
Это эгоистичная история. Способ укрепить контроль под маской безопасности.
Рамка гонки убеждает нас, что есть только два бегуна. Реальность гораздо сложнее. Мы просто уже много лет не можем чётко разглядеть финишную черту. Возможно, пришло время посмотреть на неё внимательнее. Или, может быть, мы просто продолжим бежать.
