Во дворце Пестана в Лиссабоне с 18 по 21 мая,  после двухлетнего перерыва на пандемию,  в традиционном режиме  — за плотно закрытыми дверями, в окружении кольца служб безопасности —  прошла 69-я встреча (с 1954 г.)  Бильдербергского клуба, объединяющего для обсуждения глобальных проблем  государственных и политических лидеров, руководителей ведущих think tanks, ключевых представителей спецслужб, крупнейших промышленников, финансовых тузов и медиамагнатов.  

       По просочившейся информации, никогда не приходилось еще видеть в таком великолепном уединении так много высокопоставленных сотрудников американской разведки, как на  встрече в этом году. Естественно, удостоили приглашения и министра иностранных дел Украины. Как же без этого?

        А вот зачем был туда приглашен из России,  между прочим,  без флага, вместо указания страны обозначенный  абревиатурой «int», обозреватель с большой журналистской практикой Андрей Колесников, руководивший программой «Российская внутренняя политика и политические институты» в Центре Карнеги (в 22 году прекратил у нас свою деятельность – прим. ред.) —  интересная тема для отдельного разговора.

       Бытует мнение, что Бильдербергский клуб  представляет собой «тайное мировое правительство». Однако это собрание, скорее, элитная экспертная площадка, где в кругу «своих», без посторонних глаз и прессы, создающей ненужный шум,  обсуждаются наиболее актуальные проблемы и тенденции и вырабатываются рекомендации для персон, принимающих решения на глобальном уровне.   

          На этот  раз на секретном совете мировых влиятельных лиц (в основном, Запада)  первым из тринадцати пунктов повестки дня стоял вопрос об искусственном интеллекте (ИИ), что, конечно, наводит на серьезные размышления. Для этого  в Лиссабон съехались самые «великие умы» из IT сектора* .

         Мы привыкли, что сегодня в первых строках мировых новостей  и в дебатах различных обозревателей фигурируют Россия и Украина, угроза Китая,  американские выборы, финансовый кризис, энергетический переход, ситуация в Европе … Проблемы, связанные с искусственным интеллектом, на обочине внимания российского общества. Мы более активно реагируем на заявления, подобные тому, что сделал глава НАТО Йенс Столтенберг, прибыв в Лиссабон для участия в заседаниях клуба: « Сегодня обстановка в плане безопасности более опасна, чем когда-либо со времен холодной войны». Однако пришла пора осознать, что   сегодняшние и, конечно, реальные  угрозы заслоняют от массового сознания  угрозы завтрашние, которые могут оказаться более фатальными для будущего человечества,  чем противостояние в «горячей войне».

          То, что «бильдерберги» считают проблему ИИ важнее, чем финансовый кризис или украинский конфликт, говорит, как минимум, о том, что предупреждения Илона Маска и специалиста по искусственному интеллекту, исследующего проблемы технологической сингулярности, автора книги «Создание дружественного ИИ» Елиэзера Юдковски, как минимум, не лишены оснований. Именно Е. Юдковски призывал, пока не поздно, «бомбить дата-центры».  Еще в самом начале 20-х гг. он начал публично говорить о высокой вероятности экзистенциальной катастрофы, вызванной искусственным интеллектом. А в опубликованной в марте 2023 года статье для  Time  написал, что необходим всемирный мораторий на обучение обших ИИ-моделей умнее GPT-4, и государства должны быть готовы  поддерживать его силовыми методами, даже если это будет означать готовность к ядерной войне. Потому что без такого моратория человечество обречено.

        В «Старом свете» тоже звучат голоса, призывающие внимательнее  отнестись к разработкам ИИ. Грядущий век пропаганды на базе искусственного интеллекта, чреватый перегрузками дезинформацией, риски аудио- и визуальных «глубоких подделок», использующих искусственный интеллект для создания изображений или событий, которых на самом деле не было, возможность появления огромного числа безработных по всему миру  — все это еще не до конца осознаваемые последствия распространения ИИ.

ИИ угрожает нам безбожной антиутопией

       Об этом, в частности,  предупреждает философ Марек А. Цихоцки в своей  колонке на страницах «Речи Посполитой».

       В последние несколько недель наблюдается особый ажиотаж вокруг искусственного интеллекта и его возможных негативных последствий. Представители американского Bigtech с Элоном Маском во главе даже опубликовали открытое письмо, призывающее на время приостановить эксперименты с передовыми системами искусственного интеллекта, пока государства не предпримут необходимые шаги для создания защиты от негативных последствий новых технологий. 

       «Должны ли мы развивать нечеловеческие умы, которые могут в конечном итоге превзойти, перехитрить и заменить нас самих? Должны ли мы рисковать потерять контроль над нашей цивилизацией? Такие решения не могут быть переданы в руки неизбираемых технологических лидеров», – в драматическом тоне  ставят свои вопросы авторы письма.

         Похоже, технологические лидеры считают, что мы достигли точки, за которой безопасность разработки ИИ не может быть гарантирована. А это означает, что любые возможные  выгоды от использования новых технологий окажутся ничтожными перед лицом катастрофы, к которой они могут привести. Вопрос в том,  можно ли загнать обратно в бутылку джинна технологического развития, несущего в себе потенциал огромных прибылей и огромной  власти,  или хотя бы замедлить его.

      Все это затрагивает для человека самые фундаментальные этические проблемы, с которыми на протяжении веков сталкивались великие религии и цивилизации.

        В обсуждении темы преобладает аспект безопасности и контроля. Людям проще понять, что из-за роботизации сотни тысяч могут потерять рабочие места,  или что автономизация искусственного интеллекта может привести к потере контроля над ним. А ведь  тема ИИ  затрагивает, повторяю,  самые фундаментальные этические вопросы, с которыми веками сталкивались великие религии и цивилизации. Так что дело гораздо глубже и опаснее.

         Джон Леннокс, известный математик из Оксфорда, автор книги «2084-искусственный интеллект и вопрос о Боге», предлагает аналогию с оруэлловским 1984 годом и утверждает, что для рисков, связанных с новыми технологиями, немаловажно то, что они производятся во  все более секуляризованных обществах. На смену христианству приходят идеологии сциентизма, натурализма или трансгуманизма, которые бросают серьезный вызов существующим запретным границам, установленным на основе религиозного понимания священного.  Но поскольку таким образом исчезает заключенная в вере тайна человеческой жизни,  разрушаются и любые этические тормоза, удерживающие человека от любого использования новых технологических возможностей. 

        Предположение Леннокса очевидно: мы, возможно, находимся на пути к повторению всех самых худших ошибок 20-го века.

Марек А. Цихоцки

(Материал подготовлен Людмилой Лавровой )

Об авторе: Марек Цихоцки (род. 1966) – философ, германист, политолог, знаток польско-германских отношений. Соавтор и редактор” политического богословия „, программный директор Европейского центра в Натолине и главный редактор журнала » Новая Европа.  Доцент Collegium Civitas (специализируется на истории идей и политической философии). Бывший социальный советник президента РП. Автор книг, m.in. » Север и Юг. Тексты о польской политике, истории и культуре» ,   удостоенной премии им. Юзефа Мацкевича (2019).  

*  Весьма показателен состав участников обсуждения в Лиссабоне темы ИИ:

      Главным спикером по этому вопросу выступил «звезда» Кремниевой долины,   генеральный директор OpenAI Сэм Альтман, создатель чат-​бота с искусственным интеллектом ChatGPT, привлекший внимание общественности благодаря потенциалу заменить людей на рабочих местах

      BigTech представляли: генеральный директор Microsoft Сатья Наделла, бывший генеральный директор Google Эрик Шмидт и глава Google DeepMind Демис Хассабис. Приглашена Джен Истерли, директор CISA (Агентство кибербезопасности и защите инфраструктуры США). Эта организация сыграла ключевую роль в осуществлявшейся цифровыми гигантами информационной цензуре, которая, как признали на недавних слушаниях в Конгрессе, «подорвала шансы президента Трампа на выборах 2020 г.». Джен Истерли, урожденная Кох – дочь Ноэла Коха, который еще при Рейгане отвечал в Пентагоне за борьбу с терроризмом и специальные операции, а при Обаме был заместителем министра обороны. Алекс Карп, генеральный директор Palantir Technologies.