ЦИФРОВОЕ НЕЙРОКЛАДБИЩЕ. ПОЧЕМУ ПАТРИАРХ НАЗВАЛ БЕСКОНТРОЛЬНОЕ ИСПОЛЬЗОВАНИЕ «ИИ» УГРОЗОЙ ЦИВИЛИЗАЦИИ? ТЕСТ НА ПРАВДУ

Выступая на XIII-ых Рождественских Парламентских встречах, Святейший Патриарх Московский и всея Руси назвал искусственный интеллект «важным вызовом нашего времени». Среди прочего Главы Русской Церкви обратил внимание на проблематику сгенерированной реальности, когда искусственный интеллект создает изображение человека, которое полностью имитирует его образ и голос. Предстоятель подчеркнул, что не отвергая достижения науки, мы так же не должны упустить из виду опасность, которая способна разрушить человеческую цивилизацию.

Искусственный интеллект – это уже не будущее, это настоящее. И те риски, о которых предупреждает Патриарх, это тоже уже не какая-нибудь далекая перспектива, а день сегодняшний. Патриарх в своем слове уделил внимание технологии, которая называется «дипфейк». Это синтез человеческого изображения и его голоса. Нейросеть полностью копирует вас и вкладывает в ваши уста речь, которая прописывается алгоритмом. Эта технология сегодня активно используется злоумышленниками и направлена, как правило, против каких-нибудь знаменитостей. Но кто бы мог подумать, что эта же самая технология будет теперь предложена не только живым, но и мертвым. 

Одна из ритуальных служб Москвы объявила о запуске первого в России цифрового «Нейрокладбища». Согласно идее, на надгробии наносится специальный QR-код, отсканировав который с покойным можно будет общаться с помощью текстовых сообщений, аудиозвонка или даже видеоконференции. Сгенерированный искусственным интеллектом цифровой аватар будет в точности имитировать внешний вид покойного и его голос. По мнению разработчиков данная услуга является «поддержкой традиционных ценностей», «поможет людям справиться с горечью утраты», а также позволит «закрыть многие вопросы» с усопшими родственниками. Цена обслуживания такой нейромогилы составит сегодня один миллион рублей в год.  

Какими красивыми духоподъёмными словами сопровождают свой бизнес-проект создатели нейрокладбища. Тут вам и терапевтический эффект, и общение с мертвыми как с живыми, и даже упование на то, что всё это является «традиционными ценностями». Через такое «угольное ушко» можно и слона протащить. 

Однако давайте рассмотрим, что же позволяет этому союзу «гробовщиков и айтишников» так смело заявлять нам о благостном эффекте и традиционных ценностях данного проекта! 

Итак, создатели утверждают, нейрокладбище имеет «терапевтический эффект». Мол, живые родственники, убиваясь по своей утрате и увидев перед собой аватар усопшего, который и выглядит как усопший, и говорит его голосом, а главное, обладает способностью отвечать на вопросы, поддерживать беседу, так вот, общаясь. значит, с такой вот симуляцией покойного, родственники, мол, «лучше справятся с чувствами утраты, продолжат чувствовать их присутствие и тем самым получат поддержку». 

Вот уж, простите, это совсем не факт! Поинтересуйтесь у психиатров, чем такое общение с недавно умершими чревато для живых. Я лишь напомню об одном эпизоде, когда на поминках безвременно умершей дочери, ее матери и всем присутствующим была устроена обычная презентация фотографий покойной девочки на экране. У родителей и многих присутствующих это спровоцировало сильнейшую истерику с последующим вызовом «скорой помощи». 

Конечно, наверное, когда между живыми и умершими есть расстояние в два поколения или три – опасность психотравмы будет стремиться к нулю.

Стоя у могилы прадедушки или прабабушки, вряд ли кто-то испытает такое же эмоциональное потрясение, как дети у могилы родителей или родители на могиле детей. Но ведь создатели нейрокладбища никак не учитывают эти особенности. А учитывая высокое качество технологий, степень эмоциональной вовлеченность живого человека в жизнь виртуальной копии новопреставленного будет крайне великой. Родители, которые будут сидеть на могиле умершего ребенка и задавать ему вопросы, которые будут видеть его оживший аватар, будут слышать его голос, будут общаться с ним как с умной колонкой «Алиса» — такие родители неминуемо с этого нейрокладбища, простите, отправятся прямой дорогой в дурдом. Нейрокладбище искусственно поддерживает в горюющем человеке тяжелейшую неврологию, не даем боли уйти, не отпускает человека. Покойник лишает покоя. Близкие родственники рискуют впасть в такую же зависимость от этой нейромогилы, в какую впадают любители компьютерных игр. Конечно, для бизнеса, это безусловный плюс. Подписка на эту услугу будет регулярно продлеваться пока человек не сойдет с ума. Но кто подумает о тяжелейших психотравмах этих несчастных родственников? 

Если уж и говорить о каком-либо терапевтическом эффекте, то поверьте, это не дипфейк, а молитва. Только она одна с психологической точки зрения имеет эффект реального утешения. Это опыт тысячи поколений! Горечь утраты постепенно отпустить человека не путем ее искусственного будирования, постоянного расчесывания этой боли, а через утешение сердца, через передачу покойного «в руце Божии». 

Сама жизнь так устроена, что после смерти возможность общения с умершим на двухсторонней основе прекращается. Это заложено самой природой. Компенсаторные механизмы постепенного отпускания умершего прописаны глубочайшим кодом в нашей психике. Нарушая этот закон жизни, мы приближаем очередную скорую смерть.   

Однако данная «иллюзия ожившего покойника» опасна не только с психической точки зрения. Тут есть и духовная опасность. А чем, простите, эта услуга отличатся от обычного спиритического сеанса? Тем, что там крутят какую-нибудь «доску Уиджи», а тут высокая технология? Цифровое нейрокладбище с «говорящими покойниками» закладывает основу для последующих спиритических сеансов точно также как имитация ребенком курения приближает его к реальной сигарете. Святейший Патриарх Кирилл, видные общественные деятели, врачи, ученые, депутаты, правоохранительные органы многократно указывают на опасность магических услуг, количество которых в нашей стране просто зашкаливает! А тут, мы собственными руками создаем новую бизнес-нишу — нейроспиритизм! Это и есть огромная духовная опасность. Потому что от общения с нейро-призраком до реального спиритизма – полшага!

Кроме того, учитывая, что услуга эта дорогая, можно предположить, что ее будут заказывать весьма состоятельные граждане. И вот давайте подумаем, каким будет общение такого человека с его новопреставленным покойником? Понятно, что к виртуальному мертвецу такой человек придет не с вопросами «как дела?», «что нового?», «сколько времени?». Имея возможность такой вот «умной колонки» с характерными чертами покойника, вопросы, которые человек в состоянии душевного потрясения будет задавать этой нейрокопии, будут вопросами критически важными! «Кто прав, кто виноват, что делать, как поступить?» и так далее. А теперь представьте на секундочку, что контроль над алгоритмом ответов будет в руках злоумышленников. Разве это не сюжет для какой-нибудь антиутопии, где могущественные корпорации манипулирует живыми через мертвых?  

Ну и наконец последнее. Недавно в Европе прошли памятные мероприятия, приуроченные 80-летней годовщине освобождения концлагеря Освенцим. И мне случайно попался один репортаж о том, в какую пошлейшую индустрию развлечений сегодня превращена эта некогда нацистская фабрика смерти. Автобусы туристов, группы, бредущие с попкорном и газировкой вдоль газовых камер, радостный смех беспечных школьников, непременное сельфи у врат с надписью «Arbeiten mach frei».

В общем, к чему это я? Святейший Патриарх в своем слове на Парламентской встрече сказал, что главная опасность искусственного интеллекта – это опасность «разрушения человеческой цивилизации, опасность «воздействия на личность человека и его судьбу». 

Мы уже живем в мире, где суррогаты сопровождают нас от первой до последней минуты жизни: суррогатное материнство, суррогатная еда, суррогатная реальность. И вот теперь – суррогатные кладбища и суррогатные покойники. Это ли не разрушение цивилизации? Это ли не фатальная ошибка судьбы человека? 

Так что, то, над чем призвал нас задуматься Патриарх – это не вопрос технологий, это вопрос: останемся ли мы людьми? Превращение наших кладбищ в очередной «Диснейленд» под предлогом традиционных ценностей – это та же самая манипуляция, что скорбный Освенцим сделала обычной развлекаловкой.  

 Таков наш век, его ложь, его правда и наш тест!