Между человеком и информацией: вызовы современной цифровой среды

Доклады

Доклад иерея Николая Кололо, настоятеля прихода храма Преображения Господня агрогородка Черкассы Дзержинского района, магистра богословия, на XII Рождественских образовательных чтениях Молодечненской епархии.

Современная цифровая эпоха характеризуется беспрецедентным технологическим прогрессом. За последние десятилетия мы стали свидетелями колоссального научно-технического скачка, который оказал влияние на многие аспекты человеческой жизни.

Первым этапом, оказавшим значительное влияние на современное общество, стало распространение глобальной сети Интернет в 1990-е годы, которое привело к появлению нового информационного пространства, получившего наименование «виртуального».[1]В настоящее время в него включается всё больше людей разных верований и представлений, и оно оказывает всё более ощутимое влияние на сознание и повседневную жизнь современного общества. Социальные платформы, видеоконтент и новостные ленты становятся средствами, через которые человек формирует свое видение, мнение и оценивает происходящее. Именно поэтому вопросы присутствия различных социальных групп в виртуальном пространстве, их активной деятельности и воздействия на сознание интернет-аудитории выносятся сегодня на повестку дня как одни из важнейших.

Эти вопросы нашли отражение и в церковном осмыслении сетевых технологий. Несколько лет назад представители Русской Православной Церкви высказывали различные мнения о влиянии информационного интернет-пространства на жизнь православного человека и общества в целом, обращая внимание как на открывающиеся перспективы, так и на возможные негативные последствия его использования.

На сегодняшний день совершенно очевидно: цифровая среда стала мощным средством для просвещения человека светом Евангельской Истины.

В своем докладе на Архиерейском Соборе 2013 года Святейший Патриарх Кирилл особо подчеркнул необходимость развития миссионерской деятельности в сети Интернет. «Миссия Церкви может и должна быть широко распространена в интернет-пространстве. Блоги, социальные сети — всё это дает новые возможности для христианского свидетельства. Не присутствовать там — значит расписаться в собственной беспомощности и нерадении о спасении собратьев». [2]

Вместе с тем Святейший Патриарх обратил внимание и на возможные последствия некритичного использования современных технологий.

В 2026 году современные технические устройства, такие как смартфон, ноутбук или компьютер, стали привычными инструментами для многих из нас. Благодаря этим устройствам и доступу к глобальной сети Интернет мы имеем широкие возможности для ведения социальной, миссионерской и просветительской деятельности, создания и ведения телеграм-каналов, епархиальных и приходских сайтов, публикации проповедей и общения с прихожанами. Используя эти инструменты в повседневной жизни и служении, мы порой уже не замечаем, насколько прочно цифровые технологии вошли в нашу жизнь.

Поэтому, склонные критиковать технический прогресс и видеть в нем лишь угрозу, мы неизбежно сталкиваемся с одним простым вопросом: как часто в течение дня мы сами берем в руки свой телефон или смартфон — чтобы ответить на сообщения, свериться с расписанием богослужений, прочитать новости или включить навигатор?

Честно ответив себе на этот вопрос, мы придем к очевидному выводу: мы давно живем в реальности цифровой эпохи, и ключевая проблема здесь, вероятно, заключается не в самих устройствах или алгоритмах, а в том, как, с какими намерениями и в какой мере мы их используем.

Следующим этапом развития цифровой среды, с которым столкнулось человечество, стала активная интеграция так называемых систем искусственного интеллекта (ИИ) в различные сферы общественной жизни — от науки и экономики до образования и медицины.

Находясь на переднем крае технологических инноваций, искусственный интеллект сегодня становится неотъемлемой частью нашей повседневной жизни, хотя зачастую это не осознаётся широкой аудиторией. Это порождает иллюзию того, что ИИ — это технология далекого будущего, которая только начинает свое развитие.

На самом деле искусственный интеллект (ИИ) уже несколько десятилетий находится в центре научных и общественных дискуссий. По мере того как технологии ИИ, такие как машинное обучение, обработка естественного языка и робототехника, всё больше интегрируются в различные отрасли, их влияние на повседневную жизнь становится всё более значительным. Смартфоны, оснащенные интеллектуальными ассистентами, такими как Алиса, Siri или Google Assistant, ежедневно помогают пользователям в решении задач, начиная от поиска информации и заканчивая управлением умным домом. В компьютерах и ноутбуках системы ИИ анализируют предпочтения пользователей, оптимизируя работу приложений для более точного подбора контента и обеспечивая персонализированный опыт. Алгоритмы машинного обучения на платформах социальных сетей, таких как Facebook и Instagram, формируют ленты новостей, предсказывая, какой контент будет наиболее интересен.

Более того, подобные технологии уже используются и в современной церковной информационной среде. Например, просматривая на видеоплатформах, таких как YouTube, записи проповедей или выступлений священнослужителей других Поместных Православных Церквей, мы можем увидеть автоматически созданные субтитры, которые появляются благодаря работе алгоритмов распознавания речи.

При работе с иностранными текстами программы автоматического перевода позволяют знакомиться с богословскими и научными публикациями на иностранных языках. Не менее интересные возможности открываются и в области изучения церковного исторического наследия. Сегодня исследователи используют технологии машинного распознавания текста для работы с древними рукописями, что позволяет значительно облегчить их изучение и последующую обработку и т.д.

Фактически искусственный интеллект открывает новые возможности для развития науки, экономики, образования и многих других сфер общественной жизни. Однако вместе с этими возможностями возникают и важные этические, философские и духовные вопросы, в том числе и для православных христиан.

Православная Церковь Христова неизменно подчеркивает святость человеческой жизни, уникальность свободы воли, нравственную ответственность за принимаемые решения и неоспоримую истину о том, что человек сотворен по образу и подобию Божию. В то же время отдельные идеологи и разработчики систем искусственного интеллекта предлагают миру иные антропологические сценарии, в которых машины потенциально могут имитировать когнитивные функции [3] человека или даже превосходить их.

Возникающие в связи с этим вопросы становятся предметом активного обсуждения в Русской Православной Церкви, поскольку затрагивают важнейшие аспекты христианской антропологии и этики.

Так что же такое искусственный интеллект (ИИ)? Согласно определению Национального института стандартов и технологий (NIST), система искусственного интеллекта (Artificial Intelligence, AI) — это инженерная или машинная система, способная при заданном наборе целей генерировать такие результаты, как прогнозы, рекомендации или решения, влияющие на реальную или виртуальную среду.[4]

Следует заметить, что в данном докладе рассматриваются исключительно системы так называемого узкого искусственного интеллекта (Artificial Narrow Intelligence, ANI), ориентированные на решение конкретных специализированных задач. Концепции общего искусственного интеллекта (Artificial General Intelligence, AGI), способного решать любые интеллектуальные задачи на уровне человека, или гипотетического сверхинтеллекта (Artificial Superintelligence, ASI) остаются за рамками настоящего исследования.

Если говорить совсем просто, современные системы искусственного интеллекта — это совокупность технологий и методов, которые позволяют компьютеру (или математической модели ИИ) обучаться на большом количестве примеров, находить в них закономерности, оценивать вероятности различных вариантов и на этой основе делать прогнозы или создавать новое содержание.

Что это означает на практике и как это работает? Рассмотрим очень простой пример, который поможет понять основные принципы работы таких систем.

Следует заметить, что без понимания этих принципов трудно содержательно рассуждать об искусственном интеллекте и обоснованно оценивать его возможности и ограничения. 

Представим себе, что мы хотим научить компьютер (или современную модель ИИ) отличать фотографии православных храмов от фотографий других религиозных сооружений — римо-католических храмов, мечетей и синагог.

Для этого мы используем множество изображений с характерной архитектурой, а внизу добавляем правильные подписи: «православный храм», «костел», «мечеть» и так далее.

Во время обучения мы загружаем эти изображения в компьютер, а математическая модель (программа, выполняющая сложные вычисления на сервере), «прогоняя» их через себя многократно, порою миллионы раз, постепенно настраивает свои внутренние параметры таким образом, чтобы всё точнее распознавать каждый объект, изображенный на фотографии. [5]

Конечно, сначала система ошибается, и ошибается очень много раз. Но по мере обучения и исправления ошибок их становится всё меньше. А современные вычислительные мощности позволяют значительно ускорить этот процесс. После продолжительного обучения мы показываем модели ИИ новую фотографию, которую раньше в нее не загружали, но которая запечатлевает характерную архитектуру православного храма. И компьютер определяет, что, вероятнее всего, это православный храм.

Ключевые слова здесь — «вероятнее всего». Вероятнее всего, перед нами православный храм, однако это может оказаться, например, и жилой дом конца XIX — начала XX века в неорусском стиле.

Высокая вероятность, вычисленная моделью, еще не гарантирует абсолютной правильности ответа. Модель может ошибаться — причем иногда очень уверенно. И это крайне важный вопрос, о котором мы подробно поговорим в разделе, посвященном достоверности сгенерированных ИИ ответов.

А для более глубокого понимания специфики работы ИИ целесообразно ответить на еще один, общераспространенный вопрос: чем искусственный интеллект принципиально отличается от обычных поисковых систем, с которыми каждый из нас уже долгое время сталкивается в повседневной цифровой среде? Человечество ведь уже довольно давно пользуется такими поисковыми системами как Google, Яндекс, Bing и другими и, казалось бы, никаких проблем никогда не возникало. Почему же появление ИИ требует особого внимания?

Прежде всего следует заметить, что проблемы «возникали» и «возникают», но развитие цифровых технологий настолько стремительно, что мы просто порою даже не успеваем осмыслить происходящие изменения. Теперь в нашу повседневную жизнь входит генеративный ИИ, и нам предстоит разобраться, что именно меняется с его появлением.

Поэтому в данном докладе предлагаю кратко сопоставить эти цифровые технологии, чтобы наглядно увидеть разницу между тем, как машина просто ищет готовую информацию по ключевым словам и тем, как она работает с данными на принципиально ином уровне.

Традиционные поисковые системы — Google, Яндекс, Bing — уже давно стали привычным инструментом, используемым в нашей жизни для поиска новой информации. Мы прибегаем к этим системам практически ежедневно, чтобы быстро найти нужные сведения или решить какие-либо повседневные задачи, даже не задумываясь о том, что именно делает машина, когда мы вводим несколько слов в строку поиска.

Между простым запросом и мгновенной выдачей списка ссылок на полезные ресурсы разворачивается незаметная для нашего сознания сложная работа алгоритмов, объединяющая миллиарды документов в единую, постоянно обновляющуюся структуру. Работу традиционных поисковых систем можно условно представить в виде четырех основных этапов: сканирование, индексация, ранжирование и выдача результатов. [6]

На первом этапе специальные программы обнаруживают новые страницы в сети Интернет. Затем поисковая система анализирует их содержание и сохраняет необходимые сведения в собственной базе данных. Когда пользователь вводит поисковый запрос, система обращается к этой базе, определяет наиболее подходящие страницы, располагает их в определенном порядке и выдает пользователю список ссылок на найденные материалы.

Таким образом, мы видим, что традиционные поисковые системы работают в рамках классической логики поиска совпадений. Они является по сути, уникальными, но пассивными инструментами, способными обработать невообразимые объемы данных, не вступая при этом в диалог с пользователем и оставаясь безучастными к предоставляемой информации, оставляя за человеком возможность самостоятельно ознакомиться с ними, сопоставить полученные сведения и сделать соответствующие выводы.

Функционирование генеративных моделей основывается на иных принципах. Искусственный интеллект не осуществляет поиск готового ответа в интернет-среде, как это делает поисковая система (если такая задача не будет специально поставлена), а формирует его самостоятельно — путем сложных математических вычислений, направленных на построение вероятностной языковой последовательности слов и предложений, что в результате приводит к созданию связанного, удобопонятного текста, близкого по форме к естественной человеческой речи. [7]

По сходному принципу работают и популярные большие языковые модели (LLM), такие как ChatGPT, Gemini, Claude и DeepSeek, с которыми многие из нас уже вероятно сталкивались при использовании современных систем искусственного интеллекта.

Такое вероятностное моделирование становится возможным благодаря применению методов машинного обучения (ML) и глубинного обучения (DL), при которых языковая модель обучается на огромных массивах данных. В процессе такого обучения выявляются устойчивые закономерности появления слов, словосочетаний и смысловых структур человеческого языка, что приводит, в свою очередь, к формированию новых, ранее не существовавших текстов. [8]

В качестве иллюстрации далее приводится пример обучения большой языковой модели (LLM) на корпусе текстов Святых Отцов Церкви. 

  1. На первом этапе языковая модель ИИ многократно «читает» собрание сочинений святителей Василия Великого, Иоанна Златоуста или Григория Богослова. Она не заучивает их наизусть, а, как уже было описано, изучает закономерности языка: какие слова чаще встречаются рядом, как строится предложение, какие обороты речи употребляются для объяснения богословских истин и т.д.
  2. При многократном «прочтении» этих текстов (миллиарды раз подряд!) модель постепенно настраивает свои внутренние параметры — так называемые веса нейронов — до тех пор, пока не достигает минимальной ошибки в предсказании последующего слова.  Это значит, что каждый раз при прохождении текстов модель начинает лучше «улавливать», какое слово, выражение или мысль обычно следуют друг за другом.
  3. В результате такого обучения в памяти модели не остаются ни сами тексты, ни страницы, ни файлы. Всё, что она усваивает, —это статистические закономерности речи святителей Василия Великого, Иоанна Златоуста или Григория Богослова: структуру языка, характер построения мыслей, логику аргументации, ритм и последовательность изложения.
  4. Когда модель получает новый вопрос по данной тематике, она уже не обращается к документам, как поисковая система, а воссоздает его в той же манере, в которой писали эти святые угодники Божии, опираясь на изученные прежде закономерности.

Таким образом, внутренняя архитектура искусственного интеллекта представляет собой не статистический архив знаний, а динамическую среду, в которой знание проявляется только в момент обращения пользователя к модели. [9]

И здесь мы соприкасаемся с еще одним вопросом, который был озвучен выше.

Почему при обращении к той или иной языковой модели мы порой получаем недостоверную информацию — несуществующие тексты, цитаты или ссылки на источники? Иными словами, почему искусственный интеллект может ошибаться? В научной среде подобное явление получило название «конфабуляции ИИ». [10]

Ответ на этот вопрос во многом связан с теми принципами работы языковых моделей, о которых мы только что говорили.

Представим себе, что мы задаем нейросети вопрос: «Что говорил святитель Иоанн Златоуст о воспитании детей?»

Как уже было сказано выше, во время обучения языковая модель обрабатывала огромное количество текстов. Она усвоила особенности языка святителя, характерные выражения, структуру его рассуждений и сведения, связанные с его произведениями. Получив наш вопрос, модель начинает формировать ответ, используя усвоенные закономерности.

И вот здесь возникает проблема.

Допустим, модель не располагает на данный момент, достаточной информацией о конкретном высказывании святителя.

Однако поскольку одной из основных задач языковой модели ИИ является выдача ответа на запрос пользователя, вместо того чтобы сообщить об отсутствии достоверных сведений, она начинает формировать фразу, которая по своему содержанию и стилю и изложению очень напоминает поучения святителя.

Более того, она способна представить эту фразу как подлинную цитату и даже указать название произведения, в котором якобы содержится данное высказывание.

В результате мы получаем красивый, убедительный, вполне соответствующий слогу святителя Иоанна Златоуста текст, которого сам он никогда не произносил.

Таким образом, языковая модель в некотором смысле становится «заложницей» особенностей собственного обучения и настройки. [11]

Но почему же модель ИИ не предупреждает, что может ошибаться?

Потому что в основе работы языковой модели лежит вероятностное построение ответа, а не обязательная проверка каждого утверждения по достоверным источникам. Поэтому даже грамматически безупречный и логически связанный ответ может содержать фактические ошибки. [12]

Конечно, современные модели ИИ с каждым обновлением становятся более совершенными, они уже могут использовать поиск, обращаться к внешним источникам, проверять информацию и даже отказываться от ответа, если не располагают необходимыми сведениями. Однако и эти возможности не гарантируют абсолютной достоверности полученной информации.

Поэтому каждый раз, обращаясь к системам искусственного интеллекта, всегда следует помнить: убедительность сформированного ответа еще не свидетельствует об его истинности.

Важно еще раз отметить, что традиционные системы взаимодействия человека с информацией в цифровом пространстве строились по принципу: запрос — ответ. Пользователь формулировал запрос на интересующую его тему, получал список ссылок и самостоятельно выбирал источник, соответствующий его интересу. Такой формат предполагал, что человек остается субъектом познания — он управляет процессом поиска, интерпретирует результаты и несет ответственность за понимание.

С появлением современных генеративных моделей форма взаимодействия человека с информацией изменяется принципиально.

Искусственный интеллект больше не выдает набор внешних источников, как поисковая система, а интегрируется незаметно в сам процесс человеческого мышления — он предлагает четкий, осмысленный ответ, реагирует на уточнения, помнит контекст разговора и способен адаптировать стиль общения. По сути, взаимодействие с искусственным интеллектом превращается в диалог, в котором система уже не просто передает информацию, а участвует в ее формировании и интерпретации для пользователя.

Появление генеративных языковых моделей, несомненно, открывает новые возможности перед человечеством, но также ставит вопросы, связанные с духовной и психологической безопасностью человека.

В частности, когда цифровая система отвечает на запрос пользователя осмысленно, грамматически безупречно и даже эмоционально окрашенно, у пользователя незаметно возникает иллюзия присутствия другой личности. Человек начинает воспринимать искусственный интеллект не как сложный математический инструмент, а как мыслящего собеседника, способного слушать, понимать, объяснять и подсказывать.

В психологии данный эффект описывается как персонификация искусственного интеллекта. [13] Персонификация — естественная реакция человеческого сознания искать личностные черты даже в неодушевленных предметах.

Но в случае с искусственным интеллектом этот эффект усиливается многократно: ответы не только грамматически верны, но и содержательно связаны с контекстом и намерением пользователя. Проще говоря, искусственный интеллект не только предлагает информацию, но интерпретирует ее, облекая в удобную для восприятия форму, предлагая новые выражения, аргументы, факты, тем самым, активно участвуя в формировании мыслительного процесса человека. [14]

Использование технологий ИИ подобным образом может постепенно и незаметно изменить сам характер человеческого мышления.

Человек, который делегирует алгоритму сам труд поиска, анализа и синтеза информации, оказывается в крайне уязвимой позиции. Начиная слепо доверять готовому, безупречно оформленному ответу, он постепенно утрачивает способность к критическому восприятию и самостоятельной оценке.

И здесь мы подходим к очень важному вопросу: не приведет ли это состояние к формированию некой когнитивной пассивности — особого типа умственной зависимости, при котором человек уже не ищет смысл самостоятельно, а вверяет процесс рассуждения искусственному интеллекту, незаметно признавая за ним авторитет учительства?

Для такого человека уже не будет существовать уважения к науке, личному опыту или духовному рассуждению — всё это будет подменяться доверием к «языковой убедительности», где лучше сформулированный ответ будет ставить под сомнение все достижения человеческого опыта.

Сегодня, в 2026 году, подобная подмена — уже не гипотетическая угроза, а наша повседневная реальность. Вызовы, с которыми мы сталкиваемся, простираются от простых житейских ситуаций, таких как недобросовестное использование технологий ИИ в учебных заведениях, при подготовке учебных и научных работ и написании проповедей, до опасных цифровых манипуляций.

Вероятно, кто-то из присутствующих в этом зале уже сталкивался с этим явлением, когда прихожане утверждают, будто нейросеть «открыла» им важнейшую духовную истину, о которой почему-то молчал священник.

Об этой проблеме и о необходимости внимательного, трезвенного отношения к нейросетям говорит известный миссионер иерей Георгий Максимов: «Недавно я высказал опасение, что в будущем некоторые люди могут попытаться строить представление о христианской вере, основываясь на ответах нейросетей, возможно, даже свою духовную жизнь станут сверять с искусственным интеллектом.

Но я не ожидал, что это начнется так быстро. Уже сейчас встречаю людей, считающих себя православными (с кем-то говорил лично, с кем-то переписывался), которые апеллируют к знаниям о христианстве, полученным от нейросетей. Причем ссылаются на эти ответы как на абсолютную истину.

Меня поразило, что они ссылаются на нейросети так, как должны ссылаться на Вселенские Ссоборы или на святых отцов. Некоторые даже заявляли: «Я спрашивал у нейросети, она говорит так, а вы иначе». Значит, я, живой священник, кандидат богословия, ошибаюсь, потому что противоречу тому, что говорит нейросеть». [15]

Однако диапазон таких вызовов сегодня стал значительно шире: так, мы видим появление так называемых, виртуальных «ИИ-священников», появившихся на видео платформах, которые стремительно захватывают внимание православной аудитории. Для этого применяются определенные приемы работы с человеческим сознанием. [16]

В частности, одним из таких приемов является эстетическое формирование доверия (визуальной суггестии). [17]

Пользователю предлагаются видео, которые с первых секунд просмотра привлекают внимание своей нереально красочной, эстетизированной картинкой. Видеоряд наполнен прекрасными изображениями православных храмов или монастырей в живописнейших уголках нашей планеты, что с первых секунд погружает зрителя в атмосферу «благоговения» и снимает первичный барьер критического восприятия.

Другим приемом является создание идеализированного образа священнослужителя.

Как правило, на видео перед зрителем предстает мужчина средних лет с длинной бородой, добрым, словно «светящимся» взглядом, приветливой улыбкой и глубоким, спокойным голосом. Такой образ подсознательно апеллирует к памяти о святых угодниках Божиих, опытных духовниках, древних подвижниках благочестия, обладающих если не даром «прозорливости», то по крайней мере глубоким духовным опытом.

Для закрепления этой иллюзии виртуальные персонажи прямо декларируют свой «авторитет», используя фразы о «тридцатилетнем служении у престола Божия» и «высших благословениях», окончательно снимая барьеры восприятия и закрепляя в сознании пользователя абсолютное доверие к транслируемому контенту. [18]  Следует добавить, что речь ИИ-священника отличается своей «чистотой», где практически отсутствуют «слова-паразиты», характерные для любого живого человека. В результате создается ощущение почти безупречной, выверенной речи, которая еще больше усиливает благоговейное впечатление.

Наиболее тревожным фактором является реакция зрителей на подобные видеоролики: значительная часть из них, как правило, люди старшего возраста, не распознаёт искусственную природу контента. В комментариях они искренне обращаются к алгоритму, как к живому пастырю, благодарят «батюшку» за «духовное просвещение» и желают здоровья ему и его несуществующему приходу.

Несложно догадаться, к каким психологическим и духовным последствиям может привести такая цифровая имитация свою доверчивую аудиторию.

Однако такая подмена не ограничивается генерацией вымышленных персонажей. Параллельно мы наблюдаем еще более опасный вектор развития данной технологии — прямую цифровую подмену реальных живых людей. [19]

На Западе, где подобные технологии уже прочно заняли свое место в медиапространстве, появился целый ряд резонансных случаев создания сгенерированных цифровых двойников авторитетных проповедников для распространения подложных проповедей, псевдодуховных фейков и фиктивного сбора средств. В этих видео сгенерированный алгоритмом образ священника произносил проповеди или собирал пожертвования, к которым сам реальный священник не имел никакого отношения. [20]

Подобные эпизоды являются для нас наглядным примером тех изменений, с которыми мы, с высокой долей вероятности, столкнемся в ближайшем будущем. И своевременное осознание этой проблематики уже сейчас позволит нам быть готовыми к этим ситуациям.

Однако вызовы современной цифровой среды на этом не заканчиваются. Чрезмерная персонификация искусственного интеллекта может приводить к еще более серьезным, а порой и трагическим последствиям.

Так, в период с 2023 по 2025 год стало известно о нескольких трагических случаях самоубийства людей, длительное время общавшихся с системами искусственного интеллекта. По опубликованным сведениям, опасность от нейросетей заключалась не столько в ошибочных или потенциально вредных ответах, сколько в постепенном формировании глубокой эмоциональной зависимости, когда искусственный интеллект начинал восприниматься человеком как близкий собеседник и авторитетный источник суждений. [21]

Разумеется, это далеко не полный перечень тех сложностей, с которыми сталкивается современное общество при использовании систем искусственного интеллекта. Развитие цифровых технологий происходит настолько стремительно, что мы порой не успеваем осмыслить уже возникшие проблемы, тогда как перед нами появляются всё новые. И вполне вероятно, что в ближайшем будущем мы столкнемся с еще более сложными формами недобросовестного использования этих технологий.

Однако своевременное осмысление возникающих цифровых изменений, понимание основных принципов работы появившихся систем искусственного интеллекта помогут выработать правильный подход к данным технологиям и избежать многих трудностей, связанных с их дальнейшим использованием.

Памятка по ответственному использованию систем искусственного интеллекта

Практические рекомендации для священнослужителей и церковных работников

Несколько правил корректного использования систем ИИ, о которых всегда нужно помнить:

  1. Искусственный интеллект (ИИ) — это сложный технический инструмент, а не личность.
    Недопустимо приписывать системам искусственного интеллекта человеческое сознание, свободу воли, духовный опыт и нравственную ответственность.
  2. Не следует принимать убедительный ответ ИИ за достоверную информацию.
    Искусственный интеллект может создавать несуществующие тексты, цитаты, приписывать высказывания известным авторам и указывать вымышленные источники. Всегда при взаимодействии с ИИ проверяйте полученные сведения. Особую осторожность следует проявлять при запросах, исследующих Священное Писание, творения святых отцов и церковно-исторические документы.
  3. Сохраняйте самостоятельность Богом данного мышления и суждения.
    Используйте искусственный интеллект для поиска, анализа и систематизации информации, но никогда не передавайте ему право окончательной оценки полученных сведений. Ответственность за принимаемые решения всегда остается за человеком.
  4. Помните о возможности цифровой подмены личности.
    Современные технологии позволяют искусственно воспроизводить внешность, голос и манеру речи реальных людей. Видеозапись с участием известного священнослужителя сама по себе еще не гарантирует подлинности его высказываний. Перепроверяйте информацию через официальные церковные ресурсы.
  5. Никогда не подменяйте живое человеческое общение взаимодействием с алгоритмом.
    Искусственный интеллект может создавать иллюзию близкого собеседника, способного выслушать, понять и поддержать человека. Однако подобное взаимодействие не должно заменять живое общение с родными, близкими и друзьями, а в вопросах духовной жизни — личное пастырское общение и духовное руководство.

[1] CERN. Рождение Web. Европейская организация по ядерным исследованиям [Электронный ресурс]. – Режим доступа: https://home.cern/science/computing/the-birth-of-the-web. – Дата доступа: 05.11.2026.

[2] Доклад Святейшего Патриарха Кирилла на Архиерейском Соборе Русской Православной Церкви (2 февраля 2013 г.) // Портал «Патриархия.ру». [Электронный ресурс]. – Режим доступа: https://patriarchia.ru/article/96863. – Дата доступа: 05.11.2026.

[3] Когнитивные способности — навыки мозга усваивать и обрабатывать информацию об окружающем нас мире.

[4] Artificial Intelligence Risk Management Framework (AI RMF 1.0). – Gaithersburg, MD : National Institute of Standards and Technology (NIST), 2023. – P. 1

[5] Google. TensorFlow, Keras and deep learning, without a PhD // Google Codelabs [Электронный ресурс]. – Режим доступа: https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist?utm_source=chatgpt.com&hl=ru#0. – Дата доступа: 05.11.2026.

[6] Подробное руководство по принципам работы Google поиска // Google Search Central [Электронный ресурс]. – Режим доступа:  https://developers.google.com/search/docs/fundamentals/how-search-works?hl=ru. – Дата доступа: 07.11.2026.

[7] Understanding Language Models and Artificial Intelligence // Verbit [Электронный ресурс]. – Режим доступа : https://verbit.ai/general/understanding-language-models-and-artificial-intelligence/. – Дата доступа : 07.11.2026.

[8] Как работают языковые модели.  // Портал «ЯндексПрактикум»  [интернет-ресурс]. – Режим доступа: https://practicum.yandex.ru/blog/yazykovye-modeli-i-kak-oni-rabotayut/.
– Дата доступа: 07.11.2026.

[9] Understanding Language Models and Artificial Intelligence // Verbit [Электронный ресурс]. – Режим доступа : https://verbit.ai/general/understanding-language-models-and-artificial-intelligence/. – Дата доступа : 07.11.2026.

[10]  Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. // National Institute of Standards and Technology, [Электронный ресурс]. – Режим доступа : https://doi.org/10.6028/NIST.AI.600-1?. – Дата доступа : 07.11.2026.

[11] Kalai A. T., Nachum O., Vempala S. S., Zhang E. Why Language Models Hallucinate // arXiv. 2025. [Электронный ресурс]. – Режим доступа : https://arxiv.org/abs/2509.04664. – Дата доступа : 07.11.2026.

[12] Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. // National Institute of Standards and Technology, [Электронный ресурс]. – Режим доступа : https://doi.org/10.6028/NIST.AI.600-1?. – Дата доступа : 07.11.2026.

[13] Peter S., Riemer K., West J. D. The Benefits and Dangers of Anthropomorphic Conversational Agents // Proceedings of the National Academy of Sciences [Электронный ресурс]. – Режим доступа : https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/. – Дата доступа : 09.11.2026.

[14] Peter S., Riemer K., West J. D. The Benefits and Dangers of Anthropomorphic Conversational Agents // Proceedings of the National Academy of Sciences [Электронный ресурс]. – Режим доступа : https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/. – Дата доступа : 09.11.2026.

[15] Максимов Г., иер. Значит, я, живой священник, кандидат богословия, ошибаюсь, а нейросеть права? // Семья, Любовь, Отечество. [Электронный ресурс]. – Режим доступа : https://www.semlot.ru/zdravookhranie/96-actual/informatsionnaya-bezopasnost/17307-znachit-ya-zhivoj-svyashchennik-kandidat-bogosloviya-oshibayus-a-nejroset-prava. – Дата доступа : 09.11.2026.

[16] Кололо Н., иер. «ИИ-священники»: новое явление цифровой эпохи?! // ИИ & вера. Цифровые подмены [Электронный ресурс]. – Режим доступа : https://proprihod.info/ai__faith/ostorozhno-pervye-czifrovye-pomoshhniki-uzhe-zdes.html. – Дата доступа : 09.11.2026.

[17] Robins D., Holmes J. Aesthetics and credibility in web site design // ScienceDirect. [Электронный ресурс]. – Режим доступа : https://www.semlot.ru/zdravookhranie/96-actual/informatsionnaya-bezopasnost/17307-znachit-ya-zhivoj-svyashchennik-kandidat-bogosloviya-oshibayus-a-nejroset-prava. – Дата доступа : 09.11.2026.

[18] Кололо Н., иер. «ИИ-священники»: новое явление цифровой эпохи?! // ИИ & вера. Цифровые подмены [Электронный ресурс]. – Режим доступа : https://proprihod.info/ai__faith/ostorozhno-pervye-czifrovye-pomoshhniki-uzhe-zdes.html. – Дата доступа : 09.11.2026.

[19] AI-generated Pope sermons flood YouTube, TikTok // AFP FactCheck. [Электронный ресурс]. – Режим доступа : https://factcheck.afp.com/doc.afp.com.49J76NP. – Дата доступа : 09.11.2026.

[20] Tenbarge K. AI Deepfakes Are Impersonating Pastors to Try to Scam Their Congregations // WIRED. [Электронный ресурс]. – Режим доступа : https://www.wired.com/story/ai-deepfakes-are-impersonating-pastors-to-try-and-scam-their-congregations/. – Дата доступа : 09.11.2026.

[21] Ruggieri R. A., Ragosta A., Balcombe L. LLM-Based Chatbots and the Suicidal Crisis: A Bi-Logical Account of Relational Hallucination // MDPI, International Journal of Environmental Research and Public Health. [Электронный ресурс]. – Режим доступа : https://factcheck.afp.com/doc.afp.com.49J76NP. – Дата доступа : 09.11.2026.

Поделиться в социальных сетях