На круглом столе, посвященном рискам и возможностям искусственного интеллекта, участники обсудили этические аспекты применения новых технологий как в повседневной жизни, так и в работе средств массовой информации. В рамках мероприятия, организованного Волгоградской епархией, выступили протоиерей Алексий Маслов, помощник руководителя Отдела по взаимодействию Церкви с обществом и СМИ, протоиерей Вячеслав Патрин, благочинный Зацарицынского округа и директор Центра подготовки церковных специалистов, а также Антон Лукаш, член Общественной палаты Волгоградской области и модератор встречи.
В своем выступлении Антон Лукаш изложил важный тезис: главная угроза, исходящая от искусственного интеллекта, заключается не в том, что машины могут научиться мыслить, как люди, а в том, что человечество может потерять способность мыслить самостоятельно. Он выделил несколько критических проблем, среди которых утрата субъектности, когда алгоритм становится посредником между человеком и реальным миром, подбирая информацию и формируя объяснения. Лукаш также отметил, что иллюзия всезнания и имитация личности, особенно среди детей, представляют собой серьезные риски. Концентрация интеллектуальной власти в руках разработчиков определенных моделей и проблема истины — это еще два аспекта, требующие серьезного анализа, поскольку «высокая связанность текста создает впечатление достоверности, но не равна истинности выводов». Кроме того, он подчеркнул разрыв между возможностями и ответственностью, а также подмену человеческого целеполагания машинной оптимизацией.
Протоиерей Вячеслав Патрин акцентировал внимание на том, что обсуждение искусственного интеллекта важно не только для Церкви, но и для общества в целом. Он отметил, что искусственный интеллект — это реальность, с которой мы сталкиваемся уже сейчас, а не что-то далекое и фантастическое. Сравнив ИИ с инструментом, таким как топор, священник указал на сложности, связанные с его использованием. Он отметил, что этот инструмент «самонаводящийся» и в определенной степени обладает характеристиками субъектности. Однако важнейшей проблемой является состояние самого общества.
«Наше российское общество подошло к проблеме искусственного интеллекта не в самой лучшей форме. У нас нет хороших коммуникаций, и мы разобщены», — подчеркнул отец Вячеслав. Он пояснил, что в обществе, где люди умеют хорошо общаться, новая технология не вызывала бы опасений, тогда как в условиях ослабления навыков живого общения люди теряют контакт друг с другом. Это, по его словам, отражается и на семьях: многие разводы происходят из-за невозможности наладить коммуникацию внутри семьи.
Священнослужитель отметил важность «внутренней нравственной мобилизации» и добавил, что текущая кризисная ситуация может стать стимулом для общества «очнуться» и вновь задуматься о том, что значит быть человеком, гражданином своей страны и представителем своего народа.
Отец Алексий Маслов подчеркнул, что риски полного «слияния» с нейросетью еще не оценены ни молодежью, ни школьниками, ни учителями. Он напомнил о библейской истории о сотворении человека, где труд рассматривается как путь к благу. «Сегодня человечество пытается с помощью искусственного интеллекта прийти к результату сразу, что является искушением, подобным тому, которому были подвержены Адам и Ева. Отказываясь от желания трудиться, человек обесценивает собственную личность, ведь без труда невозможно никакое развитие», — заявил священник.
Отец Алексий также указал на то, что каждый алгоритм имеет своего владельца с определенными целями, поэтому важен суверенитет искусственного интеллекта. Он напомнил о случаях, когда фейковые ответы приводили людей к самоубийству через «романтическое» общение или использованию нейросетей для финансовых преступлений.
Антон Лукаш выделил несколько сигналов опасности для родителей: эмоциональные перемены в личности ребенка, необычная секретность, неизвестные авторитеты, подозрительные поручения и внешнее давление. «Алгоритм защиты прост: заметить, поговорить, подключить помощь, обеспечить безопасность», — резюмировал он. Это касается всех слоев населения, но особенно детей. Необходимо изучать искусственный интеллект и понимать, как он устроен, одновременно ограничивая свое участие в нем и не превращая его в советчика или духовного наставника, а рассматривая как технологию для получения нужной информации.
Круглый стол продемонстрировал, что обсуждение искусственного интеллекта — это прежде всего разговор о человеке. Выбор остается за обществом, которое должно ответить на вопросы о труде, нравственности и субъектности, прежде чем за него ответит алгоритм искусственного интеллекта.