В РПЦ оценили риски применения ИИ для выявления социально опасных учеников
Применение компьютерных технологий для выявления учащихся, склонных к деструктивному поведению, оправдано в ряде случаев, однако ошибки в работе таких систем могут испортить репутацию человека, заявил РИА Новости зампредседателя синодального отдела Московского патриархата по взаимоотношениям Церкви с обществом и СМИ Вахтанг Кипшидзе.
Ранее «Ведомости» сообщили, что в России планируется применять компьютерные технологии для выявления учащихся со склонностями к социально опасному и деструктивному поведению, в частности через анализ их письменных работ, а финансирование на создание программного обеспечения предусмотрено в проекте федерального бюджета на 2022 год и плановый период 2023–2024 годы. По мнению первого зампредседателя комитета по образованию и науке в Госдуме VII созыва Олега Смолина, слова которого приводит издание, толчком для создания проекта по разработке программного обеспечения послужили «участившиеся случаи насилия в учебных заведениях».
По словам Кипшидзе, для обеспечения безопасности учащихся «в ряде случаев нужно использовать новые информационные технологии», в том числе построенные на алгоритмическом анализе текстов, которые пишет человек.
«Мне ничего неизвестно о том, насколько такая схема может быть эффективна, это открытый вопрос. Открытым также является вопрос, насколько ошибка системы, а они наверняка будут, сможет испортить репутацию человека, который на самом деле не представляет опасности для общества. Мне кажется также неверным, что подобные мониторинговые системы рассматриваются как чуть ли не единственный рецепт для профилактики насильственных действий со стороны школьников», - сказал Кипшидзе. По его мнению, семья и школа должны создавать «атмосферу любви, уважения к жизни, внимания и терпения», в противном случае «никакой искусственный интеллект не будет способен исправить ситуацию».
«Для того чтобы эти традиционные институты общества, взаимодействующие и с религиозными общинами, играли эту роль, нужна материальная и моральная поддержка со стороны государства», - заключил собеседник агентства.