Национальная комиссия по этике в сфере искусственного интеллекта попросила Минобрнауки регламентировать использование генеративных моделей ИИ в учебном процессе. Об этом говорится в письме комиссии министру науки и высшего образования Валерию Фалькову, пишут «Ведомости».
Председатель комиссии Андрей Незнамов считает, что лучше всего — адаптировать сферу образования к использованию генеративных нейросетей, поскольку технологии все равно продолжат развиваться.
В письме говорится об этической проблеме, связанной с невозможностью отличить текст, сгенерированный ИИ, от написанного человеком. В то же время использование ChatGPT и аналогичных решений поможет сократить время на рутинные операции — компоновку материалов и форматирование текста, отмечают авторы обращения.
«Использование таких технологий может быть уместно и полезно для освоения отдельных специальностей и навыков и в ряде случаев не будет противоречить обязанности студентов выполнять работу самостоятельно», — считают они.
Профессора, опрошенные «Ведомостями», тоже выступают за использование генеративных нейросетей в некоторых аспектах обучения — например, для создания новых проектов. Однако в ряде заданий следует прописать запрет на использование таких инструментов, считают они.
Редактор «Афиши Daily» спросил у ChatGPT, следует ли запретить использование генеративных моделей ИИ в учебном процессе. Чат-бот выступил против такого запрета (диалог велся на английском языке).
Этот контент
не поддерживается
По словам ChatGPT, такие модели можно применять для создания персонализированных учебных материалов, обеспечения обратной связи для студентов в режиме реального времени, моделирования сложных систем и сценариев. «Однако важно, чтобы использование этих моделей надлежащим образом регулировалось и контролировалось, чтобы свести к минимуму их негативное воздействие и обеспечить их этичное использование», — заявил чат-бот.
На уточняющий вопрос, как именно обеспечить контроль за использованием нейросетей в образовании, ChatGPT предложил:
- создать этические гайдлайны;
- сделать использование ИИ прозрачным (чтобы учителя и ученики знали, как используются такие модели);
- внедрить правила применения ИИ и рекомендации по сбору и обработке данных;
- создать механизм мониторинга правил (например, независимый контрольный орган);
- обеспечить подготовку преподавателей по правильному и ответственному использованию ИИ в образовании.
Вопрос о допустимости применения генеративных нейросетей в образовании поднялся после того, как студент РГГУ Александр Жадан сообщил, что защитил диплом, написанный с помощью ChatGPT. Учащийся, по его словам, потратил на подготовку работы 23 часа и получил за нее оценку «удовлетворительно».
После этого в вуз написали жалобу с требованием лишить Жадана диплома. В самом РГГУ сочли необходимым ограничить учащимся доступ к ChatGPT. Там предложили разработать инструменты для распознавания таких моделей при подготовке курсовых работ и дипломов.
Как написал позже Жадан, диплома его решили не лишать. Договориться с вузом у него получилось с помощью юриста, детали договора студент разглашать не стал.