Презентации доклада «ИИ в образовании: социальная практика современной России»

Виктор Наумов, главный научный сотрудник Института государства и права РАН, член Общественного совета при Роскомнадзоре, руководитель проекта «Сохраненная культура», выступил на презентации доклада Института наследия и современного общества РГГУ «ИИ в образовании: социальная практика современной России»:

«Мы находимся в состоянии многомерного кризиса. У нас кризис доверия к цифровой информации, кризис критического мышления, а во многих сферах начинают доминировать идеалы потребления.

Право и законодательство сегодня также находятся в предкризисном состоянии применительно к регулированию цифровых технологий и искусственного интеллекта. Право — очень инерционный инструмент, но именно сейчас от него требуется способность быстро реагировать на происходящие изменения.

Мы очень сильно затянули с разработкой и формированием предметного законодательства в сфере искусственного интеллекта. Только в этом году начался активный законотворческий процесс, связанный с регулированием ИИ и робототехники.

Гражданин, и тем более участник образовательного процесса, должен знать, в каких обстоятельствах используются технологии искусственного интеллекта. Не должно быть никакого „черного ящика“.

Должна существовать система идентификации результатов функционирования искусственного интеллекта. Пользователи должны понимать, когда они взаимодействуют с результатом работы алгоритма, а когда — с человеком.

Отдельная тяжелая проблема связана с информационной безопасностью и защитой частной жизни. Нельзя бездумно передавать в цифровые системы большие объемы сведений, которые могут затрагивать права и интересы других людей.

Очень болезненной остается проблема манипулирования информацией и использования технологий искусственного интеллекта для создания дипфейков. Граждане, школьники и студенты сегодня фактически не защищены от подобных угроз.

Творчество как один из двигателей развития человечества постепенно ослабевает. Молодым людям все проще за несколько секунд получить готовый результат, не проходя через сам процесс творческого поиска и осмысления.

Мы до сих пор четко не сформулировали, что такое искусственный интеллект. Между тем искусственный интеллект — это прежде всего информационная система, которая обеспечивает обработку и генерацию информации определённым образом.

В законодательстве должны быть закреплены право на отказ от использования искусственного интеллекта, запрет на принуждение к его использованию, право граждан знать о применении ИИ при принятии решений и право на пересмотр значимых решений без использования этих технологий.

Для социальной сферы и образования должны существовать дополнительные права и гарантии, защищающие всех участников образовательного процесса».