© В. Б. Наумов, 2022
Право и «Батлерианский джихад». Размышления об угрозах использования искусственного интеллекта
Наумов Виктор Борисович, доктор юридических наук; Институт государства и права Российской академии наук, сектор информационного права и международной информационной безопасности, главный научный сотрудник; проект «Сохраненная культура», руководитель; Санкт-Петербург, Российская Федерация, nau@russianlaw.net
Аннотация. В полемическом исследовании содержатся правовые и междисциплинарные рассуждения о закономерностях внедрения искусственного интеллекта. Рассмотрены вопросы изменение роли человека и права в информационных правоотношениях, даны примеры кризиса критического мышления человека. Доказывается необходимость внедрения в государственную деятельности и социальные регуляторы моделей «человек -слабая сторона» и права на отказ от цифровых технологий. Разработано содержание проекта закона о технологиях искусственного интеллекта и робототехнике.
Ключевые слова: право, цифровая трансформация, искусственный интеллект, прогресс, критическое мышление, междисциплинарная экспертиза, право на отказ от технологий, законопроект.
Наумов В. Б. Право и «Батлерианский джихад». Размышления об угрозах использования искусственного интеллекта // Информационное общество. 2025. № 2. С. 131−147. URL: http://infosoc.iis.ru/issue/view/69
Аннотация. В полемическом исследовании содержатся правовые и междисциплинарные рассуждения о закономерностях внедрения искусственного интеллекта. Рассмотрены вопросы изменение роли человека и права в информационных правоотношениях, даны примеры кризиса критического мышления человека. Доказывается необходимость внедрения в государственную деятельности и социальные регуляторы моделей «человек -слабая сторона» и права на отказ от цифровых технологий. Разработано содержание проекта закона о технологиях искусственного интеллекта и робототехнике.
Ключевые слова: право, цифровая трансформация, искусственный интеллект, прогресс, критическое мышление, междисциплинарная экспертиза, право на отказ от технологий, законопроект.
Наумов В. Б. Право и «Батлерианский джихад». Размышления об угрозах использования искусственного интеллекта // Информационное общество. 2025. № 2. С. 131−147. URL: http://infosoc.iis.ru/issue/view/69
Цитата
«В этом году можно отмечать 60-летие выхода одного из самых известных в мире фантастических романов писателя Френка Херберта (1920—1986) — „Дюна“. Его части появились чуть раньше, но как единое повествование роман был издан в 1965 году и начал свое победное шествие, приобретая известность не только среди любителей фантастики, но и далеких от нее людей. Затем вышли еще книги из серии о мире планета Дюна, а после смерти писателя его сын Брайан Херберт, совсем не чуждый фантастике писатель и сценарист, совместно с Кевином Андерсоном написали фантастическую повесть «Дюна: Батлерианский джихад» (2022), в которой описаната эпоха и явления, которые оказались в заглавии настоящей статьи, — т.н. „Батлерианский джихад“.
Это название появилось у самого Френка Херберта в самой первой книге серии, и на нем во многом зиждется весь „мир Дюны“. Его создатель, с одной стороны, очень лапидарно обозначил идею — неприятие мыслящих машин, поместив ее как историю борьбы человечества за 10 тысяч лет до начала действия первой книги, но, с другой, придал этому замыслу в романе логику и свойства, устанавливающие запреты на использование технологий всем человечеством. „Мир Дюны“, его цивилизация развивалась, говоря современным языком, без технологий искусственного интеллекта имея, к тому же, воплощение этих правил в форме красочного и жесткого социально-религиозного табу — все (или почти все) в сюжетах Херберта не принимали возможность создания и использования мыслящих машин даже на уровне идеи.
В качестве причины Херберт-старший указывал на то обстоятельство, что человечество долго и кроваво боролось смыслящими машинами и добилось победы, заплатив катастрофическую цену. Позже Херберт-младший в соавторстве с Кевином Андерсоном раскрыли контуры описания и истории Батлерианского джихада, описав предысторию деградации человечества, в том числе в результате установления зависимости людей от технологий, потери тяги к творчеству и жизни, этап появления людей, отказавшихся от собственных тел, возникновения мыслящих машин с человеческими чертами, с последующим господством роботов и всемирного разума, против чего восстала человеческая цивилизация, выиграв, но потеряв в борьбе половину людей. После этого на многие тысячи лет в человеческом сознании, верованиях и государственному правлении существовал постулат о том, что сильный искусственный интеллект противоречит основам человеческого бытия».
Это название появилось у самого Френка Херберта в самой первой книге серии, и на нем во многом зиждется весь „мир Дюны“. Его создатель, с одной стороны, очень лапидарно обозначил идею — неприятие мыслящих машин, поместив ее как историю борьбы человечества за 10 тысяч лет до начала действия первой книги, но, с другой, придал этому замыслу в романе логику и свойства, устанавливающие запреты на использование технологий всем человечеством. „Мир Дюны“, его цивилизация развивалась, говоря современным языком, без технологий искусственного интеллекта имея, к тому же, воплощение этих правил в форме красочного и жесткого социально-религиозного табу — все (или почти все) в сюжетах Херберта не принимали возможность создания и использования мыслящих машин даже на уровне идеи.
В качестве причины Херберт-старший указывал на то обстоятельство, что человечество долго и кроваво боролось смыслящими машинами и добилось победы, заплатив катастрофическую цену. Позже Херберт-младший в соавторстве с Кевином Андерсоном раскрыли контуры описания и истории Батлерианского джихада, описав предысторию деградации человечества, в том числе в результате установления зависимости людей от технологий, потери тяги к творчеству и жизни, этап появления людей, отказавшихся от собственных тел, возникновения мыслящих машин с человеческими чертами, с последующим господством роботов и всемирного разума, против чего восстала человеческая цивилизация, выиграв, но потеряв в борьбе половину людей. После этого на многие тысячи лет в человеческом сознании, верованиях и государственному правлении существовал постулат о том, что сильный искусственный интеллект противоречит основам человеческого бытия».