Законопроект, разработанный Минцифры, уже проходит межведомственное согласование.
Запрет распространяется прежде всего на операторов и разработчиков систем ИИ, то есть на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты, — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.
ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента, а по новому закону система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции. Таким образом, ответственность лежит не на самой технологии, а на тех, кто ее создает и применяет.
Закон может коснуться, в частности, сервисов, реализующих товары и услуги: с помощью ИИ они собирают информацию о предпочтениях пользователей, а затем навязывают им с помощью открытой и скрытой рекламы вещи, которую зачастую совершенно не нужны человеку. В то же время злоумышленники или недобросовестные компании могут использовать ИИ для гиперперсонализированного мошенничества.
О том, чтобы заставить разработчиков искусственного интеллекта отвечать за поведение его пользователей, задумываются не только в России. Законодатели по примеру других стран могут обязывать владельцев ИИ-продуктов внедрять протоколы, в соответствии с которыми нейросеть не должна вести себя определенным образом, либо должна сигнализировать о каких-то чрезвычайных событиях. При этом российских владельцев платформ законодатель может под риском ответственности обязать внедрить такие протоколы, а вот ведущие мировые нейросети нет.
Вероятно, если законопроект будет принят и его начнут применять буквально, то всю персонализированную онлайн-рекламу и рекомендательные алгоритмы придется запретить как инструменты целенаправленного воздействия на принятие решения.
Свежие комментарии