Модели искусственного интеллекта, которые обучили на государственных данных, будут проверяться на предмет угрозы национальной безопасности и обороны страны. Для этого до 2028 года планируется создать и внедрить первую версию ПО, которое будет отвечать за такие проверки. Участники рынка подтверждают, что обучение ИИ на госданных требует усиленных мер безопасности. Это необходимо, так как ошибки могут привести к неверным рекомендациям при принятии стратегических государственных решений.
Правительство планирует проверять системы, которые реализуют технологию искусственного интеллекта (ИИ), «на наличие угроз безопасности государства и обороны страны», говорится в утвержденном в кабмине паспорте федпроекта «Цифровое госуправление» (есть у “Ъ”), который войдет в нацпроект «Экономика данных».
Тем не менее обучение ИИ на госданных должно производиться с усиленной безопасностью, а также к продукту такого обучения должны иметь доступ только авторизованные пользователи, добавляет гендиректор группы компаний ST IT Антон Аверьянов.
Сейчас используемые модели ИИ «получают подтверждения безопасности путем тестирования и применения различных сценариев, необходимых для выявления слабых мест», говорит заместитель директора Центра компетенций НТИ по большим данным МГУ Тимофей Воронин. «Также с 1 января будет использоваться ГОСТ, закрепляющий требования к защите данных при применении ИИ»,— добавляет он.
Источник: Коммерсантъ
Свежие комментарии