Объявление моратория на обучение систем искусственного интеллекта (ИИ) мощнее представленной недавно ChatGPT-4, которое предложил Илон Маск и другие эксперты в сфере ИИ для совместной разработки протоколов безопасности в этой сфере, может спровоцировать появление теневых разработчиков. Тем не менее, выработка единых регулирующих механизмов необходима, считает директор по стратегии и развитию продукта компании “ЭЛВИС-НеоТек” (участник рынка Национальной технологической инициативы NeuroNet (Нейронет) Татьяна Мосендз.
Илон Маск и еще более тысячи экспертов области искусственного интеллекта (ИИ) опубликовали 22 марта открытое письмо, в котором призвали ввести мораторий на обучение систем мощнее модели СhatGPT-4 минимум на полгода в связи с тем, что неконтролируемый процесс в этой области может представлять угрозу для человечества. Перерыв может быть использован для совместной разработки экспертами общих протоколов безопасности.
“Столь “жесткая” остановка разработки, мораторий на обучение мощных нейросетей может как раз вызвать больше угроз, рисков теневой разработки. Считаю, что подобное силовое воздействие может вызвать сопротивление при отсутствии, к сожалению, до сих пор механизмов и института регулирования, несмотря на давно реализуемую именно Илоном Маском парадигму “безопасности ИИ”. Тем не менее, если человечество сможет выработать правила игры, одинаковые для всех, это будет прорыв и залог нашего безопасного будущего”, – сказала Мосендз ТАСС в среду.
Она также указала на то, что динамично развивающаяся сегодня сфера ИИ, которая становится все более доступной широкому кругу людей разных возрастов, требует соответствующего регулирования, стандартов и методов контроля.
“Самое главное – это создание доверенных институтов регулирования. Общие протоколы безопасности должны быть разработаны и их следует придерживаться всем. Этот как безопасность авиаперевозок: стоит кому-либо нарушить общие правила – мы утонем в катастрофах”, – заключила эксперт.
Перспективы чат-ботов с ИИ в России
Чат-бот ChatGPT, созданный американской компанией OpenAI, сегодня недоступен для пользователей в России. При этом эксперт упомянула об развитии подобных систем в стране.
“Есть разработки как от гигантов (“Яндекс”, Сбербанк), так и менее известные, но не менее амбициозные проекты. Потребность в инструментах генерации текстов с применением искусственного интеллекта – это наше настоящее и, конечно, будущее, поэтому российские альтернативы ChatGPT будут и далее развиваться, усложняться, особенно с учетом многогранности и сложности нашего русского языка”, – сказала она.
Особенности русского языка обуславливают скорость развития чат-ботов на основе ИИ, считает эксперт. В сравнении с английским языком порядок слов в русских предложениях более гибок, что усложняет задачу для разработчиков. Говоря о самих специалистах, участвующих в обучении ИИ-систем правильному пониманию запросов пользователей (prompt-инженеров), она указала на перспективы, открывающиеся в этой профессиональной области для гуманитариев.
“Я вижу колоссальные перспективы профессии prompt-инженера, но с поправкой, что это перестанет быть прерогативой только инженеров (программистов). Скорее появится новое прочтение гуманитарных специальностей с учетом приобретенных ими навыков работы с ИИ и возможностей быстрой адаптации к новым технологическим инструментам, которые выводят эти профессии на качественно другой уровень”, – считает Мосендз.
Источник: ТАСС
