Источник: Известия
Российские специалисты МФТИ создали технологию, благодаря которой ИИ сможет самостоятельно готовить текстовые данные для обучения нейронных сетей. Ученые использовали для этого ChatGPT. До последнего времени делать эту работу мог только человек — монотонный и трудоемкий процесс занимал до нескольких месяцев. Теперь компьютер сможет выполнять эти операции в три раза быстрее. По мнению экспертов, в автоматизации разметки нет ничего удивительного, так как нейросети уже давно выполняют и более сложные логические задачи. При этом вероятность, что новая степень свободы искусственного интеллекта может привести к выходу его из-под контроля, невелика.
— С помощью большой языковой модели можно добиться высокого качества обработки информации. Однако для этого потребовалось создать многоступенчатую иерархическую схему для разметки. В таком случае в процессе обучения эксперты требуются только для этой работы, — сказала исследователь и аналитик лаборатории нейронных систем и глубокого обучения МФТИ Мария Молчанова.
Если большие языковые модели успешно справляются с довольно сложными логическими конструкциями, их применение для разметки и аннотирования текстовой информации кажется совершенно естественным, считает ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) «Искусственный интеллект» на базе МФТИ Александр Родин.
— Широкое внедрение самообучения языковых моделей может упростить манипуляции с результатами их работы и создание фейков, как это происходит, например, на YouTube или в соцсетях. Если массовый пользователь не обладает достаточным культурным и образовательным базисом, его нетрудно будет убедить, что черное — это белое, апеллируя к железобетонному аргументу — «так искусственный интеллект решил», — сказал Александр Родин.
По его словам, необходима жесткая экспертная цензура всего контента, сгенерированного ИИ, вне зависимости от технологии обучения конкретного алгоритма.
Подход, предложенный в МФТИ, применяется в самых разных областях. Большие языковые модели мало какие задачи могут выполнять полностью, но создавать на их основе решения, которые ускоряют или упрощают работу живых специалистов, — очень частый сценарий, отметил управляющий директор технологических конкурсов НТИ Up Great Юрий Молодых.
— Благодаря такой автоматизации искусственный интеллект из-под контроля выйти не сможет. Вообще, это непродуктивный метод анализа безопасности нейросети. Гораздо лучше рассматривать безопасность не выхода из-под контроля технических решений, а ошибки в дизайне системы, которые могут привести к деструктивным последствиям, — пояснил Юрий Молодых.
Свежие комментарии