Источник: Russia Today
Ведущий эксперт «Университета 2035» по искусственному интеллекту Ярослав Селиверстов рассказал RT, что системы ИИ не обладают знанием — они формируют ответы на основе вероятностных закономерностей, которые выявлены в обучающих данных. Поэтому тексты могут звучать убедительно, но содержать неточности, логические разрывы.
Первым сигналом потенциальной ошибки, по его словам, служит конкретика без проверяемых источников.
«Точные цифры, даты, названия исследований или нормативных актов требуют обязательной внешней сверки. Особенно настороженно стоит относиться к редким фактам и узкоспециализированным данным, поскольку модель может «достраивать» их по вероятностному шаблону», — пояснил эксперт.
Он посоветовал обратить внимание на анализ логической структуры ответа. Даже при корректных фактах вывод может не следовать из аргументов, а причинно-следственные связи могут быть упрощёнными или подменёнными.
«Необходимо обращать внимание на согласованность терминов, последовательность рассуждений и отсутствие внутренних противоречий, рекомендует эксперт. Также полезно сделать повторный запрос к модели с просьбой обосновать выводы, перечислить допущения или самостоятельно проверить текст на логические несостыковки. Такой подход повышает прозрачность рассуждений и облегчает проверку содержания», — добавил Селиверстов.
Свежие комментарии