Эксперт: развитие ИИ-генерации фото несет риски для авторов работ с минимальной ретушью

Заместитель руководителя Центра компетенций Национальной технологической инициативы по технологиям беспроводной связи и интернета вещей на базе Сколтеха Александр Сиволобов назвал “раздутыми” страхи о возникновении прямой конкуренции между работами, созданными человеком и искусственным интеллектом.

Развитие программ, выявляющих сгенерированные с помощью технологий искусственного интеллекта (ИИ) изображения, может привести к росту случаев ложного срабатывания, когда авторы работ с минимальной ретушью будут обвиняться в использовании нейросетей. Такое мнение ТАСС в понедельник высказал заместитель руководителя Центра компетенций Национальной технологической инициативы (НТИ) по технологиям беспроводной связи и интернета вещей на базе Сколковского института науки и технологий (Сколтеха) Александр Сиволобов.

Основу таких программ-детекторов, как правило, составляют нейросети, обученные на сгенерированных другими нейросетями изображениях.

“Современные системы выявления изображений, созданных ИИ, имеют точность порядка 70%, но по мере развития технологий возникает проблема ложных срабатываний. Это может привести к ошибкам первого рода, когда обычная фотография с минимальной ретушью будет опознана как сгенерированная. Это серьезная проблема, потому что обвинить кого-то легко, но опровергнуть обвинения может быть непросто”, – считает Сиволобов.

Эксперт при этом назвал “раздутыми” страхи о возникновении прямой конкуренции между работами, созданными человеком и ИИ. Ученый считает нейросети еще одним инструментом, помогающим передать замысел художника, напомнив, что ретушь изображений стала повсеместным трендом.

“То, что ИИ-фотографии участвуют в конкурсах, говорит о том, что “реализм” в этом жанре искусства – это художественный прием, который доступен каждому”, – отметил он.

Ранее в марте стало известно о том, что фотограф из Берлина Борис Эльдагсен одержал победу в конкурсе Sony World Photography Award. На представленном им черно-белом “снимке” изображены две женщины разных поколений. Позднее он объявил об отказе от награды, так как фото стало результатом применения технологий искусственного интеллекта. Он объяснил участие в конкурсе желанием привлечь внимание общественности и заявил о том, что созданные ИИ изображения не должны конкурировать с фотографиями.

Признаки ИИ-генерации

Как пояснил ТАСС эксперт Национальной технологической инициативы (НТИ) по искусственному интеллекту и телекоммуникациям Алексей Рабин, сегодня не существует метода, позволяющего со стопроцентной точностью выявить сгенерированное нейросетями изображение. Однако есть набор характерных признаков таких работ, который можно брать за основу при анализе.

“Это однотипный фон и крупный план на нескольких снимках, близкие к идеальным [лица] или, наоборот, неестественная симметрия лица, искажения на волосах и мочках ушей. Также обращайте внимание на качество прорисовки рук и пальцев, ведь пальцы – одни из наиболее сложных элементов для [генерации] изображения”, – посоветовал эксперт.

Он также указал на часто встречающиеся “мутации” у героев таких изображений, которые видны при тщательном рассмотрении. К примеру, у человека на “искусственном” фото может быть чрезмерное количество зубов.

Большие языковые модели

Чат-бот ChatGPT от компании OpenAI был запущен в конце ноября 2022 года. Сервис взаимодействует с пользователем в диалоговом режиме. Искусственный интеллект на основе языковой модели GPT-3.5 может отвечать на дополнительные вопросы, признавать свои ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы. В середине марта компания представила следующую модель – GPT-4. Возможности сервиса привлекли широкое общественное внимание, в том числе в России.

В марте более тысячи экспертов в области искусственного интеллекта, в том числе Илон Маск, опубликовали открытое письмо, в котором призвали ввести мораторий на обучение систем мощнее GPT-4 минимум на полгода в связи с тем, что неконтролируемый процесс в этой сфере может представлять угрозу для человечества. Позже в апреле Маск высказался за государственное регулирование этой области, а также сообщил о планах по созданию чат-бота TruthGPT – “максимально ищущий правду ИИ, который пытается понять природу Вселенной”.

“Сбер” в конце апреля выпустил собственную версию мультимодальной нейросети GigaChat. Она может решать множество интеллектуальных задач: поддерживать беседу, писать тексты, отвечать на фактологические вопросы. Включение в ансамбль модели Kandinsky 2.1 дает модели навык создания изображений.

Источник: ТАСС

Автор: Mariam