Большинство людей считают, что могут распознать лица, созданные искусственным интеллектом, но эта уверенность устарела, как показали исследования Университета Нового Южного Уэльса в Сиднее и Австралийского национального университета (ANU). Поскольку лица, созданные ИИ, теперь практически невозможно отличить от реальных, эта неоправданная уверенность может сделать отдельных лиц и организации более уязвимыми для мошенников, аферистов и злоумышленников, предупреждают исследователи.
«До сих пор люди были уверены в своей способности распознавать поддельные лица, — говорит доктор Джеймс Данн, исследователь из Школы психологии UNSW. — Но лица, созданные самыми передовыми системами генерации лиц, теперь уже не так легко обнаружить».
В исследовательской работе, опубликованной в Британском журнале психологии, исследователи из Университета Нового Южного Уэльса и Австралийского национального университета привлекли 125 участников, включая 36 человек с исключительными способностями к распознаванию лиц, известных как «суперраспознаватели» , и 89 участников контрольной группы, для прохождения онлайн-теста, в котором им показывали серию лиц и просили оценить, является ли каждое изображение реальным или сгенерированным искусственным интеллектом. Очевидные визуальные недостатки были отсеяны заранее.
«Мы обнаружили, что люди со средними способностями к распознаванию лиц показали результаты лишь немного лучше случайных», — говорит доктор Данн. «И хотя люди с очень развитыми способностями к распознаванию лиц показали лучшие результаты, чем другие участники, разница была незначительной. Что оставалось неизменным, так это уверенность людей в своей способности распознать лицо, сгенерированное ИИ, — даже когда эта уверенность не соответствовала их реальным результатам».
Конец артефактов
Во многом эта уверенность основана на признаках, которые раньше работали. Ранние лица, созданные с помощью ИИ, часто выдавали себя очевидными визуальными артефактами — искаженными зубами, очками, которые сливались с лицом, ушами, которые не совсем правильно прилегали, или странным фоном, который переходил в волосы и кожу.
Но по мере совершенствования систем генерации лиц подобные ошибки стали встречаться гораздо реже. Наиболее реалистичные результаты больше не демонстрируют очевидных недостатков, в результате чего лица выглядят убедительно с первого взгляда и их гораздо сложнее оценить, используя знакомые людям признаки.
«Многие люди думают, что всё ещё могут отличить одно от другого, потому что поработали с популярными инструментами искусственного интеллекта, такими как ChatGPT или DALL·E», — говорит психолог из Австралийского национального университета доктор Эми Дауэл. «Но эти примеры не отражают того, насколько реалистичными стали самые продвинутые системы генерации лиц, и полагаться на них может создать у людей ложное чувство уверенности».
Исследователей заинтересовало, насколько легко обмануть даже тех, кто обладает сверхвысокой способностью распознавать лица. Хотя эта группа в среднем показала лучшие результаты, преимущество было незначительным, и их точность оставалась намного ниже того уровня, которого они обычно достигали при распознавании реальных человеческих лиц. Также наблюдалось значительное совпадение между группами, причём некоторые участники, не обладающие сверхвысокой способностью распознавать лица, превосходили таких участников — это демонстрирует, что это не просто проблема «эксперты против всех остальных».
Слишком хорошо, чтобы быть правдой
Но если лица, созданные искусственным интеллектом, настолько убедительны, есть ли какие-либо признаки, на которые нам следует обращать внимание?
«Как ни парадоксально, самые совершенные лица, созданные с помощью ИИ, выдают не свои недостатки, а то, что в них слишком хорошо», — говорит доктор Дауэл. «Вместо очевидных дефектов они, как правило, необычайно усреднены — отличаются высокой симметрией, пропорциями и статистически типичны».
Такие качества, как симметрия и средние пропорции, обычно указывают на привлекательность и предсказуемость. Но в данном исследовании они стали тревожным сигналом, указывающим на искусственность.
«Создается впечатление, что их лица слишком хороши, чтобы быть правдой», — говорит доктор Дауэл.
Что с этим делать?
Суперспособности к распознаванию лиц не выделялись так, как это обычно бывает в тестах с реальными человеческими лицами, демонстрируя лишь незначительное преимущество. Их отличала более высокая чувствительность к тем же качествам, которые были выявлены в исследовании — правдоподобным, необычно средним и высокосимметричным лицам. Тем не менее, их ограниченный успех предполагает, что распознавание лиц искусственным интеллектом — это навык, который нелегко развить или освоить.
Полученные результаты также имеют практическое значение, поскольку полагаться только на визуальную оценку больше ненадёжно. Это важно в самых разных контекстах, от социальных сетей и онлайн-знакомств до профессионального нетворкинга и подбора персонала, где люди часто считают, что могут «просто определить», выглядит ли фотография в профиле поддельной. Необоснованная уверенность может сделать отдельных лиц и организации более уязвимыми для мошенничества, поддельных профилей и вымышленных личностей.
«Необходима здоровая доля скептицизма, — говорит доктор Данн. — Долгое время мы могли, глядя на фотографию, предполагать, что видим реального человека. Сейчас это предположение подвергается сомнению».
Вместо того чтобы учить людей приёмам распознавания искусственных лиц, более важный урок заключается в обновлении предположений. Визуальные правила, на которые многие из нас полагаются, были сформированы более ранними, менее совершенными системами.
«По мере совершенствования технологий генерации лиц разрыв между тем, что выглядит правдоподобно, и тем, что реально, может увеличиваться, и осознание ограничений собственного суждения станет все более важным», — говорит доктор Дауэл.
Взгляд в будущее
Интересно, что доктор Данн задается вопросом, не открыли ли исследовательские группы новый тип системы распознавания лиц.
«Наше исследование показало, что некоторые люди уже умеют распознавать лица, созданные искусственным интеллектом, что позволяет предположить существование «супер-детекторов лиц на основе ИИ».
«Мы хотим узнать больше о том, как эти люди распознают поддельные лица, какие признаки они используют, и выяснить, можно ли обучить этим стратегиям остальных».
Автор Надежда Сарычева
Контакты, администрация и авторы
