Знайдено спосіб відрізнити фото реальної людини від фейку, створеного нейромережею

Ми живемо в дивному світі дипфейків і нейромереж, які можуть створювати неймовірно реалістичні портрети людей, які практично неможливо відрізнити від реальної фотографії. Вчені розробили методику, яка може допомогти нам визначити, на що ми насправді дивимося - на фейк або на обличчя справжньої людини.

Згідно з новим дослідженням, проведеним командою з Державного університету Нью-Йорка, весь секрет криється в очах, а саме - у формі зіниці

Збільшивши масштаб штучних очей фальшивих осіб, створених системою машинного навчання GAN, дослідники звернули увагу на одну цікаву особливість. Якщо форма зіниці у живої людини завжди кругла, то у згенерованих осіб вона могла бути, по факту, якою завгодно. «Порівнюючи з реальними особами, ми спостерігаємо видимі артефакти і невідповідності в моделях осіб, створених GAN», - пишуть автори роботи.

За словами дослідників, ця дивна аномалія пов'язана з тим, що в моделях GAN відсутнє розуміння анатомії людського ока, особливо в тому, що стосується геометричних форм звичайних зіниць.

Щоб вивчити, наскільки широко поширене це явище, вчені розробили інструмент виявлення, який автоматично витягує обриси зіниць з очей на фотографіях, а потім оцінює їх, щоб перевірити, чи мають вони еліптичну форму.

Приклад того, як GAN генерує зіниці неправильної форми

В експерименті, в якому інструмент працював з базою даних з 2000 зображень (1000 - справжні обличчя, а 1000 - підробки), система довела свою здатність розрізняти дві групи. «Ми виявили, що неправильні форми зіниць широко поширені у високоякісних рендерах осіб, створених нейромережею StyleGAN», - пояснюють дослідники.

«Ми пропонуємо новий фізіологічний метод, який може використовувати неправильну форму зіниці як орієнтир для розпізнавання осіб, створених GAN - це простий, але ефективний метод».

За словами команди, подібні технології одного разу можуть допомогти протистояти зловмисному використанню реалістично виглядаючих підробок, що використовуються, зокрема, для обману людей в соціальних мережах.

Принаймні, до тих пір, поки хто-небудь не навчить ШІ малювати зіниці правильної форми.