Чи можна за допомогою ШІ маніпулювати людьми

Як з'ясували вчені, є ситуації, коли людина воліє покладатися на думку машини. Для інших ситуацій є інші способи маніпуляції.

Ви вважаєте себе вільнодумцем? Прочитайте і подумайте ще раз

Пара дослідників, Уджуе Агудо і Хелена Матуте з Університету Деусто в Іспанії, нещодавно опублікували захоплююче дослідження, яке демонструє, як можна легко впливати на людей за допомогою ШІ.

Нам подобається думати, що ми приймаємо обґрунтовані рішення в хаотичному всесвіті. Але ми з радістю перекладемо цю турботу на плечі штучного інтелекту. Або нас обдурять якось інакше і підведуть до потрібного рішення.

Протягом чотирьох експериментів вчені виявили, що люди схильні довіряти вирішенню або вибору, зробленому ШІ, і дійшли висновку, що нам потрібно вчитися не довіряти і сліпо слідувати вказівкам машин і програм.

Усі чотири експерименти починалися з липового особистісного тесту. Після того, як учасники завершили тест, їм видали профіль їх особистості для ознайомлення і сказали, що ШІ на основі цих даних зможе робити вибір за них. Насправді всім учасникам був наданий один і той же фальшивий профіль, розпливчасто сформульований і підходящий будь-якій людині.

У першому експерименті дослідники маніпулювали людьми відкрито, намагаючись змусити їх проголосувати за конкретного політичного кандидата. Людям показували зображення вигаданих політиків і говорили, що ці люди вибрав ШІ на основі даних їх профілів. Порівняно з контрольною групою учасників, які переглядають зображення без будь-яких рекомендацій, люди частіше «голосували» за кандидата, якого їм «підказав» ШІ.

У другому експерименті використовувалися непрямі маніпуляції. Замість того щоб повідомляти учасників, кого рекомендує ШІ, їм попередньо показували фотографії конкретних людей, а вже потім проводили передвиборчу кампанію. Тобто їх підштовхували до певного рішення. І це не особливо працювало.

Але результати виявилися абсолютно протилежними, коли ті ж методи застосовувалися в додатку для знайомств. Коли ШІ рекомендував людям пару для побачень, вони частіше заявляли, що хотіли б зустрітися з ким-небудь іншим. Але коли учасникам експерименту попередньо показували фотографії людей, то згодом вони частіше вибирали для побачень саме їх.

Підсумок: всіма нами легко маніпулювати, і для цього треба лише застосувати потрібний алгоритм.