Інстаграм буде використовувати ШІ для боротьби з цькуванням користувачів
Останнім часом на боротьбу з кібербуллінгом (тобто цькуванням або усвідомленим приниженням) в мережі звернули увагу багато компаній. В першу чергу це стосується власників великих соціальних мереж і подібних інернет-майданчиків. Наприклад, Facebook, компанія, що володіє популярною платформою Instagram, запускає нову функцію, спрямовану на боротьбу зі знущаннями над користувачами. Примітно тут не стільки те, що вона буде відстежувати коментарі до постів, скільки те, що працювати вона буде на основі алгоритмів штучного інтелекту.
Instagram хоче зробити свою соціальну мережу менш «токсичною»
Як працює функція по боротьбі з кібербуллінгом в Instagram?
Починаючи з 16 грудня, деякі користувачі Instagram вже отримали (навіть непомітно для самих себе) дану опцію. Вона буде повідомляти людей, коли підписи до їх фото або відео «можуть вважатися образливими». Керівництво Instagram заявляє, що вони «розробили і протестували» ШІ, який може «розпізнавати різні форми знущань» в рамках соціальної мережі. Перш ніж такі коментарі будуть опубліковані, спочатку алгоритм повідомить користувачів про це, якщо вважатиме за потрібне.
Результати наших тестів були дуже багатообіцяючими, і ми виявили, що такий підхід часто змушує користувачів переглянути свої слова. - заявляють у прес-службі Instagram.
Але як же працює ця функція? Давайте розберемо на прикладі: коли ви створюєте підпис до свого або чужого посту, алгоритм штучного інтелекту визначить, чи є його зміст потенційно образливим або небезпечним. Ви зможете отримати підказку, що інформує вас про це. Після цього вам дадуть можливість відредагувати написане. Хоча це і не обов'язково. Якщо хочете, то ви можете залишити все так, як замислювалося спочатку. Звучить не дуже переконливо, вірно? Але не все так просто. Справа в тому, що навіть якщо ви опублікуєте коментар або пост і після більш глибокого аналізу з'ясується, що він містить-таки образливі висловлювання, інші користувачі платформи його просто не побачать. Як вам дана можливість? Напишіть свою думку в нашому чаті в Телеграм. Там ваші коментарі ніхто приховувати не стане.
Представники Instagram кажуть, що ця функція вже доступна в деяких регіонах, і поступово почне поширюватися на весь світ в найближчі місяці. Але хотілося б поговорити ось про що. Всі ми знаємо досить дивні випадки бану користувачів платформ на кшталт Twitch або YouTube за висловлювання подібного роду, які по-факту такими не завжди були.
Тому, де гарантія того, що благе на словах починання на ділі обернеться черговими «санкціями» на догоду надмірній боязні зачепити різні верстви населення? І замість того, щоб пропускати через «ШІ-фільтр» обґрунтовану критику або жорсткі, але справедливі висловлювання, Instagram не почне «банити» всіх підряд в надії зробити з соціальної мережі платформу з «веселкою і єдинорогами»? Без сумнівів, якісь механізми регулювання потрібні. Але хто буде контролювати ті механізми, які контролюють наше спілкування?