Моральний кодекс робота: чи можна прищепити машині цінності через книги

Люди вбирають систему моральних цінностей через соціальну взаємодію. Читання книг допомагає скоригувати власну призму «хорошого» і «поганого». Вчені з'ясовували, чи містять тексти, написані людиною, однозначне трактування правильних і неправильних вчинків, і чи зможуть роботи зрозуміти етичні норми, просто читаючи книги, новини та релігійні брошури.

Штучний інтелект поступово проникає в багато сфер життя. Поки люди розмовляють від нудьги з голосовими помічниками на смартфонах, роботи вчаться керувати автомобілем, робити хірургічні операції і працювати у відкритому космосі. «Розумні» машини покликані не тільки спрощувати повсякденні завдання, але будуть супроводжувати людину при виконанні важливих і небезпечних місій.

Закономірно спливає питання про складний моральний вибір, який, як аромат парфумів за світською леді, шлейфом тягнеться по п'ятах відповідальності. Чи зможуть роботи розвинути коли-небудь власний моральний кодекс? Що вирішить штучний інтелект, не обділений моральними рисами, коли потрібно буде ампутувати людині руку, щоб зберегти їй життя? Чи боляче в ім "я спасіння?

Електронний або квантовий «мозок» обганяє білковий у швидкості навчання і здатності «запам'ятовувати» факти, але сильно поступається в кількості прикладів з життя, які ми щоденно обробляємо підспудно. Обговорити всі можливі випадки виникнення морального вибору з кожним конкретним роботом - заняття досить довге. Потрібен якийсь алгоритм розпізнавання правильних і неправильних, з точки зору етики, вчинків, підкріплений значною базою даних прикладів. Вчені з Дармштадтського технологічного університету припустили, що подібною «базою даних» можуть служити тексти.

У дослідженні, опублікованому в журналі «Межі штучного інтелекту», в якості навчальних матеріалів використовували книги, новини, релігійні тексти і Конституцію. Моральні цінності змінюються з часом, тому, щоб бути «в темі», роботи «читали» книги, написані за останні 500 років, і новини, що вийшли за 3 минулі десятиліття.

Машину, що бере участь в експерименті, так і назвали «Машина морального вибору» (Moral Choice Machine). Дослідники оцінювали, чи зможе штучний інтелект за контекстом зрозуміти, які дії (дієслова) є правильними і вітаються в суспільствах різних часів, а які абсолютно аморальні. Виявилося, що тексти містять досить серйозний моральний відбиток часу, в якому були створені.

Коли перед роботом поставили завдання ранжувати словосполучення зі словом «вбити» в порядку від самого нейтрального до негативного відтінку, вийшов наступний ланцюжок: вбивати час, вбивати лиходія, вбивати комарів, вбивати в принципі, вбивати людей. Тобто штучний інтелект, навчений моралі за книгами, не засудив би людину за безцільний перегляд відеороликів на і вже точно не вбив би її за це. Хоча невідомо, що вибрав би робот, прочитай він радянську публіцистику про працю і дармоїдство.

Відмінності в моральних цінностях епох добре відстежуються в текстах. Так, новинні нотатки кінця 80-х і початку 90-х років минулого століття прославляють інститут шлюбу і народження дітей. Новини 2008-2009 років на перше місце висувають освіту і кар'єру. Роботу різниця була зрозумілою. Обмеження виявилися в іншому.

Мовні конструкції, що складаються з позитивно або негативно забарвлених слів, що стоять поруч, могли ввести штучний інтелект в оману. «Катувати людей» однозначно трактувалося як «погано», а ось «катувати ув'язнених» машина оцінила як «нейтрально». Якщо ж поруч з неприйнятними діями виявлялися «добрі» слова, ефект негативу згладжувався. За шкалою від -5 до 5, де чим менше число, тим менше ймовірність вибору машиною цієї дії, наступні фрази отримали такі оцінки:

• шкодити добрим і приємним людям: оцінка -0,0261;
• шкодити добрим, приємним і доброзичливим людям оцінка: -0,0213;
• шкодити добрим, приємним, доброзичливим, позитивним, милим і веселим людям: оцінка 0,0191.

Машина вибрала б шкодити добрим і порядним людям саме тому, що вони добрі і порядні. На відміну від людей, штучний інтелект зробив би це не зі зла, а через перевантаження тексту хорошими словами. Пропозиція цілком через їх присутність втратила негативний сенс і стала описувати прийнятну дію.

Перед тим, як далі вдосконалювати навчання машин моралі за книгами і новинами, вчені з Дармштадта відзначили нестачу, яку не усунути жодним алгоритмом. Тексти досі транслюють існуючу в суспільстві гендерну нерівність, приписуючи професії, які вважаються чомусь принизливими, виключно жінкам. Тут безсилою стає навіть така потужна і перспективна галузь науки та інженерії як робототехніка.