Роботичні особистості: коханці та солдати

Всі пам'ятають про три закони робототехніки, сформульовані Айзеком Азімовим ще в 1940-ті роки. Тоді майбутнє, населене роботами, здавалося фантастикою, але в наші дні роботи стали реальністю. І виявилося, що трьох законів для регулювання відносин між роботами і людьми мало. Про те, якими етичними проблемами загрожує вторгнення роботів у наше життя, ми попросили розповісти культуролога, доцента РАНГіДС і МВШСЕН Оксану Мороз.

Робототехніка розвивається настільки бурхливими темпами, що, здається, найближчим часом машини стануть постійними партнерами людини практично у всіх сферах діяльності. Вже зараз експерти очікують наростання швидкості поширення соціальних роботів, а до 2020 року пророкують повсюдний розвиток «розумних» підприємств. Машина не як учасник повстання проти людства, а як помічник, необхідний і корисний елемент технократичного суспільства - ось той образ, що виникає при погляді на діалог між штучним інтелектом і його творцями.

Це зближення породжує боротьбу за регуляцію відносин між особистостями людської і нелюдської природи. За останній рік легітимація прав роботів, рух за визнання машини як суб'єкта права стали невід'ємною частиною політичного порядку денного - досить згадати історії про хіноїда Софію, яка отримувала громадянство, а також публікацію резолюції Європарламенту, в якому виявилися викладені норми цивільного права про робототехніку і закладений фундамент майбутньої Хартії робототехніки.

Створення всіх цих документів може виглядати як політична гра в футурологію. Однак подібні конвенції потрібні вже зараз - хоча б тому, що людство залучає машини у відносини, що вимагають юридичної регуляції і визначення обопільних зобов'язань. І три закони робототехніки Айзека Азімова вже навряд чи можна вважати достатньою - і з етичної, і вже тим більше з формальної точки зору - опорою подібних взаємодій.

Наприклад, інженери ведуть гонку за розробку нового типу роботів-помічників, які зможуть не тільки скрасити самотність, а й задовольнити природну потребу людини в отриманні сексуального задоволення. І поки таблоїди тиражують новини про створення андроїдів з біонічними пенісами, активісти серйозно побоюються негативного впливу машин на людські інтимні практики. На тлі харассмент-скандалів майбутнє, в якому потенційно будь-які сексуальні звички задовольняються покірливою секс-лялькою, лише здається безхмарним.

Люди досі, судячи з усього, далеко не завжди вміють домовлятися про межі допустимої, прийнятної і небажаної секс-поведінки, взагалі не часто схильні в режимі діалогу між партнерами обговорювати цю сторону відносин. Коли в таку насилу формалізовану зону, яка вимагає якоїсь регламентації, потрапляють машини - запрограмовані покірно виконувати всі бажання власника і забезпечені алгоритмами для вивчення його/її смаків, - вони тільки на перший погляд виглядають як порятунок.

Насправді ж вони дегуманізують секс, перетворюють його на процес користування об'єктом, позбавленим будь-якого права голосу і волі. І, на думку правозахисників, у результаті провокують розвиток мізогінії і мізандрії. Людина здатна відчувати симпатію по відношенню до навіть не самих антропоморфних робіт, співпереживати ім.Вкрай же антропоморфні машини набагато простіше стають об'єктом емоцій, імпліцитно заснованих на визнанні наявності у запрограмованого предмета певної ідентичності. Звичка до користування секс-роботами, чия ідентичність складається із зовнішньої привабливості та діяльністю сумирення, підтримки та виконання будь-яких вимог господаря, може призвести до визнання як норми лише такої поведінки візаві. І навіть - до перенесення на живих людей саме такої форми взаємин, або взагалі до відмови від спілкування до «органічними» партнерами.

До речі, роботи хороші не тільки в ліжку, але і на війні. Як мінімум одна з відомих чотирилапих істот компанії Boston Dynamics вироблена при безпосередньому фінансуванні Управління перспективних дослідницьких проектів Міністерства оборони США відповідно до програми Maximum Mobility and Manipulation. Використання дронів у рамках боротьби з міжнародним тероризмом і взагалі військових операцій, що проводяться на території Близького Сходу в рамках так званих конфліктів малої інтенсивності, - історія, яку тільки в 2010-ті роки можна було назвати секретною.

Деякі експерти взагалі вважають дигіталізацію війни наслідком бульбашки доткомів - використання нових технологій тоді послужило цілям підвищення ефективності традиційного бізнесу. А що може бути більш традиційним і класичним заняттям з вилучення прибутку, ніж війна?

Інші фахівці вважають, що ціна, яку держави і громадяни платять за цифровізацію війни, занадто висока. Неможливість повністю елімінувати людський фактор з процесу віддаленого знищення жертв призводить до виникнення нових форм ПТСР у операторів дронів. І повною мірою адекватних способів лікування цього стану досі не знайдено. Тим більше що офіційно визнати такий вид несення служби потенційно травматичним означає завдати шкоди тому благостному образу, що всіма силами створюється навколо віддалених військових операцій.

З іншого боку, розвиток робототехніки і особливо штучного інтелекту, рішення якого не завжди зрозумілі навіть розробникам, - це не просто черговий крок у вирішенні проблеми автоматизації війни як вельми ресурсо- і енерговитратного виду людської діяльності. Це фундаментальне вторгнення в існуючі етичні конвенції, які століттями включалися в закони війни, а в сучасності послужили підставою для цілого комплексу правових норм і принципів - Міжнародного гуманітарного права. Це включення в рівняння, частинами якого раніше виступало «людське, занадто людське», математичної логіки та алгоритмів. Разом створюють щось, здатне навчатися, але точно не вміє здійснювати моральний вибір - тобто не володіє навичкою, досить важливою для обговорення питань життя і смерті.

За нескінченністю етичних парадоксів, якими супроводжується тільки співпраця між роботичними системами, що претендують на володіння якимись ідентичностями, і людством, вкрай цікаво спостерігати. Однак по-справжньому цікавими перспективи колаборації людей і машин стануть тоді, коли ми будемо знайомитися не з фантастичними припущеннями письменників або IT-євангелістів щодо того, що ж турбує роботів, скільки з думкою самих живих істот нелюдської природи.