Життя з роботами: Розпізнати андроїда серед людей і підготуватися до повстання машин

Роботи стрімко еволюціонують - наближається час, коли вони заповнять вулиці, офіси, квартири і навіть наші тіла. Чи готові ми існувати пліч-о-пліч з машинами, що ведуть себе як люди і вже почали конкурувати з нами за робочі місця? Виникає безліч гуманітарних питань.

Що можна довірити роботу, а в чому йому краще відмовити? Чи здатний він приймати рішення, відчувати емоції, чи володіє певною свободою волі і чи несе відповідальність за свої вчинки? Як інтегрувати роботів у суспільство? Питання ці здаються наївними. Бувай. Але може виявитися, що відповіді на них вирішать долю нашої цивілізації.

Коли світло вимкнулося, заграла гаряча мелодія з тих, що зазвичай супроводжують манекенниць на подіумі. І ми () побачили два величезних червоних ока у формі серця. Робот під'їжджав до публіки з гідністю і грацією. Очі перетворилися на два блакитних кола, що випромінюють добрі наміри і дитячу наївність, руки простягнулися до людей. Світло знову ввімкнули.

- представив його публіці керівник проекту Promobot і завідувач кафедри робототехніки Московського технологічного інституту (МТІ) Олексій Южаков. - У 2012 році ми називали його Промобот, потім до нього приклеїлося прикре прізвисько Пам'ятник, потім у нього було дзвінке ім'я Богдан, але тепер він Алантім - на честь творців нового світу Алана Тьюрінга і Тіма Бернерса-Лі.

Алантим ще повернувся туди-сюди і поїхав спілкуватися з журналістами, обсипаючи їх жартами та історіями про те, як роботи захоплять владу на Землі і перейменують її в Промоботію. До нього тут же вишикувалася черга з дівчат, які бажають сфотографуватися з настільки милим створінням. Алантім знайомився з дівчатами, відповідав на питання про сенс життя і курс долара і всіх запам'ятовував.

Так пройшов перший робочий день нового заступника завідувача кафедри робототехніки Московського технологічного інституту - робота Алантіма.

Машина з характером

Алантим - істота не унікальна. Команда з Пермі, яка створила промоботів, вже продала 60 таких пристроїв, а в нинішньому році уклала контракти ще на 124, практично виконавши річний загальноросійський план з постачання сервісної робототехніки, - в 2014-му було продано лише близько 200 вітчизняних сервісних роботів.

Промобот - це автономний робот з характером, призначений для роботи в місцях підвищеного скупчення людей: промоутером, екскурсоводом, шоуменом. Він вміє розпізнавати деякі емоції співрозмовника, здатний зрозуміти звернене до нього питання і знайти відповідь у Мережі, а якщо не розуміє питання - намагається віджартуватися.

Тим часом ми вирушили до начальника Алантіма - проректора МТІ Євгена Плужника

Як у вас з'явилася ідея взяти робота в штат організації?

[Григорій Бубнов] Ми просто зрозуміли, що рано чи пізно настане момент, коли роботів почнуть приймати на роботу. І вирішили стати першопрохідцями.

Значить, недарма кажуть, що роботи претендують на наші робочі місця.

Насправді це не жарт, а дуже серйозна загроза, особливо в сферах, де зайняті великі маси людей. Думаю, наприклад, вже в цьому десятилітті стануть повсюдно продаватися машини з автономним керуванням, а слідом за цим безліч водіїв залишаться без роботи. Уряди неминуче зіткнуться з цим викликом, - потрібно починати думати, як створювати нові робочі місця і програми перекваліфікації.

Як ви думаєте використовувати Алантіма? Просто як ефектну іграшку?

[ГБ] Не тільки! У нього, наприклад, є дослідницьке завдання - накопичити дані про комунікації роботів з людьми, вивчити індивідуальні реакції на роботів. Ця інформація допоможе зробити зовнішній вигляд і поведінку майбутніх модифікацій Алантіма більш людяними і комфортними для спілкування.

[КШ] Що за інформацію він збирає?

[ГБ] Насамперед дані про реакції на його поведінку - у нього є система розпізнавання емоцій. Наприклад, як реагують оточуючі, коли він піднімає руку? Раптом його манера щось робити їх лякає? Наші жести відточені еволюцією - ми не замислюючись, припустимо, чешемо в потилиці, - а з роботом весь цей шлях до «природності» поведінки ще потрібно пройти. До речі, він запам'ятовує людей, фотографуючи їх.

Але тут можуть виникнути проблеми: зображення людей вважаються персональними даними, і є закон, що обмежує їх використання. Тут взагалі буде виникати багато питань правового характеру - припустимо, чи потрібно платити прибутковий податок з електроенергії, яку віддали співробітнику-роботу на зарядку? Думаю, скоро ми побачимо, як почне змінюватися законодавство в різних країнах - разом зі ставленням людей до робіт.

Гумовий Пушкін та інші роботи

На глобальному ринку роботів вже відбувається бум, продажі б'ють рекорди - десятки мільярдів доларів за підсумками минулого року.

З героїв голлівудських блокбастерів роботи ось-ось перетворяться на реальних персонажів - і ми почнемо з ними жити. Чи уживемося? Починаючи зі страшилок про Голема і Франкенштейна або п'єси Карела Чапека, де вперше з'являється слово «робот», всі ці історії, як правило, закінчувалися одним - повстанням рукотворних істот проти своїх творців. Чи зможемо ми створити реальність, що перевершує наші фантазії?

Реклама на сайті проекту Promobot дохідливо пояснює, чим співробітник-робот кращий за людину: не потребує зарплати і спецодягу, працює без перерв, не хворіє, не протестує, не плутається в словах, не говорить зайвого, не потребує навчання... Переваг так багато, що, за різними оцінками, в найближчі десятиліття роботи можуть зайняти від 40 до 80% робочих місць, тобто нам загрожує небувала хвиля масового безробіття.

Може, в результаті це і обернеться золотим століттям, коли, як мріяв Карл Маркс, люди будуть займатися вільною творчістю. Але до нього ще треба дожити - і бажано без соціальних катастроф. Істотно обмежити використання роботів навряд чи вийде: ніколи ще законодавчими заборонами не вдавалося зупинити прогрес. Та й сенс? Швидше вже людям заборонять водити машини, коли роботи-водії стануть повсюдним явищем. Людина занадто непередбачувана. Хіба не небезпечні, наприклад, люди-пілоти, здатні направити літак в землю або на житлові квартали?

Значить, треба вчитися жити з роботами.

Для початку ми вирушили туди, де роботів багато, - на міжнародну конференцію Skolkovo Robotics. У сколківському Гіперкубі зібралася різношерста компанія роботів і їх творців. Великі і маленькі, літаючі і крокуючі дрони, професійні пожежники та електронні двірники, механічні руки і ноги, тулуба і голови...

Ось гумова голова Пушкіна, насаджена на штатив, немов на кіл, стежить за перехожими і нервово посмикає бровою - забагато народу, очі розбігаються. Обличчя поета так схоже на справжнє, що відчуваєш трепет.

Неподалік стоїть робот, зовсім несхожий на людину. Замість тіла палиця на коліщатках, замість голови екран, що повертається в усі боки. Це робот телеприсутності Webot, створений у Сколкові для допомоги дітям з обмеженими можливостями. До нього можна підключатися через інтернет, переміщатися з його допомогою по будівлі, бачити і чути те, що відбувається навколо і взаємодіяти з оточуючими.

Такі роботи вже використовуються в декількох школах - діти підключаються до них з дому, і з їх допомогою відвідують уроки, виконують завдання, відповідають на питання вчителя, під'їжджаючи до дошки, спілкуються з однолітками.

Основними споживачами сервісних роботів у Росії, та й у всьому світі, є люди з обмеженими можливостями. Робототехніка дає їм надію на повернення до повноцінного життя - як, наприклад, перший російський екзоскелет ExoAtlet. Його пілот Ярослав, ще недавно вимушений вести життя паралізованої людини, ходить серед публіки, немов кіборг з майбутнього.

Ще одного робота-помічника нам представив японський професор Казухіко Террасима:

- Японське суспільство швидко старіє, персоналу в клініках не вистачає. А розроблений нами робот Terapio показав себе як відмінний помічник лікаря. Він слідує за лікарем, возить інструменти, але головне - запам'ятовує дані, що робить непотрібними медичні карти. Крім того, він самостійно здійснює обхід пацієнтів і в разі чого піднімає тривогу.

У нього дитячий вираз обличчя і ніжний голос, він вміє сміятися і плакати, його великі очі весь час моргають - щоб подобатися пацієнтам, викликати у них реакцію, схожу з тією, що викликають діти або кошенята. Наш робот - важливий крок у проекті роботизованого госпіталю, що здійснює безперервний моніторинг стану пацієнтів. До речі, ви знаєте, тепер і операції роблять за допомогою роботів-хірургів.

Андроїда впізнаєш за ходою

У конференц-залі Гіперкуба виступають робототехніки і конструктори. Михайло Лебедєв з Університету Дьюка розповідає, як він вживляє в мозок мавп чіпи, що дозволяють їм керувати роботами силою думки. Сесію веде Дмитро Тетерюков, професор Сколківського інституту науки і технологій, керівник лабораторії космічних роботів, який багато років пропрацював в Японії.

Ми, звичайно, засипали його питаннями.

[Кіт Шредінгера] За статистикою, поголів'я роботів стрімко зростає, але де вони ховаються - крім тих, що використовуються в промисловості?

Крім промислових зростає армія сервісних роботів - всі чули про роботів-пилососів або роботів-квадрокоптерів, які доставляють покупки. Багато таких машин використовується в медицині, а в армії США вони вже давно воюють: наприклад, гусеничні роботи з маніпулятором займаються розмінуванням. Вони взагалі виявилися дуже корисними в надзвичайних ситуаціях, їх використовували при аварії на «Фукусімі».

[КШ] А ви яких роботів виробляєте в Росії?

[ДТ] Я продовжую те, чим займався в Японії. Один з проектів - управління групою роботів, коли вони діють за загальним планом, як єдина зграя, обмінюються інформацією і враховують дії один одного. Ми, звичайно, будемо все це обкатувати тут, на Землі, але плануємо, що вони будуть працювати на космос.

Фантасти завжди описували роботів як таких одиночних створінь...

[ДТ] Розподілити роботу між багатьма набагато ефективніше, ніж все доручати одному. Припустимо, одна самоврядна машина повинна сама обробляти всю інформацію про дорогу, але якщо такі пристрої будуть всюди, їм набагато зручніше діяти на основі загальної картини і програми.

Коли роботи стають схожі на людину і зовні, і розумом, це ж починає дещо лякати?

[ДТ] Є такий японський професор Хіросі Ісігуро, який створює андроїдів, майже невідособлених від нас, - я нещодавно сам прийняв одного з його геміноїдів за людину. Але це тільки поки він сидить. Не з'явився ще такий робот, який вміє ходити як людина, - його легко розпізнати по походці. Ісігуро зробив і свою копію, і копію своєї доньки.

Щоправда, побачивши її, донька злякалася, заплакала і втекла. Тобто коли робот стає дуже схожий на людину, виникає її відторгнення. А коли цей поріг пройдено, неприродність вигляду і рухів усунена, робота починають сприймати як справжню людину. Але щоб його пройти, треба домогтися не тільки фізичної подоби, а й інтелектуальної - здатності вести розумну розмову.

[КШ] Чи актуальний знаменитий критерій Тьюрінга, згідно з яким розумним слід вважати робота, якого ми в розмові не зможемо відрізнити від людини? Або його треба якось переформулювати?

[ДТ] Зараз цей критерій розуміють як тест для програм, що симулюють людське спілкування в чаті. Але ж справа не тільки в інтелекті - щоб прийняти антропоморфного робота за людину, він повинен бути емоційним, плавно рухатися, по-людськи поводитися. Вже зараз є програми, що вельми переконливо демонструють сарказм та іронію. Я думаю, скоро з'являться окремі тести для різних здібностей: емоційний тест Тьюрінга перевірятиме адекватність емоцій, а, наприклад, руховий - здатність переміщатися як людина.

[КШ] Ви не боїтеся, грубо кажучи, повстання роботів?

Програми для роботів адже люди пишуть, а значить, вони і визначають, що роботи зможуть, а що ні, які у них будуть бажання, а яких не буде. Та й навіщо б роботам йти проти своїх творців, з якої причини?

Наприклад, через наше нерозуміння, що їм теж потрібні права, або через те, що їх розбирають і утилізують після закінчення терміну придатності. А програми для роботів адже не тільки люди будуть писати - рано чи пізно машини стануть самонавчальними.

[ДТ] Вони будуть навчатися в заданих нами рамках. Мені здається, варіант майбутнього з протистоянням людей і роботів веде до деградації, хто б у такому протистоянні не переміг. Продуктивний з еволюційної точки зору сценарій - це симбіоз, а не війна на знищення, паразитизм або інший варіант підпорядкування. Причому симбіоз цей буде відбуватися і в тілі людини, так що найцікавіші етичні питання, на мій погляд, будуть виникати у зв'язку з кіборгізацією.

Де пройде межа між людиною і машиною, коли ми почнемо встановлювати собі штучні органи, інсталювати чіпи в мозок, покращувати собі за їх допомогою пам'ять та інші здібності? Мені здається, нас чекає майбутнє без гаджетів і персональних комп'ютерів - досить буде зробити мислений запит або дати команду, адже мозок буде підключений до Мережі.

Але можливо, для кіборгів знадобляться обмежувальні закони, подібні законам робототехніки Азімова, - я їх навіть якось сформулював. Їх суть в тому, щоб машина в кіборзі не захопила владу над людиною, щоб право прийняття рішень залишалося за людиною, а не за її головним процесором.

[КШ] У вас є робот мрії?

Напевно, це керований оператором робот з ефектом телеприсутності, який дозволяв би повноцінно спілкуватися на відстані і передавав оператору всі відчуття, створюючи ефект повної присутності.

[КШ] Аватар?

[ДТ] Так. Я займався цією темою до того, як вийшов «Аватар», але, звичайно, такі фільми в якомусь сенсі визначають майбутнє - наше розуміння того, до чого ми прагнемо і що можливо.

Моральні машини

У Гіперкубі між тим почалася дискусія на тему «Моральний портрет антропоморфної машини». З вступною промовою про моральний вигляд роботів виступав професор психології Максим Кисельов.

- Робоетика займається всіма гуманітарними проблемами, пов'язаними з роботами, - пояснював він. - Наприклад, юридичними: хто відповідає, якщо машина без водія кудись в'їхала, - сам робот, власник машини або програміст? Або соціальними, головне з яких - потенційне безробіття. Я сам не раз бував на роботизованих виробництвах - наприклад, на заводі в Суїндоні, де виготовляють комплектуючі для автомобілів MINI Cooper. Там працює близько двохсот роботів і стільки ж людей, а раніше було чотири тисячі робочих місць. Є і специфічні моральні проблеми, наприклад так звана дилема робота-помічника. Як зрозуміти, коли допомога машини стає контрпродуктивною? Уявіть робота, м'якого і пухнастого, який ходить за дитиною і збирає іграшки. Але ж для нормального розвитку дитини потрібно, щоб вона це робила сама.

Виконавшись робофобії, ми вирушили до творця робоетики професора Джанмарко Веруджіо, голови комітету з науки Школи робототехніки італійського Інституту електроніки, інформаційної техніки та телекомунікацій, - він якраз сидів неподалік.

Як виникла робоетика?

[Джанмарко Веруджіо] Колись я був фанатом Азімова, до шістнадцяти років прочитав всі його книги. Може, тому багато років потому на мене знайшло щось на зразок прозріння, з якого виникла робоетика. Я зрозумів, що закони робототехніки Азімова - «Робот не може заподіяти шкоду людині» і так далі - це зовсім не закони, а просто благі побажання, жодне з них на практиці не дотримується. Справжній закон - це e = mc2. Як і інші закони природи, його не вийде порушити.

За порушення юридичних законів слідує покарання. А три закони робототехніки - це на зразок біблійних заповідей, які говорять «не убий»: все начебто за, але не дотримуються. Прямо зараз роботизовані системи озброєння розробляються в багатьох країнах світу. Зброю потрібно, щоб вбивати, а значить, цих роботів створюють, щоб вбивати людей.

Ми повинні надати законам робототехніки юридичну силу. Написання таких законів - важке завдання. Припустимо, робот може вбити людину навмисно, а може випадково, через поломку або недоліки програми, - розрізнити ці ситуації часто буде непросто. Але думати про ці проблеми варто почати вже зараз: якщо ми підемо невірним шляхом, то можемо сильно зіпсувати майбутнє людства. Нерозумно створювати майбутнє з закритими очима, але поки ми розвиваємо робототехніку наосліп.

Військові роботи - одна з головних проблем робоетики. Ми намагаємося привернути до неї увагу різних міжнародних організацій. Це далеко не тільки моя ініціатива, існує інтернаціональний рух «Зупинимо роботів-вбивць!», що проводить кампанію в інтернеті і підтримуване ООН.

Інша група проблем пов'язана з темою біороботів і штучних органів. До якої міри ми можемо, наприклад, втручатися в роботу людського мозку? Мій друг займається експериментами з щурами - вставляє їм електрони в мозок і управляє їх поведінкою. Він справжній щурячий пілот! Але коли мозок людини буде повний всяких нейроімплантатів, що підсилюють здібності або керують кібернетичними органами, то подібне перехоплення управління можна буде проробляти і з людьми.

Але не відмовлятися ж нам від благ, які несуть технології, тільки через те, що нові можливості завжди йдуть рука об руку з новими небезпеками?

Як вирішити ці проблеми так, щоб технології не зробили нас підконтрольними об'єктами управління, а, навпаки, збільшили нашу свободу? У мене немає відповіді на це питання, я просто хочу його поставити, розуміючи всю його складність і неповноту нашого бачення ситуації.

Перед робоетикою виникає безліч несподіваних питань. Уявіть, наприклад, таку ситуацію: робот-доглядальниця доглядає самотню літню людину, той спілкується з машиною більше, ніж з будь-ким ще. І швидко починає вважати її людиною, любити як людину і страждати, якщо вона ламається, - ми схильні робити це навіть з примітивними тамагочі, а тут будуть набагато сильніші почуття. Чи можна вимкнути такого робота? Для мене людина - це людина, а машина - машина, але, боюся, люди скоро почнуть помилятися...

А як ви їх розрізняєте? Чат-боти вже проходять тест Тьюринга...

[ДВ] Я б почав з того, що наша психіка - не просто міститься в тілі, як у контейнері. Психіка вбудована в тіло - ми стаємо розумними і свідомими в міру того, як знаходимо тілесний досвід. Концепція штучного розуму, яку придумали комп'ютерники в 1960-х, передбачала, що для його появи достатньо віртуального світу. Тепер цю ідею жартома називають GOFAI (good old-fashioned artificial intelligence - старий добрий штучний інтелект), а розробникам стало зрозуміло, що, для того щоб знайти подобу розуму, програмі знадобляться тіло робота і тривалий досвід взаємодії з реальним світом. Але, взагалі кажучи, зробити розумну машину ми не можемо хоча б тому, що ще дуже слабо розуміємо, як влаштований мозок, що таке розум і свідомість.

Значить, правами роботів робоетика не займається? Але що ви зробите, якщо завтра ваш комп'ютер скаже: «Мені страшно, не вимикай мене?»

Ну ні, права роботів почнуть мене хвилювати тоді, коли остання людина на планеті буде володіти всіма правами. Занадто багато ще треба зробити для людей, щоб почати піклуватися про машини. Робоетика - це про людей, ми повинні нею займатися, тому що створюємо своє майбутнє.