Штучному інтелекту відмовили в появі на літаках

Штучний інтелект в найближчому майбутньому не може бути вбудований в бортове обладнання пасажирських літаків. До такого висновку, як пише Aviation Week, прийшли фахівці Французького аерокосмічного дослідницького центру (ONERA) і компанії Thales. На думку фахівців, сучасні системи з елементами штучного інтелекту вчаться на великих обсягах даних, і з цієї причини при виникненні будь-яких помилок в їх роботі знайти причину збою зазвичай неможливо. Крім того, розумні системи не мають функції пояснення того чи іншого прийнятого ними рішення.

Однією з основних вимог до безпеки авіаційного транспорту є відтворюваність помилок і детальне розуміння алгоритмів роботи тих чи інших систем. Наприклад, на більшості сучасних пасажирських літаків стоять системи попередження зіткнень в повітрі другого покоління. Вони постійно сканують простір перед літаком і при виявленні за курсом іншого літального апарату дають пілотам відповідне попередження, а також вказівки, які саме дії треба вчинити, щоб уникнути зіткнення.

Знаходяться поруч системи попередження зіткнень в повітрі при першому виявленні один одного обміняються даними і сформують кожна свою вказівку пілотам. Якщо в одному літаку така система дасть вказівку піднятися вище, то в іншому буде віддана команда знизити висоту. У разі збою однієї з систем, техніки згодом зможуть знайти помилку, відтворити її і усунути. Пошук помилки можливий саме завдяки детальному розумінню алгоритмів роботи стандартних систем.

За словами Віржині В'єль, директора з інформаційних систем ONERA, до тих пір, поки у розробників не буде чіткого розуміння, як саме системи штучного інтелекту приймають рішення і чому конкретно ці рішення ними приймаються, ні про яку сертифікацію для їх використання на пасажирських літаках мови йти не може. За оцінкою ONERA, позитивних зрушень у цій галузі не буде принаймні найближчі десять років.

За оцінкою головного технічного директора компанії Thales Марко Ермана, перші результати зі створення інтелектуальних систем, здатних пояснювати свої рішення, можуть з'явитися в 2021 році. Однак це не означає, що подібні системи потраплять на пасажирські літаки. При цьому дослідження в області систем штучного інтелекту для літаків активно ведуться. Передбачається, що такі системи у віддаленій перспективі дозволять впоратися з дефіцитом льотчиків, підвищити безпеку перельотів і знизити навантаження на пілотів.

Наприкінці серпня 2018 року Агентство перспективних оборонних розробок (DARPA) міністерства оборони США замовило американській компанії Raytheon розробку нейромережі, здатної пояснити, чому вона під час своєї роботи прийняла те чи інше рішення. Напрацювання за проектом будуть використані в рамках більш масштабного проекту зі створення бойових підрозділів «осіб - робот». Проект створення змішаних підрозділів передбачає, що в них люди і роботи будуть діяти спільно як напарники.

У DARPA вважають, що для ефективної взаємодії солдатів і роботів у бою важливо, щоб люди довіряли своїм електронним напарникам. Рівень довіри можна буде підвищити, якщо роботи зможуть пояснювати людям, чому вони приймають те чи інше рішення. Проект нейромережі, здатної порозумітися з людиною, отримав позначення XAI (Explainable Artificial Intelligence, пояснений штучний інтелект). Він передбачає створення нейромережі, що не поступається у швидкодії звичайним нейронним мережам, але здатною показати весь ланцюжок аналізу, на підставі якого вона прийняла конкретне рішення.