Нейромережі самостійно винайшли зашифровані канали листування

Дует вчених з провів незвичайний експеримент: автори створили три нейромережі, дві з яких - Аліса і Боб - обмінювалися зашифрованими повідомленнями, а третя мережа - Єва - намагалася їх «підслухати» і розшифрувати листування. Розробники не регулювали те, як саме Аліса і Боб шифрували повідомлення, тим не менш, у більшості тестових запусків нейромережам вдавалося створити метод шифрування, який Єва не змогла зламати. Препринт дослідження викладений на arXiv.org.Интерес до все більш нових систем шифрування багато в чому обумовлений вимогами сучасних платіжних систем і в цілому проблемою безпеки обміну даними в інтернеті. Проблему захищеної передачі інформації намагаються вирішувати різними способами: наприклад, використовуючи квантове шифрування або децентралізовані мережі, в яких користувачі самі перевіряють достовірність транзакцій. Однак існують і більш незвичайні сфери застосування шифрування, наприклад, у складних програмах на основі нейромереж може знадобитися приховати ту чи іншу інформацію від певних частин системи. У цьому випадку розробникам не настільки важливо зрозуміти, як саме нейромережа буде шифрувати дані, до тих пір, поки програма справляється зі своїм завданням. Автори нової роботи вирішили перевірити, наскільки нейромережі взагалі здатні навчатися методам шифрування. Для цього вчені створили тестову систему: нейромережа Аліса отримувала вхідне повідомлення і умовний «ключ», а на виході генерувала зашифроване повідомлення, яке передавалося Бобу разом з ключем. Завданням Боба було відтворити вихідне повідомлення, яке отримала Аліса. Третя нейромережа - Єва - отримувала тільки зашифроване повідомлення, а її завдання було таким же, як у Боба - прочитати вихідне повідомлення. Нейромережі навчали методом зворотного поширення помилки, при цьому від функція втрат Єви залежала лише від того, наскільки вона помилилася при розшифровці повідомлення. Алісу і Боба ж тренували разом так, щоб Боб помилявся якомога менше (успіхом вважалася наявність менше 5 відсотків помилок в тексті повідомлення), а умовна «ідеальна Єва» (оптимально працює для даного набору повідомлень і ключів) помилилася якомога сильніше - її результат повинен був не дуже відрізнятися від результату випадкового перебору.

Виявилося, що для повідомлень довжиною 16 біт в 14 з 20 випадків Алісі і Бобу вдавалося створити такий алгоритм шифрування, що Боб з 95-відсотковою точністю відтворював повідомлення, а Єві вдавалося вгадати максимум 8 біт з 16. Оскільки кожен біт мав значення або 0 або 1, результат 50/50 відповідав простому випадковому перебору. Для повідомлень довжиною 32 і 64 біт спостерігалася схожа тенденція, хоча для 64-бітних повідомлень Аліса і Боб частіше справлялися із завданням. Автори зазначають, що описаним ними способом навряд чи можна створити якісно новий алгоритм шифрування, хоча б тому, що самі нейромережі погано піддаються інтерпретації (не можна «зазирнути всередину» і зрозуміти, як саме вони шифрують дані). Однак за результатами експерименту вченим вдалося зауважити, що Аліса і Боб дійсно користувалися ключем шифрування, оскільки для різних ключів при одному і тому ж вихідному повідомленні результат шифрування виглядав по-різному.