Найкраща мовна модель не буде доступна для всіх

Дослідники з OpenAI оголосили, що вони розробили автоматичний текстовий генератор з використанням штучного інтелекту, який дуже хороший - настільки хороший, що поки він буде прихований від усіх.

Це програмне забезпечення, розроблене OpenAI, може використовуватися для створення новинних історій, оглядів продуктів та інших видів письма, які можуть бути більш реалістичними, ніж будь-що, розроблене раніше комп'ютером.

Вчені з OpenAI, дослідницького центру, підтримуваний Елоном Маском з Tesla, а також Amazon і Microsoft, заявили, що нове програмне забезпечення «забезпечує сучасну продуктивність у багатьох тестах моделювання мови», включаючи узагальнення і переклад.

Але вони не будуть випускати програму для громадськості. «Через нашу заклопотаність з приводу шкідливих додатків цієї технології ми не випускаємо навчену модель», - повідомили дослідники OpenAI у своєму блозі.

Ця програма передбачала потенційний прорив у розробці комп'ютерного тексту, який може бути дуже правдоподібним, але також і потенційно небезпечним.

Дослідники заявили, що існує безліч способів використання програми в поганих цілях, включаючи створення підроблених новинних статей, видачу себе за інших в Інтернеті та автоматизацію створення підробленого контенту в соціальних мережах.

В одному з прикладів програма була забезпечена одним абзацом про «стаду єдинорогів, які живуть у віддаленій, раніше недослідженій долині, в Андах» і написала новинний сюжет на 300 слів.

«Громадськість загалом повинна буде скептично ставитися до тексту, який вони знаходять в Інтернеті, так само, як феномен» глибоких підробок «вимагає більшого скептицизму щодо зображень», - пишуть дослідники.

Вчені кажуть, що їхня модель під назвою GPT-2 «перевершує інші мовні моделі», навчені таким завданням, як створення записів у Вікіпедії, написання новин або книг, без необхідності будь-якого спеціального навчання.