Некоммерческая компания по разработке искусственного интеллекта OpenAI испугалась собственного творения. Ее программисты создали чат-бота, который генерирует настолько качественные тексты, что их почти невозможно отличить от написанных человеком. Система умело адаптируется к стилю и контенту, и разработчики уже боятся потенциальных угроз, которые может нести ее обнародование.

Основу чат-бота OpenAI составляет новая лингвистическая модель GPT-2. Ее тренировали предвидеть слова в образцах позаимствованных в интернете текстов. Общий объем тренировочной базы составил 40 гигабайтов текста.

Полученная система позволяет пользователям выбрать тему текста и его стиль, и через мгновение у них будет довольно большой текст высокого качества.

Разработчики опасаются, что созданный ими чат-бот может стать разрушительным, если его опубликовать. Ведь его могут привлечь к созданию фейковых новостей, генерации текстов в стиле какого-то человека, автоматизировать агрессивные и спам-комментарии в соцсетях. Например, GPT-2 попросили написать ответ на утверждение «переработка является хорошей для окружающей среды». Система ответила, что переработка является вредной для окружающей среды, и аргументированно объяснила свою точку зрения.

Опасаясь своего творения в OpenAI согласились опубликовать лишь небольшую часть своего чат-бота. Хотя в компании не уверены, стоит ли публиковать даже ее. В OpenAI также призывают власть систематически мониторить социальное влияние от проникновения искусственного интеллекта.