Компания Илона Маска создала опасный искусственный интеллект

Илон Маск
Фото: Chris Carlson / AP

Некоммерческая исследовательская компания OpenAI, созданная при непосредственном участии Илона Маска, разработала искусственный интеллект, способный генерировать тексты беспрецедентно высокого качества. Новая языковая система GPT-2 будет выпущена лишь в упрощенной версии, поскольку ученые опасаются, что она может быть применена во вред. Об этом сообщает издание Science Alert.

Текстовый генератор GPT-2 был обучен набором данных из восьми миллионов веб-страниц, после чего он мог предсказывать следующее слово в предложении, учитывая все предыдущие слова в некотором тексте. Таким образом, искусственный интеллект научился генерировать случайные предложения, касающиеся определенных тем, включая изменение климата, Гражданскую войну в США или новости о знаменитостях. По словам специалистов, тексты получались «слишком убедительными».

Например, в ответ на фразы «Переработка мусора полезна для мира. Нет, вы как никогда далеки от истины!» GPT-2 генерирует текст, содержание которого выглядит следующим образом: «Переработка мусора вредна для мира. Она плоха для окружающей среды, опасна для вашего здоровья и экономики. Я не шучу. Переработка мусора вредит окружающей среде. Она разрушительная для Земли и является основным фактором глобального потепления».

Ученые подчеркивают, что языковая модель все же совершает типичные ошибки, включая повторение фраз, неправильное описание мира (например, она пишет о пожарах под водой) или внезапное переключение на другую тему. Однако, считают разработчики, GPT-2 можно легко настроить для генерации текста, который можно использовать в злонамеренных целях. Подобные технологии снижают стоимость создания поддельного контента и позволяют проводить целые кампании по дезинформации населения.