OpenAI раскрыла сведения об использовании ИИ для манипуляций общественным мнением
OpenAI выявила и пресекла пять онлайн-кампаний, использовавших ее генеративные технологии искусственного интеллекта для манипуляции общественным мнением и влияния на геополитические процессы. Эти кампании были организованы государственными акторами и частными компаниями из России, Китая, Ирана и Израиля.
В отчете OpenAI говорится, что технологии компании применялись для создания постов в социальных сетях, перевода и редактирования статей, написания заголовков и отладки компьютерных программ с целью поддержки политических кампаний или изменения общественного мнения в геополитических конфликтах. Это первый случай, когда крупная компания в сфере ИИ раскрывает, как ее инструменты использовались для онлайн-манипуляций.
OpenAI разрабатывает онлайн-чатботы и другие инструменты ИИ, способные писать посты в социальных сетях, создавать фотореалистичные изображения и программный код. В своем отчете компания сообщила, что ее инструменты использовались в кампании России под названием Doppelganger и китайской кампании Spamouflage.
Кампания Doppelganger использовала технологии OpenAI для создания комментариев на различных языках и перевода статей. Кампания была нацелена на аудиторию в Украине, Молдове, Балтийских странах и США. Кампания Spamouflage, связанная с Китаем, использовала инструменты OpenAI для отладки кода, анализа социальных медиа и исследования текущих событий, а также для создания постов, критикующих оппонентов китайского правительства.
Иранская кампания, связанная с группой International Union of Virtual Media, использовала технологии OpenAI для производства и перевода статей, направленных на распространение проиранских, антиизраильских и антиамериканских настроений. Израильская кампания, названная OpenAI Zeno Zeno, управлялась фирмой, занимающейся политическими кампаниями, и использовала инструменты OpenAI для создания фиктивных персонажей и биографий для социальных медиа в Израиле, Канаде и США, а также для размещения антиисламских сообщений.
Отчет OpenAI заключает, что хотя современные технологии ИИ могут сделать информационные войны более эффективными, они пока не создали лавину убедительной дезинформации, о которой предупреждали многие эксперты.
Подписывайтесь на telegram-канал, группу «ВКонтакте» и страницу в «Одноклассниках» «Реального времени». Ежедневные видео на RUTUBE, «Дзене» и youtube-каналах «Спорт», «Общество и культура», «Бизнес и технологии».