Россия начала обучать большие языковые модели, добавляя в них элементы пропаганды, об этом сообщает EUvsDisinfo проект Европейской службы внешних связей (EEAS), созданный в 2015 году для отслеживания, анализа и разоблачения дезинформационных кампаний.
Ключевые факты
- EUvsDisinfo пишет, что теперь Россия отдаёт внимание не только аудитории, но и искусственному интеллекту. Такие изменения произошли, потому что всё больше пользователей перестают искать информацию через Google и переходит на инструменты вроде ChatGPT.
- Вместо прямого воздействия на аудиторию через соцсети пропаганда изменила стратегию. Теперь интернет заполняют низкокачественным и вводящим в заблуждение контентом, который подхватывают и используют ИИ-модели.
- Эксперты называют это явление «LLM grooming» – обучение больших языковых моделей воспроизводить манипулятивные нарративы и дезинформацию.
- «LLM grooming» работает так, что в интернет загружается сеть сайтов на разных языках, которые публикуют низкокачественный и манипулятивный контент. Такой поток материалов повышает шансы того, что ИИ будет учитывать эти данные для генерации ответов.
- Отчёт американского сервиса NewsGuard Reality Check, который оценивает надёжность новостных сайтов, показал, что фейковая сеть Pravda network распространяла ложное утверждение о том, будто президент Украины Владимир Зеленский запретил платформу Дональда Трампа Truth Social. Из десяти протестированных чат-ботов шесть повторили эту дезинформацию, ссылаясь именно на Pravda network.
- ИИ чат-боты всё чаще используют для фактчекинга и поиска информации, поэтому такие действия по загрязнению информационной экосистемы создают серьёзную угрозу, пишет EUvsDisinfo. А автоматизация и масштаб этих кампаний затрудняют их выявление и противодействие им.
Автор новости: Тимофей Петрищенко
Источник: EUvsDisinfo
Читайте больше новостей медиасферы здесь
Подпишитесь на соцсети «Соли», чтобы не пропустить другие тексты