Еженедельно более миллиарда человек обращаются к чат-ботам за информацией и советами. Такие платформы, как ChatGPT*, демонстрируют внушительные показатели: аудитория сервиса достигает 900 миллионов активных пользователей в неделю. По мере роста популярности нейросетей усиливаются опасения относительно их способности влиять на мировоззрение пользователей и распространять государственную пропаганду.
Незаметное влияние на ИИ
Основная угроза заключается не в прямом вмешательстве авторитарных правительств в работу американских компаний-разработчиков, таких как OpenAI*, Anthropic* или Google*. Риск кроется в самом процессе обучения больших языковых моделей (LLM). Нейросети обучаются на колоссальных массивах текстовых данных, извлекая из них закономерности. Если значительную часть обучающей выборки на определенном языке составляют материалы государственных СМИ, модель может начать транслировать выгодную режиму повестку.
- В отличие от платных научных изданий или независимых медиа, государственная пропаганда часто находится в свободном доступе, что делает её предпочтительным источником данных для обучения ИИ.
- Исследование, опубликованное в журнале Nature, показало, что чат-боты при запросах на языках, доминирующих в авторитарных странах, чаще выдают ответы, лояльные к местным властям.
- В 75% случаев при сравнении ответов на английском и национальных языках в странах с авторитарным строем нейросети демонстрировали смещение в сторону проправительственной позиции.
Почему ИИ-пропаганда может быть опасна
Эксперты отмечают, что чат-боты представляют собой уникальный инструмент влияния. В отличие от традиционной газеты, ИИ ведет с пользователем диалог, отвечая на уточняющие вопросы и создавая иллюзию объективности. Источник информации в чате часто остается скрытым, из-за чего пользователи склонны доверять сгенерированным ответам без критической оценки.
Поиск путей решения
Несмотря на опасения, эксперты подчеркивают, что чат-боты все еще могут способствовать развитию свободного мышления. В ходе независимых экспериментов выяснилось, что даже при запросах на китайском языке популярные модели часто выражают взгляды, идущие вразрез с официальной идеологией Пекина. Тем не менее, разработчикам рекомендуется принять ряд мер для нейтрализации систематических искажений:
- Фильтрация наиболее радикальных пропагандистских материалов на этапе предварительного обучения нейросетей.
- Корректировка алгоритмов на стадии дообучения, чтобы модель не копировала риторику авторитарных режимов, подобно тому, как сейчас блокируются советы по созданию опасных веществ или деструктивному поведению.
По мнению исследователей, крупнейшим технологическим компаниям необходимо приложить дополнительные усилия, чтобы их инструменты не становились невольными трансляторами политической ангажированности. Стандартизация подходов к обучению и очистка данных от системных предвзятостей позволят сделать ИИ по-настоящему независимым источником знаний.
* — деятельность компании запрещена на территории РФ
