🤖 Архитекторы реальности: как языковые модели переписывают правила международной политики — доклад Игоря Денисова (ответственные редакторы — Андрей Байков, Максим Сучков):

• Большие языковые модели (БЯМ) перестают быть объективными инструментами анализа, а становятся полноценными элементами международной информационной экосистемы, начинают выступать акторами в глобальной конкурентной игре. Способность генерировать и адаптировать политические нарративы с беспрецедентной скоростью и масштабом делает их инструментом формирования глобального общественного мнения.

• Распространение результатов работы БЯМ в Интернете приводит к тому, что корпус синтетической информации становится обучающими данными для последующих моделей. В перспективе это приводит к снижению качества данных, которое иногда называют «коллапсом модели» или «загрязнением ИИ».

• Хотя борьба за гегемонию в информационном пространстве совсем не нова, однако появление БЯМ усиливает её в геометрической прогрессии. Текст становится стратегическим ресурсом, поскольку совершенные модели способны массово производить убедительные месседжи и образы, влияющие на общественное мнение, экспертные оценки и ситуацию в таких областях как культура и образование, безопасность и дипломатия.

• Усилия по разработке региональных или страновых БЯМ отражают общую стратегию, где главная цель — снижение зависимости от моделей США и Китая, что позволит ликвидировать уязвимости в области безопасности и культурную асимметрию. Одновременно многие средние державы признают, что достижение технологической независимости остаётся весьма затратным (а часто призрачным) проектом.

• Глобальная ситуация и глобальное управление уже находятся в движении по трём направлениям. Первое — это технологические изменения, связанные с внедрением ИИ, которые перестроили социальную жизнь и создали цели регулирования. Правительства и на Западе, и на Востоке начали включать «искусственный интеллект» в законодательные акты, прямо называть то, чем они управляют.

• Второе направление — ориентированный на будущее мониторинг конкретных рисков, попытка найти в работе моделей то, что станет серьёзным вызовом завтра. Все больше экспериментов показывают, что совместное написание текстов с помощью моделей меняет язык пользователей и их установки. Возникает феномен «латентного убеждения», когда модели склонны генерировать одни точки зрения чаще, чем другие, незаметно направляя пользователей к определённым позициям и действиям.

• Третья область — более широкая архитектура управления, которая связывает принципы с практикой. Сами правила мало что дают, если не проникают в те сферы, где фактически формируются нормы: инфраструктуры данных, процессы обучения, фильтры безопасности, руководства по разработке, внедрению и мониторингу.

🔗 Читать доклад на Портале МГИМО

Подписывайтесь на ИМИ МГИМО | Наш подкаст «Внешняя политика»