Содержание
Если вы беспокоились о том, что Cambridge Analytica может узнать о людях, подождите, пока не увидите это. Новая форма моделирования ИИ обещает точное моделирование того, как будут вести себя целые города, страны и, возможно, когда-нибудь весь мир
Октябрь 2020 года. Президентская избирательная кампания в США подходит к концу. Дональд Трамп отстает в опросах, и эксперты предсказывают победу его сопернику от демократов, бывшему вице-президенту Джо Байдену. Но Трамп невозмутим. Он хвастается, что снова победит. Бигли.
Через две недели его кампания развернет наступление в ключевых колеблющихся штатах: реклама, посты в Facebook, группы WhatsApp и твиты. Они предупреждают о насильственных преступлениях и гражданских беспорядках, вызванных иммигрантами и бандами, играя на поддержке Трампа евангелистами и очерняя Байдена как скрытого атеиста. Инициатива сработала, и Трамп вырвал еще одну маловероятную победу.
Вы, вероятно, думаете, что слышали все это раньше. Это повторение 2016 года, когда консалтинговая фирма Cambridge Analytica использовала целевые сообщения, чтобы, по-видимому, повлиять на исход выборов в США, не так ли? Неправильный. В этом сценарии есть новая, еще более убедительная технология: мультиагентный искусственный интеллект (MAAI). Эта технология позволяет делать прогнозы с необычайной точностью, проверяя их в высокодетализированных симуляциях, которые составляют целые искусственные общества. Если, например, команда кампании хочет решить, как и кому передать свои сообщения – как бороться с выборами-она может сделать это несколько раз в компьютерной симуляции.
Реклама
Идея о том, что кампания Трампа планирует использовать МААИ, является чистой спекуляцией. Но с точки зрения технологии ничто не может его остановить. Мааи уже используются для создания цифровых обществ, которые с поразительной точностью имитируют реальные. Это позволяет людям проводить радикальные социальные эксперименты. Хотите знать, что произойдет, если 20 000 сирийских беженцев прибудут в город в Западной Европе? Постройте искусственное общество и наблюдайте. Хотите знать, как сделать интеграцию этих иммигрантов мирной? Постройте искусственное общество, попробуйте и посмотрите, что работает. Хотите разжечь антииммигрантскую враждебность или разработать кампанию дезинформации, чтобы выиграть выборы?..
Проще говоря, искусственное общество — это просто компьютерная модель, подобная тем, которые десятилетиями использовались для понимания сложных динамических систем, таких как погода. Первые были построены физиками и химиками в 1960-х годах, но по мере того, как модели усложнялись, они были приняты биологами и, в последнее десятилетие, социологами.
Одним из наиболее полезных методов является агентное моделирование, которое использует строки компьютерного кода для представления агентов, таких как водители, направляющиеся по маршруту, или компании, конкурирующие в экономике. Агенты запрограммированы взаимодействовать друг с другом и своей виртуальной средой и соответственно изменять свое поведение. Эти модели полезны для понимания того, как работают сложные системы, предсказания того, как они будут развиваться, и проверки того, что произойдет, если вы вмешаетесь.
Например, в 2014 году в Западной Африке вспыхнула эпидемия Эболы. По мере роста числа случаев Агентство по уменьшению оборонной угрозы США обратилось к компьютерным моделистам с просьбой предсказать, как будет развиваться эпидемия. За семь месяцев они построили агентную модель, которая использовала реальные данные о количестве случаев заболевания, уровне инфицирования, системах здравоохранения, распределении населения, демографии, экономических и социальных взаимодействиях, моделях путешествий и даже культурном поведении, таком как похоронные обряды. Он предсказал, что, если его не остановить, вирус заразит 1,4 миллиона человек.
Он также использовался для тестирования вмешательств, чтобы остановить распространение. Медицинские бригады были направлены туда, где, по мнению модели, они будут наиболее эффективны, а людям в пострадавших районах было рекомендовано принять карантинные меры и безопасные методы захоронения. В итоге число инфицированных было ограничено 28 000 человек. Мы не можем быть уверены, что модель сработала, что вмешательства привели к меньшему числу случаев, чем она предсказывала, но этот случай часто упоминается как успешное использование агентного моделирования.
Образцовый человек
Даже здесь агенты довольно просты. Модели являются вычислительно дорогостоящими, и моделистам приходится экономно использовать свои ресурсы. Таким образом, агенты наделены минимумом простых атрибутов – например, большей или меньшей открытостью для сообщений о здоровье – и небольшим репертуаром поведенческих реакций, таких как бегство или пребывание на месте. Такие модели могут производить удивительно сложное поведение, но вы не решитесь назвать их искусственным обществом.
Однако за последние несколько лет игра изменилась, что было вызвано резким увеличением доступности четырех ключевых сырьевых ресурсов: вычислительной мощности, данных, научного понимания человеческого поведения и, самое главное, искусственного интеллекта (ИИ).
» Одной из целей агентного моделирования всегда было иметь интеллектуальных агентов»,-говорит Найджел Гилберт, глава Центра исследований социального моделирования в Университете Суррея, Великобритания. С приходом МААИ это честолюбие исполнилось.
С помощью ИИ модели внезапно становятся более реалистичными. » Одна из вещей, которая изменилась, — это признание того, что вы действительно можете моделировать людей», — говорит Ф. Лерон Шульц, директор Центра моделирования социальных систем в Университете Агдера в Норвегии. — Наши агенты когнитивно сложны. Это симулированные люди с полом, возрастом и личностью. Они могут пожениться, завести детей, развестись. Они могут получить работу или быть уволены, они могут присоединиться к группам, они могут умереть. Они могут иметь религиозные убеждения. Они общительны, как и люди. Они взаимодействуют друг с другом в социальных сетях. Они учатся друг у друга, реагируют друг на друга и на окружающую среду в целом».
Увеличение вычислительной мощности также означает, что число агентов в модели может быть значительно увеличено, от нескольких тысяч до десятков миллионов. » Мы можем смоделировать город размером с Лондон», — говорит Сайко Диалло из Центра моделирования, анализа и моделирования Вирджинии в Университете Олд Доминион в Вирджинии.
Шульц говорит, что следующая веха-320 миллионов, размер населения США, а оттуда 1,4 миллиарда, чтобы смоделировать Китай. В конечном счете, цель-это весь мир.
Путь к гармонии
В результате произошла революция в агентном моделировании. » Мы можем повторить, как работают реальные общества, чтобы исследовать реальные вопросы»,-говорит Диалло. Если это звучит как The Sims, то это потому, что так оно и есть. Но в то время как The Sims-это игра, виртуальные общества, управляемые миллионами агентов, управляемых искусственным интеллектом, смертельно серьезны.
За последние восемь лет миллион сирийских беженцев бежали в Европу, и около 20 000 из них обосновались в Норвегии. Приток в основном мусульманских иммигрантов в относительно этнически однородную светскую страну с христианскими корнями усилил напряженность. Гармоничная интеграция-это насущный вопрос. Третьей по величине политической партией в Норвегии является правая антииммиграционная Партия прогресса. «Вы хотите иметь общество, в котором нет радикализации», — говорит Шульц.
Старомодный способ достичь этого-разработать и реализовать политику, которая, по вашему мнению, будет работать. «Все сидят за столом и спорят о правильной политике: должны ли мы вкладывать много денег в то, чтобы иммигранты чувствовали себя экономически защищенными? Должны ли мы инвестировать в обучение их языку или культуре? Стоит ли тратить их на образование? Стоит ли тратить их на то, чтобы молодые люди играли в футбол с норвежцами? У каждого своя идея», — говорит Шульц.
Ставки высоки: если вы сделаете неправильный звонок, результат может быть катастрофическим и необратимым. «Если через 10 лет у вас будет экономический коллапс и терроризм, вы не сможете нажать кнопку перезагрузки», — говорит Шульц.
Но с помощью компьютерного моделирования вы можете попробовать все виды вмешательств. Если политика дает обратный эффект в модели, вы можете нажать кнопку Сброс.
Такова цель модели, разрабатываемой Диалло, Шульцем и другими, которая имитирует типичный норвежский город с внезапным наплывом беженцев. Это относительно небольшая модель, насчитывающая всего 50 000 агентов, но она будет работать в течение трех поколений, чтобы проверить долгосрочные результаты различных стратегий. Выполнение таких моделей занимает от нескольких часов до нескольких дней, в зависимости от количества задействованных параметров. «Это позволяет проводить эксперименты, которые невозможны в реальном мире», — говорит Шульц.
Дуг Джон Миллер
Благодаря этой мощи технология MAAI обладает потенциалом для решения самых сложных мировых проблем. В этом месяце Шульц и его коллеги садятся вместе с экспертами по климату, энергетике и конфликтам, чтобы начать моделировать кризис беженцев, вызванный изменением климата. «Большинство экспертов считают, что климат был большим фактором в сирийском кризисе беженцев», — говорит Шульц. — В Европу хлынули миллионы людей. Поскольку уровень моря поднимется в течение следующих 20-30 лет, мы говорим, по крайней мере, о 100 миллионах. Куда они пойдут? Будут огромные человеческие страдания. Наша цель — разработать политические инициативы, чтобы изменить поведение и избежать конфликтов».
Другие модельеры работают над предотвращением этнических конфликтов и прекращением рэкета по защите и сексуальной торговли. Шульц также видит применение в политике: «я хотел бы понять, что движет популизмом – при каких условиях вы получаете Brexit или Ле Пен?»
Конечно, невозможно охватить всю сложность человеческого поведения и социальных взаимодействий. » Мы до сих пор толком не знаем, как люди принимают решения, что является серьезной слабостью», — говорит Брюс Эдмондс, директор Центра моделирования политики в Манчестерском столичном университете, Великобритания. «В большинстве случаев есть некоторые биты модели, которые эмпирически подтверждены, но некоторые биты, которые являются догадками.» МААИ все еще настолько нова, что мы еще не знаем, насколько точна она будет. Шульц говорит, что выходы модели все еще действительны-если вы правильно вводите свои входные данные: «одна из распространенных фраз, которую вы слышите, — это» все модели ошибочны, но некоторые полезны»».
Первый шаг-решить, что моделировать, а затем привлечь лучших специалистов. Для модели беженцев, например, Шульц и его коллеги будут обращаться к социологам, у которых есть теоретические модели и эмпирические данные о религиозных конфликтах и социальной интеграции.
Первый этап — «формализовать теорию», то есть точно определить, как теоретические модели применимы к людям в реальном мире, и описать их математически. В этот момент моделисты начинают строить агентов.
Можно смоделировать любое мыслимое социальное взаимодействие: между семьей, друзьями, начальством, коллегами, подчиненными и религиозными лидерами, от экономических отношений до взаимодействия в социальных сетях. Через эти взаимодействия агенты учатся, изменяя свое будущее поведение. Суммированные по всей симуляции, они могут изменить траекторию развития общества.
Как только моделирование построено,оно должно быть проверено. Это значит подключить данные из реального мира и посмотреть, повторяет ли он то, что произошло на самом деле, а если нет, то соответствующим образом настроить его. В модели ассимиляции беженцев Шульц и его команда будут использовать данные социальных опросов, проведенных норвежским правительством, а также десятилетние данные об ассимиляции в Лондоне и Берлине.
Неудивительно, что это не тривиальное предприятие, занимающее около года. Но после подтверждения Вы готовы играть в Бога. Это может просто означать установку начальных условий и наблюдение за тем, как все происходит. Это может означать тестирование вмешательства, которое, по вашему мнению, может помочь-скажем, перекачивание ресурсов в программу дерадикализации. Или это может означать, что нужно попросить симуляцию найти путь к желаемому будущему состоянию.
Не будь злым
Сила технологии в том, что вы можете делать все эти вещи одновременно. «Моделирование запускает сотни, тысячи, миллионы параметров, чтобы увидеть, в каких условиях агенты будут двигаться, изменяться и делать разные вещи», — говорит Шульц.
Власть несет большую ответственность. — Меня беспокоит этический вопрос, — говорит Шульц. — Может ли эта технология быть использована во зло?» Мы уже знаем ответ. Команда Шульца смоделировала общество, в котором религиозная группа большинства находится в конфликте с группой меньшинства. Они обнаружили, что такие общества легко переходят в смертельное насилие. Когда они запустили симуляцию, чтобы найти наиболее эффективный способ восстановления мира, ответ, который выскочил, был глубоко тревожным: геноцид.
Существует также очень реальный страх перед эксплуатацией технологии, как многие считают, что это произошло с Cambridge Analytica. «Они использовали искусственный интеллект, чтобы заставить людей поверить во что-то, чтобы они проголосовали определенным образом», — говорит Шульц. Он и его коллеги опасаются, что с Мааис можно сделать что-то еще более манипулятивное. Сценарий выборов в США гипотетичен, но правдоподобен. Используя технологию моделирования, теоретические идеи могут быть использованы для получения электоральной выгоды. «Да, его можно использовать для плохих дел», — говорит Диалло. — Его можно использовать для психологического воздействия на людей или группы людей и выработки способов воздействия на них».
Или еще хуже. Группа в центре разума и культуры в Бостоне создала МААИ, чтобы проверить способы разорвать кольца сексуальной торговли детьми. Руководитель группы Уэсли Уайлдмен указывает, что торговцы могли нанять кого-то, чтобы построить конкурирующую симуляцию, чтобы сорвать разрушителей в технологической гонке вооружений. «Возможно, это уже происходит. Насколько я знаю, мы их опережаем, но они нас догонят», — говорит он.
Международное общество моделирования и симуляции, президентом которого является Диалло, воспринимает эти угрозы настолько серьезно, что разрабатывает набор этических рекомендаций для моделистов. Им запрещено работать с преступниками, но что, если политически мотивированная группа обратится за помощью? «В этот момент Вы сталкиваетесь лицом к лицу с загадкой», — говорит Уайлдмен. Он говорит, что Cambridge Analytica не сделала ничего плохого, за исключением того, что не сказала людям, что они задумали. » Если так будут проводиться политические кампании, прекрасно, но будьте ясны». единственное этическое требование, которое может быть предъявлено моделистам, работающим в политических кампаниях, — это прозрачность. Вы чувствуете себя в безопасности?
Сложность и неясность МААИ означают, что вряд ли кто – то манипулирует вами-пока. За пределами небольшого сообщества моделистов существование МААИ остается в значительной степени неизвестным. «Я думаю, что возможно, что плохие актеры используют его, — говорит Уайлдмен, — но я не думаю, что они будут очень далеко».
Гилберт говорит, что некоторые политические аналитики начинают осознавать это, но большинство политиков находятся в неведении. По словам Эдмондса, Доминик Каммингс, специальный советник премьер-министра Великобритании Бориса Джонсона, осведомлен и заинтересован.
Это только вопрос времени. Теперь вы знаете об этом, и, возможно, Трамп тоже. Для дикаря Джинн скоро выйдет из бутылки: «это грядет, готовы мы к этому или нет».
Статья изменена 3 января 2020
Мы уточнили заголовок и вступительный абзац.
https://www.newscientist.com/article/mg24332500-800-ai-can-predict-your-future-behaviour-with-powerful-new-simulations/
Загрузка...
