Часто говорят, что будущее непредсказуемо. Конечно, на самом деле это не совсем так. С чрезвычайно высокой степенью уверенности мы можем предсказать, что солнце взойдет в Санта-Крусе, штат Калифорния, в 7:12 утра по местному времени 30 января 2016 года. Мы знаем, что следующее полное солнечное затмение над США произойдет 14 августа 2017 года, и мы также знаем, что оно произойдет 25 июня 2522 года.
Мы можем предсказать ВВП США в следующем году с точностью до нескольких процентов, что произойдет, если мы прыгнем с моста, среднюю температуру Земли с точностью до градуса и многое другое. Почти каждое решение, которое мы принимаем, неявно включает в себя прогноз того, что произойдет при каждом возможном выборе, и большую часть времени мы делаем эти прогнозы неосознанно и на самом деле довольно точно. Спрятаться или погладить тигра? Перепрыгнуть через овраг или спуститься вниз? Подружиться или напасть? Наш разум содержит ряд систем, включающих довольно сложный механизм прогнозирования, который поддерживает нашу жизнь, помогая делать правильный выбор в сложном мире.
И все же мы часто расстраиваемся из-за нашей неспособности лучше прогнозировать. Что именно это означает? Полезно разделить точность прогнозирования на две составляющие: разрешение и калибровку. Разрешение измеряет, насколько близки ваши прогнозы к 0 % или 100 % вероятности. Таким образом, предсказание о том, что честная монета выпадет хедз-апом в 50 % случаев, имеет очень низкое разрешение. Однако, если монета справедлива, это предсказание имеет отличную калибровку, что означает, что предсказание очень близко к относительной частоте выпадения голов и подбрасывания монет в длинной серии испытаний. С другой стороны, многие люди сделали уверенные прогнозы о том, что они «выиграют» (т. е. вероятность 1) в недавней лотерее Powerball стоимостью 1,5 миллиарда долларов. Эти предсказания имели отличное разрешение, но ужасную калибровку.
Когда мы говорим, что не можем предсказать будущее, мы, как правило, имеем в виду несколько разных вещей. Иногда у нас отличная калибровка, но плохое разрешение. Хороший игрок в блэкджек знает шансы попасть в 21, но удовольствие от игры (и прибыль казино) зависит от того, что ни у кого нет лучшего разрешения, чем обеспечивают коэффициенты ставок. Сводки погоды представляют собой менее забавный пример в целом отличной калибровки с разрешением, которое никогда не бывает таким хорошим, как хотелось бы. Хотя отсутствие разрешения расстраивает, хорошая калибровка позволяет принимать правильные решения, потому что мы можем вычислять надежные ожидаемые значения на основе хорошо откалиброванных вероятностей.
Страховые компании не знают, кто попадет в аварию, но могут установить разумные правила и затраты, основанные на статистических вероятностях. Начинающие инвесторы могут оценить компанию на основе ожидаемой будущей прибыли, которая сочетает в себе (как правило, низкую) вероятность успеха с (как правило, высокой) стоимостью в случае успеха. И эффективные альтруисты могут попытаться принести наибольшую ожидаемую пользу — или попытаться смягчить наиболее ожидаемый вред — путем взвешивания величины различных событий по вероятности их возникновения.
Что гораздо менее полезно, так это прогнозы с плохой, неизвестной или несуществующей калибровкой. Это, увы, то, что мы часто получаем от ученых мужей, от самозваных (или даже настоящих) экспертов и даже во многих количественных прогностических исследованиях. Я нахожу это максимально разочаровывающим при обсуждении катастрофического или экзистенциального риска. Например:
Обеспокоенный ученый: Я немного обеспокоен тем, что беспрецедентно быстрое глобальное потепление может привести к парниковому эффекту взлетно-посадочной полосы и превратить Землю в Венеру.
Равнодушный эксперт: Ну, я не думаю, что это очень вероятно.
Обеспокоенный ученый: Ну, если это произойдет, все человечество и жизнь на Земле, а также все люди, которые могли бы когда-либо жить в течение бесчисленных эпох, будут уничтожены. Какова, по-вашему, вероятность?
Равнодушный эксперт: Послушайте, я действительно не думаю, что это очень вероятно.
Обеспокоенный ученый: 0,0001%? 1%? 10%?
Равнодушный эксперт: Послушайте, я действительно не думаю, что это очень вероятно.
Теперь, если вы попытаетесь взвесить это беспокойство против:
«Я немного обеспокоен тем, что одна из десятков ядерных аварий, которые могут произойти в ближайшие двадцать лет, приведет к ядерной войне».
«Я немного обеспокоен тем, что апокалиптический культ может использовать CRISPR и опубликованные исследования усиления функций для биоинженерии вируса, чтобы очистить Землю от всех людей».
«Я немного обеспокоен тем, что сверхразумный ИИ может решить, что люди, принимающие решения, являются слишком большим источником неопределенности и должны быть преобразованы в скрепки для предсказуемых бюрократов среднего звена».
Тогда вы можете видеть, что ответ Равнодушного эксперта бесполезен: он не дает никаких указаний относительно того, какой уровень ресурсов должен быть направлен на снижение этого риска, как абсолютного, так и относительно других экзистенциальных рисков.
Люди, как правило, не обладают хорошей интуицией в отношении малых вероятностей, и, честно говоря, вычисление их может быть довольно сложным. Небольшая вероятность обычно предполагает, что существует множество, множество возможных исходов, и надежно идентифицировать, охарактеризовать и оценить эти многочисленные исходы очень сложно. Возьмем вероятность того, что США вступят в ядерную войну. Это (мы надеемся!!) совсем маленький. Но насколько маленький? Существует множество маршрутов, по которым может произойти ядерная война, и нам нужно будет определить каждый маршрут, разбить каждый маршрут на компоненты, а затем присвоить вероятности каждому из этих компонентов. Например, вдохновленные тревожной последовательностью событий, описанных в этой статье Vox, мы могли бы спросить:
1: Будут ли значительные этнические русские протесты в Эстонии в ближайшие 5 лет?
2: Если будут протесты, значительно ли НАТО увеличит там свое военное присутствие?
3: Если есть протесты, погибают ли 10 или более демонстрантов во время протестов?
4: Если увеличатся силы НАТО и начнутся насильственные протесты, перерастет ли насилие в военный конфликт?
Каждый из этих составных вопросов гораздо легче поддается решению, и вместе они могут указывать на достаточно хорошо откалиброванную вероятность одного пути к ядерному конфликту. Однако это не то, что мы обычно можем делать «на лету» без серьезных размышлений и анализа.
Что, если мы действительно потратим время и энергию на оценку этих последовательностей возможностей? Присвоение вероятностей этим цепочкам взаимоисключающих возможностей создало бы вероятностную карту крошечной части ландшафта возможного будущего. Подобно древним картам, эта карта должна быть крайне несовершенной, со значительными неточностями, необоснованными предположениями и большими участками неизвестной территории. Но испорченная карта намного лучше, чем никакой карты!
Некоторое время назад, размышляя о том, как здорово было бы иметь такую карту вероятности, я решил, что для этого потребуется несколько ингредиентов.
Во-первых, для этого потребуется много людей, объединяющих свои знания и опыт. Мир — и множество рассматриваемых проблем — это очень сложная система, и даже перечисление возможностей, не говоря уже о том, чтобы приписать им вероятность, является большой задачей. К счастью, есть хорошие прецеденты для краудсорсинговых усилий: Википедия, Quora, Reddit и другие усилия создали чрезвычайно ценные базы знаний, используя объединение большого количества материалов.
Во-вторых, потребуется способ определить, какие люди действительно действительно хороши в составлении прогнозов. Многие люди ужасны в этом, но поиск тех, кто преуспевает в прогнозировании, и обобщение их прогнозов может привести к довольно точным. Здесь также есть очень обнадеживающий прецедент. Проект по оценке совокупного контингента, осуществляемый IARPA, одним из компонентов которого является проект «Здравое суждение», создал множество данных, указывающих на то, что (а) прогнозирование является обучаемым, идентифицируемым, устойчивым навыком и (б) путем объединения прогнозов могут быть получены хорошо откалиброванные вероятности даже для сложных геополитических событий.
Наконец, нам понадобится система для сбора, оптимального объединения, калибровки и интерпретации всех данных. Так зародилась идея Metaculus, нового проекта, который я начал с несколькими другими физиками. Metaculus быстро растет и развивается в ценный инструмент, который может помочь человечеству принимать лучшие решения. Я призываю вас ознакомиться с открытыми вопросами и прогнозами и сделать свои собственные прогнозы. Это весело и даже освобождает — перестать думать о будущем как о непознаваемом и вместо этого начать исследовать его!
https://futureoflife.org/2016/01/24/predicting-the-future-of-life/
Загрузка...
