6.5
Predict & verify Модуль · Глава 6 Решения
К Главе 6
6.5
Модуль 6.5 · Predict & verify

Прогноз, записанный до

Память услужливо переписывает прошлое: «я так и знал». Единственная защита — журнал прогнозов: записать уверенность до исхода и сверить после. У этой практики есть честный счёт — оценка Брайера, — и он устроен так, что выгоднее всего называть правду.

Назовите уверенность — вот цена ошибки 80% если сбудется 0,04 если нет 0,64 штрафы Брайера: (1 − p)² если сбылось, p² если нет
Тяните бегунок: чем смелее заявка, тем дешевле правота — и тем дороже промах.

Мнение, не записанное до исхода, после исхода ничего не стоит.

Принцип журнала прогнозов
Раздел 1 · Память льстит

«Я так и знал»

Без записи невозможно узнать, хороши ли ваши суждения: память подгоняет прошлое под исход.

Зачем письменный след

  • Хайндсайт. После исхода кажется, что он был очевиден; вчерашняя неуверенность забывается начисто.
  • Расплывчатость спасает самолюбие. «Я говорил, что может получиться по-разному» — непроверяемо; $70\%$, записанные до, — проверяемы.
  • Навык требует обратной связи. Калибровку из Модуля $3.1$ нельзя натренировать без счёта: нужен журнал, где прогнозы встречаются с фактами.
Раздел 2 · Журнал

Четыре поля журнала

Формат проще дневника: одна строка на прогноз.

1

Формулировка — проверяемая: «сдам пробник на 80+ к 1 марта», а не «подготовлюсь получше».

2

Уверенность — числом: $70\%$, а не «скорее всего» (Модуль $3.1$, шкала Кента).

3

Срок проверки — дата, когда исход станет известен. Без срока прогноз нефальсифицируем.

4

Исход и счёт — в день проверки: сбылось или нет, и штраф Брайера (Раздел $4$).

Десять минут в неделю — и через пару месяцев у вас есть то, чего нет почти ни у кого: измеренное качество собственных суждений. Именно так тренировались суперпрогнозисты Тетлока.

Раздел 3 · Интерактив

Посчитайте журнал

Четыре вопроса на механику журнала и счёта.

Интерактив · 4 вопроса

Журнал прогнозов

Помните формулу штрафа: $(p - \text{исход})^2$, где исход равен $1$ или $0$.

Верно: 0 / 4

1Что обязательно в строке журнала прогнозов?

2Прогноз с уверенностью $0{,}9$ сбылся. Штраф Брайера за него?

3У Ани средний Брайер $0{,}18$, у Бориса $0{,}25$. Кто прогнозирует лучше и о чём говорит $0{,}25$?

4Вы верите в успех на $70\%$. Что выгоднее записать в журнал при счёте Брайера?

Раздел 4 · Счёт Брайера

Один штраф за прогноз

Метеоролог Гленн Брайер придумал счёт для прогнозов погоды в 1950 году — он работает для любых прогнозов.

Как считать

Оценка Брайера $$B = \frac{1}{n}\sum_{i=1}^{n} (p_i - o_i)^2$$

$p_i$ — заявленная уверенность, $o_i$ — исход ($1$ сбылось, $0$ нет). Чем ниже, тем лучше: идеал $0$, вечное «фифти-фифти» даёт $0{,}25$.

Пример. Три прогноза: $0{,}9$ — сбылся, $0{,}7$ — нет, $0{,}6$ — сбылся. Штрафы: $(0{,}9-1)^2 = 0{,}01$; $(0{,}7-0)^2 = 0{,}49$; $(0{,}6-1)^2 = 0{,}16$. Средний счёт: $(0{,}01 + 0{,}49 + 0{,}16)/3 = 0{,}22$ — чуть лучше уровня «всегда 50%». Самым дорогим оказался уверенный промах — так и должно быть.

Раздел 5 · Честность

Почему врать невыгодно

Счёт Брайера — «честное» правило: минимальный ожидаемый штраф достигается, когда называешь то, во что веришь.

Проверим на числах

  • Пусть честная вера — $0{,}7$. Запишете $0{,}7$ — ожидаемый штраф $0{,}7 \cdot 0{,}09 + 0{,}3 \cdot 0{,}49 = 0{,}21$.
  • Завысите до $0{,}9$ — ожидаемый штраф вырастет до $0{,}25$: уверенный промах слишком дорог.
  • Перестрахуетесь на $0{,}5$ — снова $0{,}25$: трусость стоит столько же, сколько бравада.

Бегунок на иллюстрации показывает этот механизм вживую: квадратичный штраф делает правду самой дешёвой стратегией. Поэтому журналу со счётом Брайера можно доверять: он не поощряет ни осторожничать, ни геройствовать.

Раздел 6 · Итог

Суждения под счёт

Журнал замыкает петлю: предсказал → проверил → скорректировал.

Связь с курсом

  • Модуль $3.1$: калибровка — цель; журнал — тренажёр; Брайер — табло.
  • Глава $3$: каждый промах журнала — данные для байесовского обновления привычек суждения.
  • Модуль $6.4$: пункты анти-чеклиста — готовые проверяемые прогнозы.
  • Модуль $6.6$: журнал — последний шаг личной системы решений.

Главное. Запишите прогноз до исхода: формулировка, уверенность числом, срок. Сверьте после и посчитайте Брайера: $(p - o)^2$, ниже — лучше, $0{,}25$ — уровень монетки с «всегда 50%». Правило честное: и завышение, и занижение уверенности обходятся дороже правды.

Что забрать из модуля 6.5

$I$Записывайте до: мнение, не записанное до исхода, после исхода ничего не стоит.
$II$Строка журнала: проверяемая формулировка + уверенность числом + срок + исход.
$III$Счёт Брайера: $(p-o)^2$, ниже — лучше; «всегда 50%» даёт $0{,}25$.
$IV$Честность дешевле всего: и бравада, и перестраховка повышают ожидаемый штраф.
$V$Петля навыка: предсказал → проверил → скорректировал — так растёт калибровка.
Проверь себя0 / 5

Пять вопросов по ключевым идеям модуля. Выберите ответ — сразу увидите верный вариант и пояснение. Прогресс сохраняется.

Источники
  1. Brier G. (1950). Verification of Forecasts Expressed in Terms of Probability. Monthly Weather Review. поиск источника
  2. Tetlock P., Gardner D. (2015). Superforecasting. Crown. поиск источника
  3. Mellers B. et al. (2014). Psychological Strategies for Winning a Geopolitical Forecasting Tournament. Psychological Science. поиск источника

Образовательный материал. Все числа (пример $0{,}22$, база $0{,}25$, штрафы $0{,}04/0{,}64$ и $0{,}25/0{,}25$, выгода честности $0{,}21 < 0{,}25$) проверены расчётом. Ссылки ведут на поиск источника.

↑ Наверх