２０３３年の妄想ブログ：
天気予報にAIが本格導入されて１５年以上経つが、その間、予報精度は目覚しい進歩をとげた。80%以上の人が傘を差し始める時刻を1kmメッシュ範囲、10分単位で予測する「雨降り時刻予想」は、97.3%の精度で予測できるようになった。
また、衛星写真やドローンなどの解析により地盤、地質調査が進み、人口カバー率98%のエリアを対象にした「土砂崩れ予測サービス」も８年前から始まった。このサービスは、３日前からの累積降水量から１トン以上の土砂崩れの発生を１２時間前までに予測するもので、その予測精度は99.8%と、ほぼ100%で的中することができた。
しかし、このほぼ100%というの曲者であった。昨年、予測できなかった土砂崩れが発生。このたまたま予測を外した、0.2%の確率の土砂崩れは、運悪く２３名の犠牲者を出した。
この大惨事に発展した要因としては、①この日の大雨は２つの台風に影響を受けたもので、降雨量の予測が難しかったこと、②この前年に発生した震度５の地震により地盤の状況が変わっていたが再調査がされていなかったこと、③１２時間までには予測できなかったが、発生２時間前の最新予報では土砂崩れ発生を検知した。しかし、深夜であったため、連絡、避難誘導が間に合わなかったという悪条件が重なった結果だった。
もともと、この地域の人たちは防災意識が高く、昔の予報であれば、土砂崩れ注意の警告があれば、外れる可能性はあっても、念のため、積極的に避難していた。だが、最近の予報精度の高さがアダになり、システムが土砂崩れは発生しないと判断したのならば、大丈夫だろうと過信したため、このときの不幸な結果を招いたということだ。
この大惨事は、５年前アメリカのローレンス博士が発表した、AI予測が発達し、予測精度がある閾値（一般的には98%）を越えると、人々は100%信用してしまい、その予測が外れたときに大きな問題に発展することがあるという「AI予測のジレンマ」を説明するための有名な実例となってしまった。
