¿Existe realmente una probabilidad de 1 entre 6 de extinción humana en este siglo?

En 2020, el filósofo Toby Ord, radicado en Oxford, publicó un libro llamado The Precipice sobre el riesgo de extinción humana.

Calculó las posibilidades de una “catástrofe existencial” para nuestra especie durante el próximo siglo en una entre seis.

Es una cifra bastante específica y alarmante. La afirmación acaparó los titulares en su momento y ha sido influyente desde entonces; la más reciente fue planteada por el político australiano Andrew Leigh en un discurso en Melbourne.

Es difícil no estar de acuerdo con la idea de que nos enfrentamos a perspectivas preocupantes en las próximas décadas, desde el cambio climático, las armas nucleares y los patógenos creados por bioingeniería (todos ellos grandes problemas en mi opinión), hasta la IA rebelde y los grandes asteroides (que yo consideraría menos preocupantes). ).

¿Pero qué pasa con ese número? ¿De dónde viene? ¿Y qué significa realmente?

Lanzamientos de moneda y previsiones meteorológicas

Para responder a esas preguntas, primero tenemos que responder a otra: ¿qué es la probabilidad?

La visión más tradicional de la probabilidad se llama frecuentismo y deriva su nombre de su herencia en los juegos de dados y cartas. Desde este punto de vista, sabemos que hay una probabilidad entre seis de que un dado justo obtenga un tres (por ejemplo) si se observa la frecuencia de los tres en un gran número de tiradas.

O consideremos el caso más complicado de las previsiones meteorológicas. ¿Qué significa cuando un meteorólogo nos dice que hay una probabilidad entre seis (o 17%) de que llueva mañana

Es difícil creer que el meteorólogo nos quiera decir que imaginemos una gran colección de “mañanas”, de los cuales una proporción experimentará precipitaciones. Más bien, debemos examinar un gran número de predicciones de este tipo y ver qué ocurrió después de ellas.

Si el pronosticador es bueno en su trabajo, deberíamos ver que cuando dijo “una posibilidad entre seis de lluvia mañana”, en realidad llovió al día siguiente una vez de cada seis.

Entonces, la probabilidad tradicional depende de las observaciones y el procedimiento. Para calcularlo, necesitamos tener una colección de eventos repetidos en los que basar nuestra estimación.

¿Podemos aprender de la Luna

Entonces, ¿qué significa esto para la probabilidad de extinción humana Bueno, un evento así sería único: una vez ocurrido, no habría lugar para que se repita.

En cambio, podríamos encontrar algunos eventos paralelos de los cuales aprender. De hecho, en el libro de Ord, analiza una serie de posibles eventos de extinción, algunos de los cuales pueden examinarse a la luz de una historia.

Por ejemplo, podemos estimar las posibilidades de que un asteroide del tamaño de su extinción golpee la Tierra examinando cuántas rocas espaciales de este tipo han golpeado la Luna a lo largo de su historia. Un científico francés llamado Jean-Marc Salotti hizo esto en 2022, calculando las probabilidades de que se produzca un nivel de extinción en el próximo siglo en alrededor de una entre 300 millones.

Por supuesto, tal estimación está plagada de incertidumbre, pero está respaldada por algo que se aproxima a un cálculo de frecuencia apropiado. Ord, por el contrario, estima el riesgo de extinción por asteroide en uno entre un millón, aunque observa un grado considerable de incertidumbre.

Un sistema de clasificación de resultados

Hay otra forma de pensar sobre la probabilidad, llamada bayesianismo en honor al estadístico inglés Thomas Bayes. Se centra menos en los acontecimientos en sí y más en lo que sabemos, esperamos y creemos sobre ellos.

En términos muy simples, podemos decir que los bayesianos ven las probabilidades como una especie de sistema de clasificación. Desde este punto de vista, el número específico asociado a una probabilidad no debe tomarse directamente, sino compararse con otras probabilidades para comprender qué resultados son más y menos probables.

El libro de Ord, por ejemplo, contiene una tabla de posibles eventos de extinción y sus estimaciones personales de su probabilidad. Desde una perspectiva bayesiana, podemos ver estos valores como rangos relativos.

Ord cree que la extinción por el impacto de un asteroide (una entre un millón) es mucho menos probable que la extinción por el cambio climático (una entre mil), y ambas son mucho menos probables que la extinción por lo que él llama “inteligencia artificial no alineada” (una entre diez). ).

La dificultad aquí es que las estimaciones iniciales de las probabilidades bayesianas (a menudo llamadas “priores”) son bastante subjetivas (por ejemplo, yo clasificaría la posibilidad de extinción basada en la IA mucho más abajo). El razonamiento bayesiano tradicional pasa de los “antes” a los “posteriores” incorporando nuevamente evidencia observacional de resultados relevantes para “actualizar” los valores de probabilidad.

Y una vez más, los resultados relevantes sobre la probabilidad de extinción humana son escasos.

Estimaciones subjetivas

Hay dos formas de pensar en la precisión y utilidad de los cálculos de probabilidad: calibración y discriminación.

La calibración es la exactitud de los valores reales de las probabilidades. No podemos determinar esto sin la información de observación adecuada. La discriminación, por otra parte, simplemente se refiere a las clasificaciones relativas.

No tenemos una base para pensar que los valores de Ord estén calibrados adecuadamente. Por supuesto, no es probable que ésta sea su intención. Él mismo indica que en su mayoría están diseñados para dar indicaciones de “orden de magnitud”.

Aun así, sin ninguna confirmación observacional relacionada, la mayoría de estas estimaciones simplemente permanecen en el dominio subjetivo de las probabilidades previas.

No está bien calibrado, pero quizás aún sea útil

Entonces, ¿qué vamos a hacer con “uno de cada seis”? La experiencia sugiere que la mayoría de las personas no tienen una comprensión perfecta de la probabilidad (como lo demuestra, entre otras cosas, el volumen continuo de ventas de billetes de lotería).

En este entorno, si estás argumentando en público, una estimación de la “probabilidad” no necesariamente necesita estar bien calibrada; sólo necesita tener el tipo correcto de impacto psicológico.

Desde esta perspectiva, yo diría que “uno de cada seis” encaja muy bien. “Uno de cada 100” podría parecer lo suficientemente pequeño como para ignorarlo, mientras que “uno de cada tres” podría generar pánico o ser descartado como un delirio apocalíptico.

Como persona preocupada por el futuro, espero que riesgos como el cambio climático y la proliferación nuclear reciban la atención que merecen. Pero como científico de datos, espero que el uso descuidado de la probabilidad quede en el camino y sea reemplazado por una educación generalizada sobre su verdadero significado y uso apropiado.

F