Estimador de Bayes: definición y ejemplos

La probabilidad condicional

Suponga que desea determinar la probabilidad de que llueva hoy. Miras los datos de varios años y ves que llueve aproximadamente el 25% de los días del año. Sin embargo, cuando miras hacia afuera, ves que está nublado (pero no llueve). ¿Cambia esto la probabilidad de que llueva hoy?

Si está nublado afuera, ¿cómo afecta esto la probabilidad de que llueva?

La mayoría de la gente asumiría que es más probable que llueva en un día nublado que en un día soleado, ¿verdad? ¿Eso cambia la probabilidad de que llueva hoy? ¿Hay alguna manera de cuantificar exactamente cuánto cambia la probabilidad?

Estimadores de Bayes

Preguntas como ésta fascinaron a un matemático inglés del siglo XVIII llamado Thomas Bayes. Quería encontrar una forma de estimar parámetros desconocidos (como la probabilidad de lluvia en un día nublado) que tuvieran en cuenta datos sobre lo que había sucedido en el pasado. Un estimador de Bayes utiliza datos previos para estimar un parámetro desconocido de modo que se minimice el error entre el estimador y el valor real del parámetro.

Parámetros desconocidos como variables aleatorias

La idea de que la probabilidad de un evento puede cambiar se llama probabilidad condicional, y la rama de la estadística que estudia la probabilidad condicional se conoce como estadística bayesiana . A diferencia de otros tipos de estadísticas, las estadísticas bayesianas asumen que un parámetro desconocido no es necesariamente un valor fijo, sino que es una variable aleatoria. Esto significa que puede cambiar a medida que cambian los datos.

La estadística bayesiana es muy útil porque puede usarse para hacer predicciones basadas en pequeños conjuntos de datos. Luego, la predicción se puede cambiar y mejorar a medida que recopila más datos.

A diferencia de las estadísticas tradicionales, que supondrían que la probabilidad de lluvia no cambia, las estadísticas bayesianas permiten que la probabilidad varíe a medida que se recopilan más datos sobre las condiciones anteriores.

Teorema de Bayes

Después de la muerte de Thomas Bayes, se publicó un ensayo que describía lo que ahora se conoce como Teorema de Bayes. Este teorema se puede utilizar para calcular un estimador de Bayes, siempre que tenga algunos datos relevantes sobre lo que sucedió en el pasado. El teorema de Bayes dice que la probabilidad de que ocurra el evento A, dado que sabes que B ha ocurrido, es igual a la probabilidad de que ocurra B, dado A dividido por la probabilidad de B por sí mismo (P (B)) y multiplicado por la probabilidad de A por sí mismo (P (A)):

Puede utilizar el teorema de Bayes para determinar la probabilidad de lluvia en un día nublado. Supongamos que la probabilidad de lluvia (Evento A) en un día determinado es 0.25 o 25%, y que la probabilidad de que esté nublado por la mañana (Evento B) es 0.40 o 40%. En los días que llovió, estuvo nublado por la mañana el 60% del tiempo, lo que significa que la probabilidad de B dado A es 0.6. Entonces, ¿cuál es la probabilidad de que llueva cuando el cielo se ve nublado por la mañana?

Saber que estaba nublado en realidad cambió la probabilidad de que lloviera. Antes de que supiera que estaba nublado, podía calcular que había un 25% de probabilidad de lluvia, pero ahora que ve las nubes, el Teorema de Bayes le dice que ahora hay un 37,5% de probabilidad de lluvia. Antes de que supiera que estaba nublado, la estimación original de la probabilidad de lluvia era del 25%, pero el estimador de Bayes del 37,5% probablemente esté mucho más cerca de la probabilidad real.

Resumen de la lección

Thomas Bayes desarrolló por primera vez el concepto de probabilidad condicional en el siglo XVIII. El teorema de Bayes se puede utilizar para calcular la probabilidad de un evento cuando se tiene información sobre lo que sucedió en el pasado.

Teorema de Bayes:

La estadística bayesiana asume que todos los parámetros no son constantes, sino variables aleatorias que están sujetas a cambios. Los estimadores de Bayes son estimaciones de parámetros que minimizan el error entre la estimación y el valor real del parámetro. El teorema de Bayes se puede utilizar para calcular un estimador de Bayes.

Rodrigo Ricardo Editor y fundador