Este tema está explicado en los vídeos siguientes:

1. Vamos a ver ahora técnicas estadísticas concretas de comparación de dos poblaciones.

2. Es muy importante ver con detalle cómo elegir, en una determinada situación concreta, la técnica adecuada entre las muchas disponibles.

3. Es muy importante elegir bien la técnica más adecuada en cada circunstancia para afinar así más la propia maquinaria de la técnica y que, de esta forma, las decisiones tomadas sean más fiables.

4. Voy a trazar un mapa de las técnicas más usuales de comparación de dos poblaciones y lo voy a hacer estructurado a modo de protocolo de actuación, de decisión.

5. Pensemos que dejamos una decisión trascendental (elegir entre H₀ y H₁) en manos de una maquinaria matemática, como es una técnica estadística, por lo que elegir la más ajustada al caso optimiza el funcionamiento de la propia técnica y su fiabilidad.

6. Protocolo de decisión entre técnicas de comparación de dos grupos:

Este mismo protocolo puede presentarse en forma de diagrama de flujo. Este gráfico lo ha elaborado un alumno de este curso (Bruno Splendiani):

Otras dos presentaciones de este mismo esquema me los ha facilitado Laura Ripoll muy amablemente:

Utilizad el que os resulte más cómodo.

7. Veamos con detalle el funcionamiento de este protocolo de actuación: Lo primero es ver si estamos ante una variable continua o dicotómica.

8. Se trata de ver si continuamos por el apartado 1 ó el 2 del protocolo. Si es una variable continua iremos por 1, si es dicotómica, por 2.

9. Supongamos que nuestro objeto de estudio es una variable dicotómica, con sólo dos valores posibles, por ejemplo: hombre/mujer, enfermo/sano, dolor/no dolor, opina A/opina B, etc. Estamos, claramente, en el punto 2. Y habremos de decidir si las dos muestras comparadas son independientes o relacionadas. En definitiva, si son dos poblaciones formadas por individuos distintos (independientes) o por los mismos individuos a los que se les mide la variable dicotómica en dos momentos distintos (muestras relacionadas).

10. Supongamos primero que estamos estudiando si la proporción de estudiantes mujeres en una facultad de Medicina y en una de Económicas es distinta. Tomaremos dos muestras, una de cada facultad, y veremos qué proporción de mujeres hay en cada muestra. Pe: obtenemos: 60% y 50%.

11. ¿Es esta diferencia estadísticamente significativa? Que hay diferencia muestral es evidente. 60% y 50% evidentemente son distintos. Pero esto es muestral, es diferencia muestral. Y nuestro interés es poblacional, como siempre. Debemos aplicar una técnica estadística para ver si esta diferencia es significativa, si es extrapolable a la población.

12. Deberemos aplicar un Test de comparación de dos proporciones, también llamado, sencillamente, Test de proporciones. Se trata de dos muestras claramente independientes. En éste, como siempre, en la H₀ tendremos la igualdad de proporciones poblacionales (p₁=p₂) y en la H₁ la desigualdad (p₁<>p₂).Y el p-valor del contraste de hipótesis nos dirá si, por el tamaño de muestra que tenemos, podemos considerar que esa diferencia del 10% es o no significativa. Esta misma situación resuelta por este Test de proporciones podría plantearse con el Test de la ji-cuadrado. De hecho, si repasamos los visto en el tema 8, una situación de comparación de proporciones puede resolverse, también, desde este Test de la ji-cuadrado.

13. El Test proporciones, para funcionar bien, requiere un tamaño muestral mínimo de 30 por grupo y que el producto del tamaño muestral por el tanto por uno esperado bajo la hipótesis nula del suceso que se analiza sea superior o igual a 5, en ambas muestras. Por ejemplo: Supongamos que tenemos una muestra de 50 por cada uno de los dos grupos a comparar. En una muestra tenemos sólo un caso del suceso analizado y en la otra tenemos 4 casos. Si la hipótesis nula (igualdad de proporciones) fuera cierta esperaríamos ver 5 casos de cada 100; o sea, un 0.05 por uno. Si multiplicamos este 0.05 por 50 nos da 2.5 sucesos esperados por grupo. Como es menor que 5 estamos fuera de las condiciones de aplicación de este Test de proporciones y deberíamos aplicar el Test exacto de Fisher.

14. Supongamos, ahora, que queremos ver antes y después de un determinado acontecimiento si un cierto número de personas opinan A o si opinan B (Por ejemplo, si votarían sí o no en un determinado referéndum). Habrá los que opinaban A y después B, los que opinaban A y continúan opinando A, los que opinaban B y luego continúan opinando B y, finalmente, los que opinaban B y pasan a opinar A. Es un claro ejemplo de muestras relacionadas. La variable es dicotómica pero es un mismo grupo de individuos a los que se les mide la misma variable en dos momentos distintos. Aplicaremos, en este caso, el Test de McNemar (Ver Herbario de técnicas).

15. Supongamos que ahora queremos ver el nivel de inglés de los estudiantes en esas mismas facultades vistas antes (Medicina y Económicas) mediante un examen con notas del 0 al 10, estaremos ahora ante una variable claramente continua.

16. Hay muchos valores posibles potencialmente entre 0 y 10. Estamos, ahora, en el apartado 1 de nuestro protocolo de decisión.

17. Y ahora no tenemos todavía el test a realizar, sino que debemos continuar examinando las especificaciones del protocolo y, nos tocaría, como siguiente paso, decidir si las muestras son independientes o relacionadas.

18. Aquí se trata de ver si los individuos de las dos muestras son los mismos o si son distintos.

19. En este caso que planteo, el del nivel de inglés de alumnos en dos facultades, es claro que se trata de dos muestras con individuos distintos. Se trata, por lo tanto, de muestras independientes.

20. Pero, imaginemos que en lugar de ser dos facultades, las estudiadas, fueran unos mismos estudiantes de una facultad (Pe: Medicina) y que tenemos el nivel de inglés de una muestra de estudiantes al empezar sus estudios universitarios y al final de esos mismos estudios. Y queremos comprobar si ha habido un cambio en ese nivel.

21. En este caso estaríamos ante muestras relacionadas. De unos mismos individuos tenemos dos medidas y queremos ver si hay diferencias. Es muy importante saber distinguir, pues, si las muestras son independientes o relacionadas (a veces se les denomina también apareadas, porque los valores van por pares: dos de cada individuo).

22. En el caso, pues, de las dos facultades, con muestras independientes, estaríamos en el caso 1a del protocolo y en el caso de una única facultad, con muestras relacionadas, estaríamos en el 1b.

23. El siguiente paso, que nos llevará a los apartados 1ai, 1aii, 1bi o 1bii del protocolo, es la comprobación de la normalidad, o no, de ambas muestras.

24. En el tema dedicado a Intervalos de confianza hemos hablado de la noción de ajuste de una muestra a una distribución normal. Y hemos presentado allí que la curtosis estandarizada y la asimetría estandarizada eran unos criterios útiles para comprobar el ajuste de una muestra a la distribución normal. Ahora hemos de dar un paso más y presentar la noción de comprobación estadística de la normalidad de una muestra mediante un contraste de hipótesis.

25. Para decidir si la variabilidad de una muestra sigue una determinada distribución, mediante un contraste de hipótesis, disponemos de las denominadas técnicas de «Bondad de ajuste».

26. Para la comprobación de la normalidad de una muestra existen diferentes técnicas de «Bondad de ajuste a la normal».

27. Todas ellas tienen la misma estructura:

H₀: Normalidad.

H₁: No normalidad.

Hay, pues, en Estadística, presunción de normalidad, porque la normalidad está en la Hipótesis nula.

28. Por lo tanto, en un Test de Bondad de ajuste a la normal con un p-valor superior a 0.05 mantendremos la suposición de normalidad. Estaremos ante una muestra que podríamos ver en el caso de tener en la población una distribución normal.

29. Como siempre en un contraste de hipótesis valoramos si lo que vemos en la muestra, lo que observamos en ella, encaja, es factible verlo, en el caso de ser cierto lo afirmado en la Hipótesis nula. O sea, que lo que vemos, lo Observado está dentro de la esfera de lo Esperado bajo la Hipótesis nula.

30. En cambio, si la p es inferior a 0.05 debemos rechazar la normalidad: la estructura de los datos no nos permiten pensar que la población de donde se ha tomado la muestra tenga una variabilidad en forma de campana de Gauss.

31. Los tests de bondad de ajuste a la normal más usados son el Test de la ji-cuadrado de ajuste a una distribución, Test de kolmogorov de bondad de ajuste a una distribución normal y el Test de Shapiro-Wilk (Ver Herbario de técnicas).

32. En las muestras independientes, para seguir por la vía 1ai las dos muestras deben seguir la normalidad. Si no es así seguimos por 1aii.

33. En las muestras relacionadas, apareadas, se suele calcular la muestra resta a partir de las dos muestras.

34. Como son una serie de individuos de los que se tienen dos valores: uno en cada muestra, se hacen las restas de los valores por individuo, creando una única muestra: la muestra de la resta de los valores de la variable en los dos tiempos o, en general, de los dos valores relacionados.

35. La normalidad se contrasta en esa muestra de restas obtenida a partir de los valores de las dos muestras relacionadas.

36. Si sigue la normal estaremos en 1bi y si no la sigue estaremos en 1bii. En el primer caso, siguiendo el protocolo, aplicaremos el Test de la t de Student para datos apareados (o relacionados) y, en el segundo caso, aplicaremos el Test de los signos o el Test de Wilcoxon (Ver Herbario de técnicas).

37. En muestras independientes, si no hay normalidad de las dos muestras (estamos, pues, en 1aii) aplicaremos el Test de Mann-Whitney (Ver Herbario de técnicas). A este Test también se le llama, a veces, Test de Mann-Whitney-Wilcoxon o, también, Test de Wilcoxon de la suma de rangos. Si, por el contrario, hay normalidad y, por lo tanto, estamos en el apartado 1ai, necesitamos realizar un nuevo paso.

38. Para decidir si aplicar el Test de la t de Student para muestras independientes y varianzas iguales o el Test de la t de Student para muestras independientes y varianzas distintas hay que aplicar un Test sobre las varianzas, un Test que nos permita decidir si las varianzas poblacionales son o no distintas.

39. El Test tiene la estructura de siempre: presunción de igualdad. De igualdad, en este caso, de varianzas o de desviaciones estándar.

40. El contraste es: H₀: σ₁=σ₂, H₁: σ₁<>σ₂. El Test más conocido y usado para resolver este contraste es el denominado Test de Fisher de igualdad de varianzas o también llamado Test de Fisher-Snedecor (Ver Herbario de técnicas). Evidentemente estamos hablando de Desviaciones estándar poblacionales, no muestrales. El problema es, ahora, decidir si las diferencias muestrales entre las Desviaciones muestrales nos permite pensar que son inferibles a nivel poblacional, o no.

41. Si el p-valor es mayor que 0,05 mantendremos la hipótesis de iguadad y aplicaremos, entonces, para comparar las medias de las dos poblaciones, el Test de la t de Student de varianzas iguales.

42. Si el p-valor es menor que 0,05 rechazaremos H₀, aceptaremos H₁ y aplicaremos el Test de la t de Student de varianzas desiguales.

43. Con esto tenemos, pues, explicado todo el mapa trazado en el esquema del protocolo.

44. Las diferentes técnicas de la t de Student son técnicas llamadas «paramétricas», porque para funcionar bien necesitan que las variables sigan una distribución concreta: la distribución normal.

45. El Test de Mann-Whitney, el Test de los signos y el Test de Wilcoxon son, por el contrario, técnicas llamadas «no paramétricas». Estas técnicas precisan pocas condiciones previas.

46. Observemos que se trata de técnicas donde las variables no necesitan seguir una distribución concreta: ni una dicotómica ni una normal.

47. Estas técnicas sólo precisan la continuidad de las variables; o sea, que sean variables con muchos valores posibles.

48. Las técnicas de la Estadística no paramétrica son técnicas «todo terreno». Aplicables en muchas más situaciones. Al no precisar una determinada distribución son más versátiles.

49. Esta mayor versatilidad la pagan con menor potencia: Son técnicas más conservadoras que las denominadas paramétricas, lo que significa que cuesta más rechazar la hipótesis nula. Tienen menor capacidad de detectar diferencias.

50. Una peculiaridad de las técnicas no paramétricas es que los contrastes de hipótesis no son sobre la media sino que lo son sobre la mediana; o sea: H₀: Mediana₁=Mediana₂ y H₁: Mediana₁<>Mediana₂, o sobre la igualdad o desigualdad entre las distribuciones.

1. En la Regresión lineal múltiple modelizamos la relación entre una variable dependiente y dos o más variables independientes mediante una función lineal, una función que será, ahora, no una recta, como sucedía con la Regresión lineal simple, sino un plano (si tenemos dos variables independientes) o un hiperplano (si tenemos más de dos variables independientes).

2. En la Regresión lineal múltiple el punto de partida es el mismo que en la Regresión lineal simple. Se pretende modelizar la relación entre unas variables con la finalidad última de poder pronosticar una de ellas: la variable dependiente, a partir del conocimientos de las otras: las variables independientes. En la Regresión lineal múltiple se introducen nuevas variables independientes con la finalidad de reducir la dispersión de la predicción, con la finalidad de disminuir el residuo.

3. El modelo matemático es, ahora:

y=a₁x₁+a₂x₂+…+a_dx_d+b+e

donde a_1, a_2,…, a_d y b son los coeficientes del modelo y donde e es el residuo, que, como en la Regresión lineal simple, supondremos que sigue una distribución normal N(0, DE).

4. Aunque la Regresión lineal múltiple es, en buena parte, una generalización de la Regresión lineal simple, tiene unas particularidades que conviene precisar.

5. Una de sus peculiaridades es la tendencia a llenar excesivamente el modelo. Hay la tendencia a ir introduciendo variables, hinchando el modelo y esto es muy perjudicial. Para que las cosas funcionen lo mejor posible conviene trabajar con variables que sean independientes entre ellas.

6. Observemos que en el punto anterior he usado la noción de independencia entre variables para referirme a las variables que se denominan independientes en el modelo de regresión. Recordemos que de esas variables tendremos, en el futuro, valores concretos para un individuo y a partir de ellos trataremos de pronosticar el valor de una variable dependiente que desconoceremos su valor para ese individuo.

7. Pueden observarse dos nociones de independencia distintas, pues, en lo que estamos diciendo ahora. Una cosa es la posición de las variables en el modelo de Regresión y otra es el que las variables sean independientes entre ellas, que significa que la correlación entre ellas sea cero.

8. Cuando no se cumple esta relación de independencia entre las variables independientes se produce un fenómeno de colinealidad. Esto es perjudicial para el modelo. El perjuicio representa que las estimaciones de los parámetros del modelo (los coeficientes), que son los elementos básicos para la construcción de los pronósticos de la variable dependiente, tienen más Error estándar. Y el Error estándar, como Desviación estándar de una predicción, es uno de los principales criterios de calidad de una estimación.

9. Hay distintos mecanismos para comprobar si tenemos un exceso de colinealidad. El Test de Belsey, Kuh y Welsch (Ver Herbario de técnicas) es uno de los más usados para comprobar si tenemos ese exceso de colinealidad. Ante un exceso de colinealidad conviene hacer una revisión y una nueva consideración de las variables independientes a usar en el modelo de Regresión, eliminando alguna de ellas o haciendo una Análisis de componentes principales (Técnica multivariante que veremos más adelante).

10. De hecho, parece lógico, en una Regresión lineal múltiple, pedirle a las variables independientes que sean independientes entre ellas. Pensemos que si no lo son, si tienen un cierto grado de dependencia, es porque de alguna forma comparten aspectos entre ellas, en cierta forma dicen cosas similares esas variables. Por lo tanto, a la hora de ser usadas para predecir una variable dependiente se produce un fenómeno de redundancia: estamos usando varias veces lo mismo para pronosticar algo. Y esto se paga con más imprecisión en las estimaciones.

11. Otra peculiaridad de la Regresión lineal múltiple es la posibilidad de construir el modelo paso a paso. Es el procedimiento denominado, en inglés, Stepwise.

12. Al realizar una Regresión lineal múltiple hay, pues, tres modalidades de estimación del modelo:

a. Forzando la entrada en el modelo de todas las variables elegidas.

b. Mediante un Stepwise hacia delante. La Regresión entonces se denomina Fordward Stepwise Regression.

c. Mediante un Stepwise hacia atrás. La Regresión entonces se denomina Backward Stepwise Regression.

13. Expliquemos las dos variantes últimas, puesto que la primera no precisa ninguna explicación.

14. El Stepwise hacia delante lo que hace es, paso a paso, ir introduciendo, en el modelo de Regresión lineal, como dice su nombre: paso a paso, variables independientes, hasta completar el mejor modelo posible.

15. En primer lugar crea un modelo con una única variable independiente. En realidad, pues, el primer paso es crear una Regresión lineal simple. Pero lo hace eligiendo entre todas las variables independientes la que consigue un mejor modelo, si es que lo consigue. En este primer paso debe existir entre las variables independientes una variable que tenga una relación significativa con la variable dependiente. De lo contrario el procedimiento acabaría aquí y no tendríamos modelo matemático para relacionar esas variables.

16. En el segundo paso se prueba de introducir, entre las variables independientes que quedan, cuál es la que consigue un modelo mejor, si es que alguna lo consigue. Se trata de establecer unos criterios de calidad mínimos. Lo que se denomina un Criterio de entrada. Si no se alcanzan nos quedamos con una Regresión lineal simple y se rechazan las otras variables.

17. Si hemos conseguido introducir en el modelo una segunda variable independiente se valora, probando con todas las variables independientes que quedan, la posibilidad de introducir una tercera. De nuevo se aplican unos criterios de entrada que si no se alcanzan no se introduce ninguna variable más.

18. Y así se va haciendo hasta alcanzar el mejor modelo. Es importante tener en cuenta que en cualquiera de estos pasos hay la posibilidad de extraer una variable que anteriormente se había introducido. Y cambiar así la disposición inicial. Por ejemplo, supongamos que en los pasos anteriores se habían introducido las variables x₃ y x₅ y, al probar una nueva introducción, al ensayar con, por ejemplo, x_7, el procedimiento observa que consigue mejores resultados sacando del modelo la variable x₃ que había sido la primera que había introducido, quedando, entonces, el modelo con x₅ y x_7.

19. El Stepwise hacia atrás es lo mismo pero ahora partiendo que hemos empezado forzando la entrada de todas las variables dentro del modelo y, a continuación, en el siguiente paso, mirar de sacar una de las variables independientes: una variable que al sacarla alteremos la calidad del modelo menos que un valor umbral establecido, lo que se denomina, ahora, un Criterio de salida. Si es así, si podemos extraer sin perjudicar por encima de ese valor preestablecido, reducimos el modelo.

20. Y así, paso a paso, pero en sentido contrario, vamos creando el mejor modelo posible, la mejor ecuación posible que relacione una variable dependiente con varias variables independientes.

21. Los criterios de entrada y de salida, que en muchas ocasiones son el mismo valor, generalmente vienen dados por el valor de un estadístico, por el valor de la F de Fisher. Puede verse en el Herbario de técnicas, en concreto, la técnica “Contraste de hipótesis de la pendiente de Regresión” que valores de F pequeños implican buena relación entre la variable dependiente y la independiente. Y valores grandes implican mala relación. Pues el criterio de entrada será que el valor de la F esté por debajo de cierto valor y el de salida que esté por encima de también de cierto valor, que suele ser el mismo. En otras ocasiones el criterio de entrada o de salida es un determinado p-valor prefijado asociado al parámetro de la variable que se decide si entra o no en el modelo.

22. Dados unos datos muestrales de una serie de individuos donde tengamos de ellos los valores tanto de la variable dependiente como de todas las variables independientes, cualquiera de los tres procedimientos estima los coeficientes del modelo y el valor de la Desviación estándar del residuo; o sea, de ese elemento que sumamos a cualquier procedimiento de Regresión.

23. Todos estos coeficientes debe decidirse si son coeficientes significativos, valores fiables que nos proporcionan una modelo asentado, estable, que refleja una realidad no sólo muestral, sino una realidad poblacional.

24. Para que todas estas estimaciones y estas significaciones proporcionadas, mediante p-valores, por técnicas estadística, sean fiables es necesario que se cumplan algunas condiciones que ahora comentaré.

25. No olvidemos que toda la llamada Estadística paramétrica se construye con procedimientos cuyas decisiones y cuyas construcciones se basan en unas suposiciones, bastante exigentes, que deben cumplirse.

26. Por otro lado las suposiciones que ahora comentaré son condiciones compartidas con la Regresión lineal simple. Habitualmente la mayor parte de software estadísticos que realizan Regresión lineal, tanto la simple como la múltiple, y, en ésta última, tanto los dos tipos de Stepwise como la que fuerza la entrada de todas las variables independientes, sus inferencias se basan en estas suposiciones.

27. Una de las comprobaciones necesarias a hacer en estos modelos es que realmente los residuos sigan la distribución normal N(0, DE). Suposición nuclear en la Estadística paramétrica. Y fundamental para el buen funcionamiento de la mayor parte módulos de Regresión lineal en los distintos software comerciales.

28. Una de las técnicas para comprobar esta normalidad es el Test de la ji-cuadrado de bondad de ajuste a una distribución. Otra muy utilizada es el Test de Kolmogorov.

29. Otra comprobación importante es la Homogeneidad de varianzas. Esto significa que el residuo tienen una dispersión homogénea, igual, sean cuales sean los valores de las variables independientes. Hay diversas pruebas que se han desarrollado para comprobar si se cumple o no esta condición. Una es el Test de Glesjer.

30. Otra comprobación importante es que no haya autocorrelación entre los valores en su orden de obtención. Que sean valores independientes uno respecto a otro. El Test de Durbin-Watson es el apropiado en estos casos. La independencia de los datos entre sí es una suposición también del modelo de Regresión lineal.

31. Otra consideración importante a investigación en una Regresión es la influencia de cada punto. No todo punto tiene la misma influencia. Es importante que no haya puntos excesivamente influyentes. Que las estimaciones de los parámetros del modelo queden demasiado en manos de esos puntos. Entre muchos criterios existentes uno de los más usados es el criterio de Cook (Ver Herbario de técnicas) para la detección de influencia.

32. Cuando alguna o varias de las condiciones necesarias no se cumplen una de las opciones más usuales es la Regresión no paramétrica. En este ámbito los métodos más usados se basan en la utilización de estimaciones de funciones de densidad no paramétricas.

33. De hecho, los diferentes procedimientos de Regresión no paramétrica, tanto simple como múltiple, se basan en procedimientos de construcción, sobre el terreno, partiendo de la muestra, donde habrá una enorme flexibilidad que vendrá dada porque la función irá siempre a remolque de la posición de los valores muestrales que tengamos.

34. Posiblemente el modelo de Regresión no paramétrica más utilizado es el Estimador de Nadaraya-Watson que se puede consultar en la sección Herbario de técnicas.

35. Finalmente un criterio de calidad de una Regresión lineal múltiple, como sucede también en la Regresión lineal simple, es el Coeficiente de determinación, la R² (Ver Herbario de técnicas). Aunque el valor de este coeficiente es un número que va del 0 al 1 es frecuente expresarlo en tanto por ciento. Es una forma de expresar el grado de determinación de la variable dependiente por parte de las independientes.