Critical values for 33 discordancy test variants for outliers in normal samples up to sizes 1000, and applications in quality control in Earth Sciences Translated title: Valores críticos de 33 variantes de pruebas de discordancia para los datos desviados en muestras normales con tamaños de hasta 1000 y aplicaciones en control de calidad en las Ciencias de la Tierra

Abstract

In two earlier papers (Verma and Quiroz-Ruiz, 2006, Rev. Mex. dene. Geol, 23,133-161, 302-319) precise critical values for normal univariate samples of sizes n up to 100 have been reported. However, for greater n, critical values are available only for a few tests: Nl for n up to 147, N4k2 for nuptol 49, N6, N14 and N15 (for the latter three tests, critical values were reported for only n= 200, 500, and 1000). This clearly demonstrates the need for proposing new critical values for n >100 through an adequate statistical methodology. Therefore, modifications of our earlier simulation procedure as well as new, precise, and accurate critical values or percentage points (with four to eight decimal places; average standard error of the mean <img border=0 src="../../../../../img/revistas/rmcg/v25n1/a5s4.jpg">0.00000003-0.0039) of 15 discordancy tests with 33 test variants, and each with seven significance levels a = 0.30, 0.20, 0.10, 0.05, 0.02, 0.01, and 0.005, for normal samples of sizes n up to 1000, viz., n min(1)100(5)200(10)500(20)1000, are reported. For the first time in the literature, the standard error of the mean is also reported explicitly and individually for each critical value. Similarly, a new methodology involving artificial neural network (ANN) was used, for the first time in published literature, to obtain interpolation equations for all 33 discordancy test variants and for each of the seven significance levels. Each equation was fitted using 76 simulated data for n from 100 to 1000 for a given test and significance level. Extremely small sums of squared residuals (<img border=0 src="../../../../../img/revistas/rmcg/v25n1/a5s4.jpg">5.5 × 10 -8 -8.4 ×10-5; generally <10-5) in the ANN equations fitted for n=100 to 1,000 were obtained. As a result, the applicability of these discordancy tests is now extended up to 1000 observations of a particular parameter in a statistical sample. The new most precise and accurate critical values will result in more reliable applications of these discordancy tests than have been possible so far in various scientific and engineering fields, particularly for quality control in Earth Sciences. The multiple-test method with new critical values was shown to perform better than both the box-and-whisker plot and the "two standard deviation " methods used by some researchers, and is therefore the recommended procedure for handling experimental data.

Translated abstract

En dos trabajos anteriores (Verma and Quiroz-Ruiz, 2006, Rev. Mex. dene. Geol, 23, 133-161, 302-319) se han reportado valores críticos precisos para pruebas de discordancia en muestras normales univariadas n hasta 100. Sin embargo, para n >100, se dispone solamente de valores críticos para las pruebas: NI para n hasta 147, N4k2 para n hasta 149, N6, NI4 y NI5 (para las últimas tres pruebas, valores críticos han sido reportados solamente para n=200, 500 y 1000). Esto demuestra claramente la necesidad de proponer nuevos valores críticos para n >100 mediante una metodología estadística apropiada. Por lo tanto, se reportan las modificaciones del procedimiento de la simulación así como valores críticos o puntos porcentuales nuevos y más precisos y exactos (con cuatro hasta ocho puntos decimales; el error estándar de la media <img border=0 src="../../../../../img/revistas/rmcg/v25n1/a5s4.jpg">0.00000003 - 0.0039) para 15 pruebas de discordancia con 33 variantes, y cada una con siete niveles de significancia a = 0.30, 0.20, 0.10, 0.05, 0.02, 0.01 y 0.005, para muestras normales con tamaño n hasta 1000, viz., n min (1)100(5)200(10)500(20)1000. Por primera vez en la literatura, se reporta el error estándar de la media explícitamente y en forma individual para cada valor crítico. De igual manera, una nueva metodología que consiste en la aplicación de redes neuronales artificiales (ANN, por sus siglas en inglés) fue usada, por primera vez en la literatura publicada, para obtener ecuaciones de interpolación para las 33 variantes de las pruebas de discordancia y para cada uno de los siete niveles de significancia. Cada ecuaciónfue ajustada con los 76 datos de las simulaciones para n desde 100 hasta 1,000 correspondientes a cada prueba y cada nivel de significancia. Sumas de cuadrados de los residuales extremadamente pequeñas (<img border=0 src="../../../../../img/revistas/rmcg/v25n1/a5s4.jpg">5.5 × 10 -8 -8.4 ×10-5; generalmente <10-5) fueron obtenidas en el ajuste de las ecuaciones por ANN para n =100 a 1,000. Como consecuencia, la aplicabilidad de las pruebas de discordancia ha sido extendida hasta 1,000 observaciones de un determinado parámetro en una muestra estadística. Los valores críticos nuevos y mucho más precisos y exactos resultarán en aplicaciones más confiables de las pruebas de discordancia que han sido posibles hasta ahora en una variedad de campos de las ciencias e ingenierías, particularmente para el control de calidad en Ciencias de la Tierra. El método de pruebas múltiples con nuevos valores críticos proporcionó mejores resultados que los métodos de la gráfica de "boxy whisker" y de "dos desviaciones estándar" usados por algunos investigadores y, por lo tanto, el presente método estadístico es el más recomendado para el manejo de datos experimentales.