9
views
0
recommends
+1 Recommend
1 collections
    0
    shares
      • Record: found
      • Abstract: found
      • Article: found
      Is Open Access

      Critical values for 22 discordancy test variants for outliers in normal samples up to sizes 100, and applications in science and engineering

      research-article

      Read this article at

      Bookmark
          There is no author summary for this article yet. Authors can add summaries to their articles on ScienceOpen to make them more accessible to a non-specialist audience.

          Abstract

          In this paper, the modifications of the simulation procedure as well as new, precise, and accurate critical values or percentage points (for the majority of data with four decimal places; respective average standard error of the mean ˜0.0001-0.0025) of nine discordancy tests, with 22 test variants, and each with seven significance levels α = 0.30, 0.20, 0.10, 0.05, 0.02, 0.01, and 0.005, for normal samples of sizes n up to 100 are reported. Prior to our work, only less precise critical values were available for most of these tests, viz., with one (for n < 20) and three decimal places (for greater n) for test N14; two decimal places fortests N2, N3-k=2,3,4, N6, and N15; and three decimal places for N1, N4-k=3,4, N5, and N8; but all of them with unknown errors. In fact, the critical values were available for n only up to 20 for test N2, up to 30 for test N8, and up to 50 for N4-k=1,3,4, whereas for most other tests, in spite of the availability for n up to 100 (or more), interpolations were required because tabulated values were not reported for all n in the range 3-100. Therefore, the applicability of these discordancy tests is now extended up to 100 observations of a particular parameter in a statistical sample, without any need of interpolations. The new more precise and accurate critical values will result in a more reliable application of these discordancy tests than has so far been possible. Thus, we envision that these new critical values will result in wider applications of these tests in a variety of scientific and engineering fields such as agriculture, astronomy, biology, biomedicine, biotechnology, chemistry, electronics, environmental and pollution research, food science and technology, geochemistry, geochronology, isotope geology, meteorology, nuclear science, paleontology, petroleum research, quality assurance and assessment programs, soil science, structural geology, water research, and zoology. The multiple-test method with new critical values proposed in this work was shown to perform better than the box-and-whisker plot method used by some researchers. Finally, the so-called "two standard deviation" method frequently used for processing inter-laboratory databases was shown to be statistically-erroneous, and should therefore be abandoned. Instead, the multiple-test method with 15 tests and 33 test variants, all of which now readily applicable to sample sizes up to 100, should be used. To process inter-laboratory databases, our present approach of multiple-test method is also shown to perform better than the "two standard deviation " method.

          Translated abstract

          En este trabajo se reportan las modificaciones del procedimiento de la simulación así como valores críticos o puntos porcentuales nuevos y más precisos y exactos (para la mayoría de los datos con cuatro puntos decimales; el error estándar de la media ˜0.0001-0.0025) para nueve pruebas de discordancia con 22 variantes, y cada una con siete niveles de significancia α = 0.30, 0.20, 0.10, 0.05, 0.02, 0.01 y 0.005, para muestras normales con tamaño n hasta 100. Antes de nuestro trabajo, solamente se disponía de valores críticos menos precisos para la mayoría de estas pruebas, viz., con uno (para n < 20) y tres puntos decimales (para n mayores) para la prueba N14, dos puntos decimales para las pruebas N2, N3-k=2,3,4, N6 y NI5, y tres puntos decimales para NI, N4-k=3,4, N5 y N8, pero todos ellos con errores desconocidos. En realidad se disponía de los valores críticos solamente para n hasta 20 para la prueba N2, hasta 30 para la prueba N8, y hasta 50 para N4-k=1,3,4, mientras que para muchas otras pruebas, a pesar de la disponibilidad para hasta n 100 (o más) se requería de interpolaciones, dado que los valores tabulados no fueron reportados para todos los n en el intervalo de 3 a 100. Por consecuencia, la aplicabilidad de las pruebas de discordancia es extendida hasta 100 observaciones de un determinado parámetro en una muestra estadística, sin necesidad de realizar las interpolaciones de los valores críticos. Los valores críticos nuevos y más precisos y exactos resultarán en una aplicación más confiable de las pruebas de discordancia que ha sido posible hasta ahora. De esta manera, consideramos que estos nuevos valores críticos resultarán en aplicaciones más amplias de estas pruebas en una variedad de campos de conocimiento científico y de ingenierías, tales como agricultura, astronomía, biología, biomedicina, biotecnología, ciencia del suelo, ciencia nuclear, ciencia y tecnología de los alimentos, contaminación ambiental, electrónica, geocronología, geología estructural, geología isotópica, geoquímica, investigación del agua, investigación del petróleo, meteorología, paleontología, programas de aseguramiento de calidad, química y zoología. El método de pruebas múltiples con nuevos valores críticos propuesto aquí proporciona mejores resultados que el método de la gráfica de "boxy whisker" usado por algunos investigadores. Finalmente, se demostró que el así llamado método de "dos desviaciones estándar", frecuentemente usado para procesar las bases de datos interlaboratorios, es erróneo y, por lo tanto, debe ser abandonado. En su lugar debe usarse el método de pruebas múltiples con 15 pruebas y 33 variantes, todas ellas ahora rápidamente aplicables para los tamaños de muestras hasta 100. Nuestro procedimiento de pruebas múltiples parece funcionar mejor que el método de "dos desviaciones estándar" para el procesamiento de datos geoquímicos provenientes de muchos laboratorios.

          Related collections

          Most cited references 203

          • Record: found
          • Abstract: not found
          • Article: not found

          Analysis of Extreme Values

           W. Dixon (1950)
            Bookmark
            • Record: found
            • Abstract: not found
            • Article: not found

            A Comparative Study of Various Tests for Normality

             S Shapiro,  M. WILK,  H-J Chen (1968)
              Bookmark
              • Record: found
              • Abstract: not found
              • Article: not found

              A Comparative Study of Various Tests for Normality

               H J Chen,  M. WILK,  S Shapiro (1968)
                Bookmark

                Author and article information

                Journal
                rmcg
                Revista mexicana de ciencias geológicas
                Rev. mex. cienc. geol
                Instituto de Geología, UNAM (México, DF, Mexico )
                1026-8774
                2007-2902
                2006
                : 23
                : 3
                : 302-319
                Affiliations
                [01] Temixco Morelos orgnameUniversidad Nacional Autónoma de México orgdiv1Centro de Investigación en Energía Mexico spv@ 123456cie.unam.mx
                [02] Temixco Morelos orgnameUniversidad Nacional Autónoma de México orgdiv1Centro de Investigación en Energía
                Article
                S1026-87742006000300005 S1026-8774(06)02300300005
                2e4c8ef6-75a6-4341-901f-e25aa9513979

                This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.

                Page count
                Figures: 0, Tables: 0, Equations: 0, References: 115, Pages: 18
                Product
                Product Information: website
                Categories
                Articles

                Comments

                Comment on this article

                Similar content 13

                Cited by 27

                Most referenced authors 535