Mostrar registro simples

dc.creatorGriebeler, Gustavo
dc.date.accessioned2017-03-28
dc.date.available2017-03-28
dc.date.issued2012-02-15
dc.identifier.citationGRIEBELER, Gustavo. Quality control of soil analysis fron a network of laboratories and alternatives of statistical procedures. 2012. 63 f. Dissertação (Mestrado em Agronomia) - Universidade Federal de Santa Maria, Santa Maria, 2012.por
dc.identifier.urihttp://repositorio.ufsm.br/handle/1/5542
dc.description.abstractSoil chemical analysis must be accurate to avoid errors in the recommendations of lime and fertilizers. The quality control program of the ROLAS-RS/SC network evaluates the analysis accuracy by the distance of a result, through standard deviation, from the median of four soil samples analyzed monthly during a year. This way of judgment requires that data sets must have normal distribution to insure that the median can be considered an estimation of the true value. Outliers should be eliminated because they change the standard deviation spreads and consequently, the accuracy. The mathematical procedure of the accuracy calculation may also allow that asterisks attributed to accurate data might be poised by accurate ones. In addition, the cancellation criteria of the asterisks may be at odds with the uncertainty associated with analytical methods. Therefore, the objective of this work was to check the normal distribution of data sets, identify outliers, evaluate procedures of accuracy calculation and quantify analytically the uncertainty associated to the extractions and determination methods of P and K in order to verify how these aspects may affect laboratories accuracy. The Lilliefors test was run to check the normality and outliers were identified through the quartile test. Procedures to evaluate the accuracy by normality adjustment through outliers elimination of data sets were tested. The substitution of the median by the average as criteria of central reference and calculation of accuracy for each attribute analyzed, instead of annual average accuracy was also tested. Repetitions of the analysis of P and K were carried out to determine the intrinsic variability of the methods. Only 59% of data followed normal distribution, indicating that 41% of the attributes analyzed were considered in disaccordance with statical assumptions. When outliers were eliminated of the data sets, analyzes with normal distribution increased up to 75%, which decreased the number of laboratories that had the minimum accuracy required by the laboratories network. When data sets have normal distribution, the use of the average instead of median showed to be better for the estimation of the true value. Data sets out of the analytical expected range should be eliminated, while those framed within it, if amplitude is less than 1,5 interquartile distances, should not be excluded for the calculation of the accuracy. The procedure to calculate annual average accuracy hide attributes less accurate then the minimal the required. The intrinsic variability associated with the methods of analysis indicates that the criteria for the cancellation of asterisks from P should be reassessed, but the criteria for K seem to be appropriate. Studies on the variability of each analytical method are needed.eng
dc.description.sponsorshipCoordenação de Aperfeiçoamento de Pessoal de Nível Superior
dc.formatapplication/pdfpor
dc.languageporpor
dc.publisherUniversidade Federal de Santa Mariapor
dc.rightsAcesso Abertopor
dc.subjectNormalidadepor
dc.subjectOutlierspor
dc.subjectExatidãopor
dc.subjectVariabilidadepor
dc.subjectIncertezapor
dc.subjectNormalityeng
dc.subjectOutlierseng
dc.subjectAccuracyeng
dc.subjectVariabilityeng
dc.subjectUncertainityeng
dc.titleControle de qualidade de análises de solos da rede Rolas - RS/SC e procedimentos estatísticos alternativospor
dc.title.alternativeQuality control of soil analysis fron a network of laboratories and alternatives of statistical procedureseng
dc.typeDissertaçãopor
dc.description.resumoOs resultados de análises químicas de amostras de solo devem apresentar exatidão satisfatória para que não sejam induzidos erros de recomendação da adubação e calagem. O controle de qualidade dos laboratórios da rede ROLAS-RS/SC avalia a exatidão média anual dos resultados, sendo a mesma estabelecida em função do afastamento em desvios padrão de um resultado em relação à mediana das análise de cada uma das amostras de solo realizadas ao longo do ano. Nesse sistema, é necessário que os dados apresentem distribuição normal para que a mediana seja assumida como estimativa do valor central das amostras de solos, associada à ausência de outliers, pois estes alteram a magnitude do desvio padrão e, consequentemente, a exatidão. O procedimento matemático de cálculo da exatidão média também pode permitir que os asteriscos recebidos em atributos de análise inexatos sejam contrabalanceados pelos atributos exatos. Além disso, os critérios de cancelamento de asteriscos podem estar em desacordo com a incerteza analítica associada aos métodos. Portanto, o objetivo do trabalho foi testar a distribuição normal dos resultados do controle de qualidade da rede ROLAS-RS/SC, identificar a presença de outliers, avaliar o procedimento de cálculo da exatidão e quantificar analiticamente a incerteza associada aos métodos de extração e determinação de P e K para verificar como estes fatores podem afetar a exatidão dos laboratórios. O teste de Lilliefors foi aplicado para avaliar a normalidade e os outliers foram identificados pelo método dos quartis. Procedimentos para avaliar a exatidão pelo ajuste à distribuição normal através da eliminação dos outliers foram testados, além da substituição da mediana pela média e avaliação do procedimento de cálculo da exatidão por atributo de análise das amostras de solo ao invés da exatidão média de todos os atributos. Repetições das análises de P e K foram realizadas para verificar a variabilidade intrínseca dos métodos. Somente 59% dos dados apresentaram distribuição normal, indicando que 41% das análises foram avaliadas em desacordo com os pressupostos estatísticos. A exclusão dos outliers elevou de 59 para 75% o número de análises com distribuição normal, que tornou o método de avaliação mais rígido, uma vez que diminuiu o número de laboratórios com a exatidão mínima exigida de 85%. Em dados com distribuição normal, a média parece melhor estimar o valor verdadeiro que a mediana. Dados sem distribuição normal por ultrapassarem as faixas de trabalho devem ser eliminados, enquanto aqueles enquadrados dentro das faixas de trabalho e que apresentam amplitude inferior a 1,5 vezes a distância interquartílica não devem ser excluídos para o cálculo da exatidão. O procedimento que calcula a exatidão média anual oculta atributos com exatidão inferior ao mínimo preconizado pelo sistema. A variabilidade intrínseca associada aos métodos de análise indica que os critérios de cancelamento de asteriscos do P devem ser reavaliados enquanto os critérios referentes ao K parecem estar adequados, contudo, deve-se aprofundar os espor
dc.contributor.advisor1Silva, Leandro Souza da
dc.contributor.advisor1Latteshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4706291Y9por
dc.contributor.referee1Cargnelutti Filho, Alberto
dc.contributor.referee1Latteshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4790605A0por
dc.contributor.referee2Wietholter, Sirio
dc.contributor.referee2Latteshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4783748H0por
dc.creator.Latteshttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4272669U4por
dc.publisher.countryBRpor
dc.publisher.departmentAgronomiapor
dc.publisher.initialsUFSMpor
dc.publisher.programPrograma de Pós-Graduação em Ciência do Solopor
dc.subject.cnpqCNPQ::CIENCIAS AGRARIAS::AGRONOMIA::CIENCIA DO SOLOpor


Arquivos deste item

Thumbnail

Este item aparece na(s) seguinte(s) coleção(s)

Mostrar registro simples