Use este identificador para citar ou linkar para este item: http://ri.ufmt.br/handle/1/1214
Tipo documento: Dissertação
Título: Influência dos valores censurados na determinação da concentração média de variáveis de qualidade da água
Autor(es): Contar, Thaisa de Souza
Orientador(a): Lima, Gilson Alberto Rosa
Membro da Banca: Lima, Gilson Alberto Rosa
Membro da Banca: Dores, Eliana Freire Gaspar de Carvalho
Membro da Banca: Zeilhofer, Peter
Resumo : Um dos problemas encontrados na análise estatística de dados provenientes de monitoramento da qualidade da água são os chamados dados, ou valores, censurados. Dados censurados indicam que valor medido é apenas parcialmente conhecido, ou seja, encontra-se abaixo ou acima do limite de detecção (LD) da técnica analítica de medição. Na literatura é comum a utilização do método de substituição, onde os valores censurados são substituídos por zero, 1⁄2LD ou LD. Porém, duas décadas de pesquisa revela que os valores censurados quando não tratados de maneira adequada levam a estimativas imprecisas dos parâmetros estatísticos (média e desvio padrão), especialmente quando o conjunto de dados possui poucas observações (n < 50) ou um elevado número de valores censurados (acima de 15% do total de observações). Neste contexto, o estudo ilustra como o valor calculado da concentração média das variáveis de qualidade da água é influenciado pela escolha do método de cálculo, do tamanho da amostra e do percentual de dados censurados e também chamar atenção para a importância deste tema no que diz respeito aos relatórios produzidos pelos programas brasileiros de monitoramento da qualidade da água. A análise foi realizada para os métodos paramétricos: Substituição Simples (SS), Estimação por Máxima Verossimilhança (MLE – Maximum Likelihood Estimator) e Gráficos de Probabilidade com Estatística de Regressão (ROS - Regression on Order Statistics) e o método não paramétricos de Kaplan-Meier (KM). Foram utilizados dados de concentração media das variáveis de qualidade da água (DQO, Nitrato e Fosfato) provenientes do programa de monitoramento da qualidade da água do Rio Cuiabá. Os resultados mostram que o método de substituição deve ser evitado, pois a média e desvio-padrão calculado são imprecisos e não podem ser reproduzidos.
Resumo em lingua estrangeira: One of the problems encountered in the statistical analysis of water quality monitoring data is the censored data. Censoring, occurs when the value of a measurement or observation is only partially known, it is below or above the detection limit (DL) of analytical measurement technique. It is common in the literature replacing censored values by zero or a fraction (1⁄2DL, or DL) of the detection limit for each nondetect. Two decades of research has shown that if the censored data is not handle properly lead to inaccurate estimates of statistical parameters (mean and standard deviation) in comparison with other methods, especially when the data set has small number of observations (n <50) or a high percentage of censored data (above 15% of total observations). In this context the goal of this study was to highlight how the mean concentration of water quality variables are influenced by sample size, percentage of censored data and calculation method. The study clearly illustrate the problems with substitution of arbitrary values for nondetects by testing them against parametric methods Maximum Likelihood Estimator (MLE) and Regression on Order Statistics (ROS) and nonparametric method Kaplan-Meier (KM), designed expressly for dealing with censored data. The analysis was carried out with dataset from Cuiabá River water quality monitoring program. The results show that substituting methods should be avoided because sample means and standard deviations are inaccurate and irreproducible.
Palavra-chave: Dados censurados
Qualidade da água
Maximum likelihood estimator
Regression on order statistics
Kaplan-Meier
Palavra-chave em lingua estrangeira: Censored data
Water quality
Maximum likelihood estimator
Regression on order statistics
Kaplan-Meier
CNPq: CNPQ::ENGENHARIAS::ENGENHARIA SANITARIA::RECURSOS HIDRICOS
Idioma: por
País: Brasil
Instituição: Universidade Federal de Mato Grosso
Sigla da instituição: UFMT CUC - Cuiabá
Departamento: Faculdade de Arquitetura, Engenharia e Tecnologia (FAET)
Programa: Programa de Pós-Graduação em Recursos Hídricos
Referência: CONTAR, Thaisa de Souza. Influência dos valores censurados na determinação da concentração média de variáveis de qualidade da água. 2011. 79 f. Dissertação (Mestrado em Recursos Hídricos) - Universidade Federal de Mato Grosso, Faculdade de Arquitetura, Engenharia e Tecnologia, Cuiabá, 2011.
Tipo de acesso: Acesso Aberto
URI: http://ri.ufmt.br/handle/1/1214
Data defesa documento: 2-Feb-2011
Aparece na(s) coleção(ções):CUC - FAET - PPGRH - Dissertações de mestrado

Arquivos deste item:
Arquivo Descrição TamanhoFormato 
DISS_2011_Thaisa de Souza Contar.pdf2.96 MBAdobe PDFVer/Abrir


Os itens no repositório estão protegidos por copyright, com todos os direitos reservados, salvo quando é indicado o contrário.