http://repositorio.unb.br/handle/10482/32657
Fichier | Description | Taille | Format | |
---|---|---|---|---|
2018_RenatoSouzaAmorim.pdf | 8,71 MB | Adobe PDF | Voir/Ouvrir |
Titre: | Detecção de tendências em séries de extremos hidrológicos considerando efeitos de autocorrelação temporal e multiplicidade de testes |
Auteur(s): | Amorim, Renato Souza |
Orientador(es):: | Reis Junior, Dirceu Silveira |
Assunto:: | Gestão de recursos hídricos Eventos hidrológicos - frequência |
Date de publication: | 18-sep-2018 |
Data de defesa:: | 27-avr-2018 |
Référence bibliographique: | AMORIM, Renato Souza. Detecção de tendências em séries de extremos hidrológicos considerando efeitos de autocorrelação temporal e multiplicidade de testes. 2018. xvi, 167 f., il. Dissertação (Mestrado em Tecnologia Ambiental e Recursos Hídricos)—Universidade de Brasília, Brasília, 2018. |
Résumé: | Os efeitos da alteração na frequência e intensidade de eventos hidrológicos extremos (cheias e secas) têm motivado a realização de estudos de detecção de tendências para subsidiar o processo de gestão dos recursos hídricos. Diversos fatores influenciam a capacidade de detecção de tendências verdadeiras, tais como a presença de autocorrelação temporal, a questão da multiplicidade de testes em análises regionais, e o fato de que o poder do teste empregado na análise e o grau de tendenciosidade na estimativa da magnitude da tendência dependem de características da série histórica (tamanho, graus de variabilidade e assimetria, distribuição geradora, e magnitude real de tendência). A falta de conhecimento sobre como tais fatores afetam a análise de detecção resulta em equívocos na identificação de estacionariedade. Este trabalho é dividido em três partes. Na primeira parte, procura-se avaliar, com base em estudos de Simulação Monte Carlo, como o tamanho da série histórica (n), magnitude da tendência (b), o coeficiente de variação (Cv) e o coeficiente de assimetria da série histórica, este último função do parâmetro de forma (k) da distribuição Generalizada de Valores Extremos (GEV), influenciam, numa análise local, o poder do teste Mann- Kendall (MK), a probabilidade de se obter uma estimativa da magnitude da tendência com sinal oposto ao real (erro tipo S) empregando o estimador sugerido por Sen (1968) e o grau de tendenciosidade dessa estimativa (erro tipo M). A segunda parte, também baseada em Simulação Monte Carlo, foca na questão da análise regional de tendência, procurando avaliar o desempenho de metodologias baseadas no conceito do False Discovery Rate (FDR), sugeridas na literatura (Benjamini e Hockberg, 1995, 200) para amenizar o problema da multiplicidade de testes de hipóteses, que tendem a resultar em número exagerado de resultados falso positivos. A terceira parte do trabalho ilustra o uso de tais metodologias num estudo de detecção de tendências monotônicas em extremos de variáveis hidrometeorológicas na bacia do Rio São Francisco. Os resultados da primeira parte permitiram mapear o poder do teste MK para diferentes combinações de n, Cv, κ e b para séries de extremos do tipo GEV, possibilitando um melhor entendimento da probabilidade de se identificar uma estação com tendência quando de fato a tendência está presente. Por exemplo, uma série com 30 anos, Cv = 1, k = -0,3 e tendência relativa anual de 2%, a probabilidade do teste MK identificar essa tendência é de apenas 0,45. Se essa mesma série tivesse um comprimento de 50 anos, a probabilidade de detecção aumentaria para 0,90. Esses mesmos resultados sugerem que a probabilidade de se estimar uma tendência com o sinal oposto ao real, quando a estação é declarada significativa, depende do poder do teste e pode assumir valores superiores a 5%, podendo chegar a até mesmo 40% para poder do teste inferior a 10%. Verificou-se também que existe uma tendência de superestimação da magnitude das tendências, e que o valor estimado, em média, pode ser 1,5 vezes maior que o valor real quando o poder do teste é igual a 0,40, podendo ainda ser até 5 vezes maior do que o valor real, em média, quando o poder do teste é igual a 0,05. Em relação à análise regional, os resultados mostram que o teste MK aplicado de forma independente em cada estação resulta em um número elevado de falsos positivos, muito além do que seria razoável. Por exemplo, numa série com n = 40 anos, relação b/Cv = 0,02, e k = -0,3, a proporção de falsos negativos chega a 39%, enquanto que os métodos baseados no FDR resultam em proporções menores do que 4%. Essa diferença possui um custo, já que o MK empregado de forma independente consegue identificar corretamente 92% das estações com tendência, enquanto os métodos baseados no FDR atingem um pouco mais de 50%. Na análise da bacia do Rio São Francisco, verificou-se um elevado número de estações com tendências decrescentes nas séries de vazões mínimas, com uma proporção de aproximadamente 50%. Na maioria dessas estações, a magnitude da tendência ultrapassa a taxa de 10% por década. Esses resultados foram obtidos com o emprego da técnica de Trend-Free Pre-Whitening (TFPW) para lidar com a autocorrelação temporal e com o uso dos métodos baseados no conceito de FDR para manter a proporção de falsos positivos menor do que 5%. |
Abstract: | The effects of a change in the frequency and intensity of hydrologic events (floods and droughts) have motivated trend detection studies to support water resources management planning. Several factors influence the ability to detect true trends, such as the presence of temporal autocorrelation, the question of multiplicity of tests in regional analyses, and the fact that the utility of the test used in the analysis and the degree of bias in the estimation of the magnitude of the trend depend on characteristics of the historical series (size, degrees of variability and asymmetry, chosen distribution, and actual magnitude of the trend). The lack of knowledge about how these factors affect the detection analysis leads to errors in the identification of stationarity. This work is divided into three parts. In the first part, an evaluation of trends is completed based on Monte Carlo simulation studies, which vary the size of the historical series (n); the magnitude of the trend (b); the coefficient of variance (Cv) and the coefficient of asymmetry of the historical series; the form of the function (k) of the distribution of Generalized Extreme Values (GEV); local influence of the power of the Mann-Kendall (MK) test; the probability of obtaining an estimate of the magnitude of the trend with an opposite sign of the actual (error type S) employing the estimator suggested by Sen (1968); and the degree of bias of this estimate (type M error). The second part of this work is also based on Monte Carlo simulations, which focus on the issue of regional trend analysis, seeking to analyze the performance of methodologies based on the concept of False Discovery Rate (FDR), suggested in the literature (Benjamini and Hockberg, 1995, 200) to mitigate the problem of multiplicity of hypothesis tests, which tend to result in higher numbers of false positives. The third part of the work illustrates the use of these methodologies in a case study to detect monotonic tendencies in extreme hydrometeorological variables in the São Francisco River basin. The results of the first part allowed mapping of the power of the MK test to different combinations of n, Cv, κ and b for extreme series of GEV, enabling a better understanding of the likelihood of identifying a season with a tendency when a true trend it is present. For example, a series with 30 years, Cv = 1, k = -0.3 and an annual relative trend of 2%, the likelihood of the MK test identifying this trend is only 0.45. If this same series had a length of 50 years, the likelihood of detection would increase to 0.90. These same results suggest that the likelihood of estimating a trend with the opposite sign of the true trend (when the station is determined to be significant) depends on the power of the test and can assume values greater than 5%, and can reach 40% for test powers less than 10%. It was also verified that there is a tendency of overestimation of the magnitude of the trends, and that the estimate value (on average) can be 1.5 times greater than the actual value when the test power is equal to 0.40, and can still be up to 5 times great than the actual value (on average) when the power of the test is equal to 0.05. In relation to the regional analysis, the results show that the MK test applied independently at each station results in a high number of false positives, far beyond what would be reasonable. For example, in a series with n = 40 years, ratio of b/Cv = 0.02, and k = -0.3, the proportion of false negatives reaches 39%, while FDR-based methods result in proportions less than 4%. This difference has a cost, since MK employed independently manages to correctly identify 92% of the seasonal trends, while the FDR-based methods reach a litter over 50%. In the analysis of the São Francisco River basin, a large number of stations with declining trends in the minimum flow series were verified, with a ratio of approximately 50%. In most of these stations, the magnitude of the trend exceeds the rate of 10% per decade. These results were obtained with the use of the Trend-Free Pre-Whitening (TFPR) technique to deal with temporal autocorrelation and using methods based on the concept of FDR to maintain the proportion of false positives to less than 5%. |
metadata.dc.description.unidade: | Faculdade de Tecnologia (FT) Departamento de Engenharia Civil e Ambiental (FT ENC) |
Description: | Dissertação (mestrado)—Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Civil e Ambiental, 2018. |
metadata.dc.description.ppg: | Programa de Pós-Graduação em Tecnologia Ambiental e Recursos Hídricos |
Licença:: | A concessão da licença deste item refere-se ao termo de autorização impresso assinado pelo autor com as seguintes condições:Na qualidade de titular dos direitos de autor da publicação, autorizo a Universidade de Brasília e o IBICT a disponibilizar por meio dos sites www.bce.unb.br, www.ibict.br, http://hercules.vtls.com/cgi-bin/ndltd/chameleon?lng=pt&skin=ndltd sem ressarcimento dos direitos autorais, de acordo com a Lei nº 9610/98, o texto integral da obra disponibilizada, conforme permissões assinaladas, para fins de leitura, impressão e/ou download, a título de divulgação da produção científica brasileira, a partir desta data. |
Collection(s) : | Teses, dissertações e produtos pós-doutorado |
Tous les documents dans DSpace sont protégés par copyright, avec tous droits réservés.