Seleção da matriz de variância-covariância residual na análise de ensaios varietais com medidas repetidas em cana-de-açúcar Translated title: Selection of the residual variance-covariance matrix in the analysis of varietal trials with repeated measures in sugarcane

Abstract

Este trabalho objetivou avaliar diferentes estruturas da matriz de variâncias e covariâncias residual (Σ), quanto ao ajustamento de dados longitudinais via modelos mistos, em experimentos varietais de cana-de-açúcar. A seleção adequada desta matriz garante a escolha de um modelo mais representativo dos dados. Em cada modelagem, variou-se ainda a suposição associada aos efeitos de tratamentos (variedades), como fixos e aleatórios. Quatro ensaios varietais, conduzidos entre 2005 e 2009, em três localidades do Estado de Goiás, foram considerados. Cada experimento foi delineado em blocos casualizados com três ou quatro repetições. A variável resposta analisada foi toneladas de colmos por hectare (TCH). Para avaliar a qualidade de ajustamento dos modelos, foram utilizados o critério de informação de Akaike (AIC) e o teste da razão de verossimilhanças. Este último foi utilizado apenas para comparar modelos hierárquicos, tomados dois a dois. Constatou-se que as análises pelo modelo univariado clássico de parcelas subdivididas oscilaram entre as piores ou entre aquelas de ajustes apenas medianos. As estruturas da matriz Σ com os melhores ajustamentos variaram entre os ensaios, com destaque para a matriz não-estruturada. Tais resultados revelam que a estrutura de erros independentes, em geral, não se mostra adequada para esse tipo de análise e, também, que não é seguro definir previamente uma estrutura específica de Σ para tais ensaios. Pequenas alterações foram observadas na classificação das estruturas ao se assumirem os efeitos de tratamentos como fixos ou aleatórios; porém, sem efeito importante na classificação das melhores estruturas em cada ensaio.

Translated abstract

This study aimed to evaluate different residual structures of variance-covariance matrix (Σ), regarding the fitting of longitudinal data via mixed models in variety trials of sugarcane. The adequate choice of this matrix provides most representative models to the data. In each model was also evaluated the effects of treatments (varieties), either as fixed or as random. Four trials were carried out in three locations in the Goiás State, Brazil, from 2005 to 2009. Each experiment was designed in randomized complete block with three or four repetitions. The response variable analyzed was tons of stalks per hectare (TCH). The goodness of fitting of the different models to the data was assessed by Akaike information criterion (AIC) and by likelihood ratio test (LRT). This last statistic was used only to compare nested models, two by two. It was observed that classic model in split-plot design ranged among the worst or with just median adjustments. The structures of Σ matrix with the best fittings to the data varied among trials, with outstanding for the unstructured matrix. These results show that the structure of independent errors, in general, is not adequate for these analyses, and a prior definition of the co-variance structure can lead to unreliable results for these trials. Small changes were observed in the ranking of these structures by assuming the treatment effects as fixed or random, however, without significant effects on the ranking of the best structures in each trial.