R / mgcv: Perché i prodotti tensor te () e ti () producono superfici diverse?

Il mgcvpacchetto per Rha due funzioni per adattare le interazioni del prodotto tensore: te()e ti(). Comprendo la divisione di base del lavoro tra i due (adattamento di un'interazione non lineare rispetto alla scomposizione di questa interazione in effetti principali e un'interazione). Quello che non capisco è perché te(x1, x2)e ti(x1) + ti(x2) + ti(x1, x2)può produrre (leggermente) risultati diversi.

MWE (adattato da ?ti):

require(mgcv)
test1 <- function(x,z,sx=0.3,sz=0.4) { 
  x <- x*20
 (pi**sx*sz)*(1.2*exp(-(x-0.2)^2/sx^2-(z-0.3)^2/sz^2)+
             0.8*exp(-(x-0.7)^2/sx^2-(z-0.8)^2/sz^2))
}
n <- 500

x <- runif(n)/20;z <- runif(n);
xs <- seq(0,1,length=30)/20;zs <- seq(0,1,length=30)
pr <- data.frame(x=rep(xs,30),z=rep(zs,rep(30,30)))
truth <- matrix(test1(pr$x,pr$z),30,30)
f <- test1(x,z)
y <- f + rnorm(n)*0.2

par(mfrow = c(2,2))

# Model with te()
b2 <- gam(y~te(x,z))
vis.gam(b2, plot.type = "contour", color = "terrain", main = "tensor product")

# Model with ti(a) + ti(b) + ti(a,b)
b3 <- gam(y~ ti(x) + ti(z) + ti(x,z))
vis.gam(b3, plot.type = "contour", color = "terrain", main = "tensor anova")

# Scatterplot of prediction b2/b3
plot(predict(b2), predict(b3))

Le differenze non sono molto grandi in questo esempio, ma mi chiedo solo perché dovrebbero esserci delle differenze.

Informazioni sulla sessione:

 > devtools::session_info("mgcv")
 Session info
 -----------------------------------------------------------------------------------
 setting  value                       
 version  R version 3.3.1 (2016-06-21)
 system   x86_64, linux-gnu           
 ui       RStudio (0.99.491)          
 language en_US                       
 collate  en_US.UTF-8                 
 tz       <NA>                        
 date     2016-09-13                  

 Packages      ---------------------------------------------------------------------------------------
 package * version date       source        
 lattice   0.20-33 2015-07-14 CRAN (R 3.2.1)
 Matrix    1.2-6   2016-05-02 CRAN (R 3.3.0)
 mgcv    * 1.8-12  2016-03-03 CRAN (R 3.2.3)
 nlme    * 3.1-128 2016-05-10 CRAN (R 3.3.1)

r gam mgcv conditional-probability mixed-model references bayesian estimation conditional-probability machine-learning optimization gradient-descent r hypothesis-testing wilcoxon-mann-whitney time-series bayesian inference change-point time-series anova repeated-measures statistical-significance bayesian contingency-tables regression prediction quantiles classification auc k-means scikit-learn regression spatial circular-statistics t-test effect-size cohens-d r cross-validation feature-selection caret machine-learning modeling python optimization frequentist correlation sample-size normalization group-differences heteroscedasticity independence generalized-least-squares lme4-nlme references mcmc metropolis-hastings optimization r logistic feature-selection separation clustering k-means normal-distribution gaussian-mixture kullback-leibler java spark-mllib data-visualization categorical-data barplot hypothesis-testing statistical-significance chi-squared type-i-and-ii-errors pca scikit-learn conditional-expectation statistical-significance meta-analysis intuition r time-series multivariate-analysis garch machine-learning classification data-mining missing-data cart regression cross-validation matrix-decomposition categorical-data repeated-measures chi-squared assumptions contingency-tables prediction binary-data trend test-for-trend matrix-inverse anova categorical-data regression-coefficients standard-error r distributions exponential interarrival-time copula log-likelihood time-series forecasting prediction-interval mean standard-error meta-analysis meta-regression network-meta-analysis systematic-review normal-distribution multiple-regression generalized-linear-model poisson-distribution poisson-regression r sas cohens-kappa

— jvh_ch
fonte

Davvero gente !? Mentre l'implementazione in una cosa chiaramente specifica per mgcv (non sono a conoscenza di nessun altro software standard per GAM che consente questa decomposizione simile a ANOVA di smooth bivariate), il problema e la risposta sono chiaramente statistici; i modelli che si adattano non sono gli stessi sotto il cofano a causa delle matrici di penalità extra che sorgono quando si decompongono i termini marginali dal componente "interazione". Questo non è specifico per mgcv.

— Gavin Simpson,

@GavinSimpson Ho sollevato una domanda su Meta sull'attualità o meno di questa domanda

— Silverfish,

Questi sono superficialmente lo stesso modello, ma in pratica quando si adattano ci sono alcune sottili differenze. Una differenza importante è che il modello con ti()termini sta stimando più parametri di scorrevolezza rispetto al te()modello:

> b2$sp
te(x,z)1 te(x,z)2 
3.479997 5.884272 
> b3$sp
    ti(x)     ti(z)  ti(x,z)1  ti(x,z)2 
 8.168742 60.456559  2.370604  2.761823

e questo perché ci sono più matrici di penalità associate ai due modelli; nel ti()modello ne abbiamo uno per "termine" rispetto a solo due nel te()modello, uno per margine marginale.

Vedo i modelli ti()utilizzati per decidere se voglio o . Non posso confrontare questi modelli se uso i termini, quindi uso . Una volta determinato se ho bisogno di posso modificare il modello con se ne ho bisogno o con separato per ogni effetto marginale se non ho bisogno di . $\hat{y} = \beta_0 + s(x, y)$ $\hat{y} = \beta_0 + s(x) + s(y)$ te()ti() $s(x,y)$ te()s() $s(x,y)$

Nota che puoi avvicinare leggermente i modelli l'uno all'altro adattandoti usando method = "ML"(o "REML", ma non dovresti confrontare gli effetti "fissi" con a "REML"meno che tutti i termini non siano completamente penalizzati, che per impostazione predefinita non lo sono, ma direi con select = TRUE).

— Gavin Simpson
fonte