Non penso che dovresti scegliere i modelli semplicemente perché funzionano meglio in un particolare campione, anche se è positivo che tu abbia utilizzato un campione di addestramento e convalida.

Piuttosto, guarda cosa dicono i modelli sulla tua situazione. In alcuni casi ha senso un modello di intercettazione zero. Se il DV dovrebbe essere 0 quando tutti gli IV sono 0, usa un modello di intercettazione zero. Altrimenti, non farlo.

Una conoscenza sostanziale dovrebbe guidare le statistiche, non il contrario

Un modello senza intercettazione può avere senso se vengono soddisfatte due condizioni. In primo luogo, dovrebbe esserci una ragionevole aspettativa di conoscenza della materia affinché l'intercetta sia zero. Secondo, dovrebbe esserci una ragionevole aspettativa di conoscenza dell'oggetto affinché la linea di regressione rimanga una linea retta quando ci si avvicina allo zero. Anche se entrambe le condizioni sono soddisfatte, è consigliabile eseguire un'analisi con un termine di intercettazione e verificare che l'intercetta non sia significativamente diversa da zero.

(Suppongo che tu stia parlando di una Y continua e una X continua)

Sarebbe comprensibile se l'intercetta ottenuta fosse semplicemente rumore - non sig. diverso da zero. (Ho ragione sul fatto che i coefficienti di regressione standardizzati fossero quasi gli stessi in entrambi i modelli?) Se è così non penso che dovresti generalizzare da questo esempio. Quando le intercettazioni sono sig. e sostanziali, aggiungono qualcosa di significativo all'accuratezza predittiva.

Osserva attentamente come vengono calcolate le statistiche rmse o altre statistiche quando si confrontano i modelli senza intercettazione con i modelli di intercettazione. A volte le ipotesi e i calcoli sono diversi tra i 2 modelli e uno può andare peggio, ma ha un aspetto migliore perché viene diviso da qualcosa di molto più grande.

Senza un esempio riproducibile è difficile dire cosa potrebbe contribuire .

Nella regressione lineare, stai adattando:

$ y = f (\ beta, X) = \ beta_0 + \ beta_1 x_1 + \ beta_2 x_2 + \ dots $

Adatti $ \ beta $ dati di addestramento $ (X, Y) $ Supponiamo di eliminare $ \ beta_0 $ e di adattarli al modello, l'errore nell'adattamento:

$ \ sum_i (y_i- f (\ beta, X_i)) ^ 2 $

essere più grande di se lo includessi? In tutti i casi (non degeneri) puoi provare che l'errore sarà uguale o inferiore (sui dati di addestramento) quando includi $ \ beta_0 $ poiché il modello è libero di usare questo parametro per ridurre l'errore se è presente e aiuta e lo imposterà a zero se non aiuta. Inoltre, supponiamo di aver aggiunto una grande costante a y (presumendo che il tuo output dovesse essere $ + 10000 $ rispetto ai dati di addestramento originali) e rimontando il modello, quindi $ \ beta_0 $ diventa chiaramente molto importante.

Forse ti riferisci a modelli regolarizzati quando dici "soppresso". Regolarizzati L1 e L2, questi metodi preferiscono mantenere i coefficienti vicini a zero (e dovresti aver già normalizzato la media e la varianza in anticipo $ X $ per rendere sensato questo passaggio. Nella regolarizzazione, puoi quindi scegliere se includere il intercetta (dovremmo preferire anche un piccolo $ \ beta_0 $?). Anche in questo caso, nella maggior parte dei casi (tutti i casi?), è meglio non regolarizzare $ \ beta_0 $, poiché è improbabile che riduca l'overfitting e riduca il spazio delle funzioni rappresentabili (escludendo quelle con $ \ beta_0 $ elevati) che portano a un errore maggiore.

Nota a margine: la regressione logistica di scikit regolarizza l'intercetta per impostazione predefinita. Qualcuno sa perché: http: // scikit-learn.org/stable/modules/generated/sklearn.linear_model.LogisticRegression.html? Non credo che sia una buona idea.