Set di addestramento e set di test
Torniamo a Playground per sperimentare
con set di addestramento e set di test.
Fai clic sull'icona Più per ricordarti il significato dei pallini arancioni e blu.
Nella visualizzazione:
- Ogni punto blu indica un esempio di una classe di dati (come spam).
- Ogni punto arancione indica un esempio di un'altra classe di dati (ad esempio, non spam).
- Il colore di sfondo rappresenta la previsione del modello di dove trovare gli esempi di quel colore. Uno sfondo blu intorno a un punto blu indica che il modello prevede correttamente l'esempio. Al contrario, uno sfondo arancione intorno a un punto blu indica che il modello sta eseguendo una previsione errata per quell'esempio.
Questo esercizio fornisce sia un set di test che uno di addestramento, entrambi ricavati dallo stesso set di dati. Per impostazione predefinita, la visualizzazione
mostra solo il set di addestramento. Se vuoi vedere anche il set di test, fai clic sulla casella di controllo Mostra dati di test appena sotto la visualizzazione. Nella visualizzazione, notare la seguente distinzione:
- Gli esempi di addestramento hanno un contorno bianco.
- Gli esempi di test hanno un contorno nero.
Attività 1: esegui Playground con le impostazioni date seguendo questa procedura:
- Fai clic sul pulsante Esegui/Metti in pausa:
- Guarda come cambiano i valori per la perdita di test e la perdita di addestramento.
- Quando i valori Perdita di test e Perdita di addestramento non vengono più modificati o cambiano solo una volta, premi di nuovo il pulsante Esegui/Metti in pausa per mettere in pausa Playground.
Nota il delta tra la perdita di test e la perdita di addestramento. Cercheremo di ridurre questo
delta nelle attività seguenti.
Attività 2:
- Premi il pulsante Reset.
- Modifica il Tasso di apprendimento.
- Premi il pulsante Esegui/Metti in pausa:
- Lascia funzionare Playground per almeno 150 epoche.
Il delta tra perdita di test e perdita di addestramento
è inferiore o superiore con questo nuovo tasso di apprendimento? Cosa succede se modifichi sia la frequenza di apprendimento sia le dimensioni del batch?
Attività facoltativa 3: un dispositivo di scorrimento con etichetta Percentuale di dati di addestramento
ti consente di controllare la proporzione tra i dati di addestramento e i dati di test. Ad esempio,
se la percentuale è impostata sul 90%, il 90% dei dati viene utilizzato per il set di addestramento, mentre il restante 10% viene utilizzato per il set di test.
Procedi nel seguente modo:
- Riduci la "Percentuale di dati di addestramento" dal 50% al 10%.
- Fai esperimenti con il tasso di apprendimento e le dimensioni del batch, prendendo nota dei risultati.
La modifica della percentuale dei dati di addestramento cambia le impostazioni di apprendimento ottimali che hai scoperto nell'attività 2? Se sì, perché?
Fai clic sull'icona Più in corrispondenza della risposta all'attività 1.
Con un tasso di apprendimento impostato su 3 (impostazione iniziale),
la perdita di test è molto più elevata rispetto alla perdita di addestramento.
Fai clic sull'icona Più in corrispondenza della risposta all'attività 2.
Riducendo il tasso di apprendimento (ad esempio, a 0,001), la perdita di test diminuisce a un valore molto più vicino alla perdita di addestramento. Nella maggior parte delle esecuzioni, l'aumento delle dimensioni di Batch non influenza in modo significativo la perdita di addestramento o la perdita di test. Tuttavia, per una piccola percentuale di esecuzioni, l'aumento della dimensione del batch a 20 o un valore superiore fa sì che la perdita di test scenda leggermente al di sotto della perdita di addestramento.
I set di dati di Playground vengono generati in modo casuale. Di conseguenza, le nostre
risposte potrebbero non essere sempre esattamente d'accordo con la tua.
Fai clic sull'icona Più in corrispondenza della risposta all'attività 3.
La riduzione della percentuale dei dati di addestramento dal 50% al 10% riduce drasticamente il numero di punti dati nel set di addestramento. Con così pochi dati, le elevate dimensioni del batch e l'elevato tasso di apprendimento fanno sì che il modello di addestramento salti caoticamente (saltando ripetutamente il punto minimo).
