1. Nei problemi di classificazione binaria, si deve determinare se un dato appartiene o non appartiene ad una certa categoria
2. Nei problemi di classificazione multipla, si deve determinare a quale categoria appartiene il dato tra le categorie disponibili

Questo tipo di problemi si risolvono meglio se la rete neurale (di tipo feed forward) possiede tanti neuroni di output quante sono le categorie desiderate. In questo modo si attiverà solo l'uscita della categoria individuata.

Poiché i dati di input ammettono rappresentazione con separazione lineare, non sono necessari hidden layer. La rete non ha bisogno di hidden layer, basta un output layer con funzione di attivazione a gradino (step)

Tipi di addestramento

• perceptron (soluzione garantita)
• adaline o delta rule o LMS rule, anche per multi layer

Di solito ci devono essere tanti neuroni di output quante sono le categorie, il dato apparterrà alla categoria indicata da una certa uscita della rete, quella che produce un output maggiore. Oggi si tende ad utilizzare la funzione attivazione softmax che produce in uscita valori sempre minori di uno, e tali che la loro somma faccia uno (quindi conosco la probabilità con cui un dato appartiene ad una certa categoria).

In alcuni casi le categorie in cui vanno classificati i dati hanno dei criteri o delle specifiche indipendenti tra loro e il problema si può ricondurre ad un certo numero di classificazioni binarie

Nel caso in cui questo non sia possibile:

In pratica dovrebbe essere equivalente a dire non ammette “separazione lineare” dato che non si possono separare graficamente con una retta.

• Se devo individuare un'area chiusa nel piano, uso 5 neuroni in tutto (1 hidden layer con 2 neuroni)
• Se devo individuare due aree separate nel piano, uso 7 neuroni in tutto (2 hidden layer con 2 neuroni)

In questi ultimi due casi non c'è un modo semplice per calcolare i pesi….. ????

Soluzione : vector quantization

Support vector machine??