L’intelligenza artificiale sbaglia… per coloro che lavorano nell’IT, una delle grandi sfide dell’IA è imparare a gestire gli errori.
Quando scriviamo codice in un ambiente deterministico, abbiamo imparato le tecniche di test e debug che ci aiutano a risolvere i problemi quando si presentano.
Il più delle volte, se la complessità del sistema su cui stiamo lavorando non è troppo grande, possiamo capire chiaramente cosa ha causato l ‘”errore” e trovare un rimedio.
L’intelligenza artificiale è un pò diversa
Quando forniamo una foto di un gatto a un sistema di intelligenza artificiale e chiediamo di confermare che si tratti effettivamente di un gatto, potremmo restare “stupiti” che il sistema ci dicesse che sta guardando la foto di un’ambulanza!
Come può sbagliare così tanto?
Risposta: è un problema vettoriale.
Immagina un vettore come un dito che punta a qualcosa.
Per alcune strane ragioni l’intelligenza artificiale sbaglia, ricevendo una foto di un gatto, dovrebbe puntare il dito al dominio del gatto invece punta il suo dito al dominio di un veicolo.
Questo probabilmente ha a che fare con la qualità e il numero di foto di gatti che usiamo per addestrare il nostro sistema per distinguere l’animale da un’auto.
Migliorare il nostro training set può aiutare a risolvere il problema.
A volte l’AI è ancora più complessa
Le macchine hanno un modo diverso di guardare alle cose.
Alcuni elementi di una fotografia che il nostro cervello è abituato a filtrare possono ingannare il sistema, provocando un cambio nella direzione del dito virtuale.
Se cambiamo alcuni elementi nello sfondo di un’immagine, l’occhio umano riuscirà a vedere ancora il gatto mentre il nostro dito virtuale si sposterà dai gatti ai veicoli.
Questi stessi criteri si applicano alla comprensione del linguaggio naturale.
Fortunatamente per noi, che costruiamo chatbot, un certo livello di “fraintendimento” può aiutare a rendere le nostre “macchine” un po ‘più “umane”. 🙂
