Una startup derivata dal MIT ha sviluppato una nuova intelligenza artificiale progettata per riconoscere e dichiarare quando non possiede informazioni sufficienti per rispondere a una domanda, affrontando così il problema delle "allucinazioni" nei modelli linguistici.
Le "allucinazioni" si riferiscono a risposte generate dall'AI che sembrano plausibili ma sono in realtà errate o inventate. Questo fenomeno rappresenta una sfida significativa per l'affidabilità dei sistemi di intelligenza artificiale, specialmente in contesti critici come la medicina o il diritto.
La nuova AI sviluppata dalla startup del MIT introduce un meccanismo che le consente di ammettere l'incertezza, rispondendo con un "non lo so" quando non è sicura della risposta. Questo approccio mira a migliorare la trasparenza e la fiducia degli utenti nei confronti dell'intelligenza artificiale.
Secondo gli sviluppatori, insegnare all'AI a riconoscere i propri limiti è un passo fondamentale per ridurre la diffusione di informazioni errate e per promuovere un uso più etico e responsabile della tecnologia.