In India l’Intelligenza Artificiale ha dichiarato decedute migliaia di persone, privandole dell’assistenza alimentare e delle pensioni.

L’India utilizza l’IA già su larga scala, incrociando dati per evitare frodi e soprattutto sugli aiuti alimentari. Già da alcuni anni sono stati introdotti degli algoritmi che identificano le persone che potrebbero richiedere, con l’inganno, i benefici sociali. Si stima che l’India ha programmi di aiuto alimentare estesi e importanti, in particolare per le fasce più povere dello stato.

Nello stato di Telangana (India) migliaia di persone hanno perso il sussidio per ricevere cibo a causa di un mix esplosivo di dati scorretti e algoritmi non verificati, perché ritenute prive dei requisiti di accessibilità.

Inoltre, lo si apprende da Asianews, nello Stato indiano di Haryana, il governo ha sviluppato un algoritmo che, per errore, anziché verificare l’idoneità dei soggetti richiedenti i servizi di welfare e pensioni, li ha praticamente dichiarati per “morti” quando nella realtà erano vivi. Un errore che ha bloccato la pensione a migliaia di cittadini.

Prima i controlli venivano effettuati personalmente, casa per casa, ora sono stati ridotti e questa mancanza non è stata accompagnata da una riorganizzazione tesa a garantire un controllo e un monitoraggio dell’affidabilità dei sistemi informatici.

E’ inconcepibile affidarsi esclusivamente agli algoritmi e all’analisi dei dati tramite l’Intelligenza Artificiale, senza il controllo umano.

Si deve riflettere sulle opportunità dell’Intelligenza Artificiale che non sempre è infallibile, in particolare per quanto riguarda le fasce sociali più fragili.