Un chatbot basato sull’intelligenza artificiale, rilasciato dal governo della città di New York con l’intento di fornire supporto ai proprietari di attività commerciali, è stato al centro delle polemiche per aver diffuso informazioni inaccurare. Secondo un rapporto pubblicato da The Markup, in collaborazione con le organizzazioni non profit locali Documented e The City, il chatbot ha fornito risposte erronee su una serie di questioni, inclusi diritti dei lavoratori e politiche abitative.
Il chatbot è stato introdotto nell’ottobre scorso come parte del portale MyCity, lanciato nel marzo 2023 come una risorsa centralizzata per i servizi e i benefici offerti dalla città. Alimentato dall’intelligenza artificiale di Microsoft Azure, il chatbot è stato promosso come una fonte affidabile di informazioni direttamente provenienti dai siti governativi della città. Tuttavia, secondo il rapporto, il chatbot è risultato impreciso in molte delle sue risposte.
Tra gli esempi forniti nel rapporto, il chatbot ha erroneamente indicato che i negozi possono operare senza accettare contanti, nonostante un divieto vigente dal 2020 a New York City. Allo stesso modo, ha fornito informazioni errate su questioni quali la trattenuta delle mance da parte dei datori di lavoro, l’accettazione dei voucher del programma section 8 da parte dei proprietari di immobili e l’obbligo per le imprese di informare il personale sui cambiamenti di programmazione.
Un esperto di politiche abitative intervistato da The Markup ha definito il chatbot “pericolosamente impreciso” e ha evidenziato il rischio che le informazioni errate possano avere conseguenze dannose per i cittadini.
In risposta alle critiche, l’amministrazione del sindaco Adams ha sottolineato che il chatbot è ancora in fase di sviluppo e che sono state prese misure per garantire la trasparenza e l’affidabilità delle informazioni fornite. Leslie Brown, portavoce dell’Ufficio per la Tecnologia e l’Innovazione di NYC, ha dichiarato che il sito avvisa chiaramente gli utenti del fatto che si tratta di un prodotto pilota beta e li esorta a verificare le risposte fornite tramite i link forniti.
Nonostante le critiche, Brown ha sottolineato che il chatbot ha già aiutato migliaia di persone a ottenere risposte accurate e tempestive e che l’ufficio continuerà a lavorare per migliorare il servizio al fine di sostenere meglio le piccole imprese della città.
Resta da vedere se le azioni correttive adottate dall’amministrazione saranno sufficienti a ristabilire la fiducia nel chatbot e a garantire che le informazioni fornite siano affidabili e precise per tutti i cittadini di New York City.
