Un aperçu de l’IA discutable du chatbot de la mairie de New York City

Le chatbot de la mairie de New York City alimente la disinformation

Le monde de la technologie a salué avec admiration la conception du chatbot IA de la mairie de la ville de New York, conçu pour aider les entrepreneurs à accéder à des informations. Cependant, l’outil technologique n’a pas pu tenir ses promesses. Il a récemment été découvert que le chatbot délivre des informations incorrectes et trompeuses sur plusieurs sujets sensibles, notamment des politiques de logement et les droits des travailleurs, remettant en question son utilité et sa fiabilité.

Moteur Microsoft et sources gouvernementales peu fiables

Le chatbot, une composante du portail MyCity lancé par l’administration du maire Adams en octobre, était supposé être une source d’information fiable. Cependant, la réalité se révèle tout autre. Alimenté par l’Azure AI de Microsoft, et puisant des informations sur les sites officiels de la mairie de New York City, le chatbot délivre malgré cela des réponses incorrectes sur des points essentiels comme la légalité des magasins sans espèces, les droits des employeurs de prélever les pourboires des travailleurs, ou encore la possibilité pour les propriétaires d’accepter ou non des bons de la section 8. Un constat accablant, poussant certains experts à qualifier le chatbot de « périllement inexact ».

Réclamations de précisions sur le fonctionnement et l’efficacité du chatbot

Le chatbot, encore dans sa phase pilote, comporte un avertissement sur le site internet notant qu’il peut parfois produire du contenu biaisé ou nuisible. D’un autre côté, le bureau technologique et d’innovation de la ville de New York a déclaré que le chatbot est un travail en cours et prétend qu’il a fourni des réponses exactes à des milliers d’utilisateurs. Cependant, les erreurs importantes et répétées signalées soulèvent de graves préoccupations quant à la fiabilité du chatbot, et à son potentiel de désinformation, en particulier sur des questions critiques affectant les petites entreprises de la ville de New York.

En outre, certaines réponses du chatbot ont été signalées pour avoir fourni des informations contraires aux lois et réglementations véritables en vigueur dans la ville. Un exemple frappant est son assertion erronée que les magasins sans espèces sont autorisés dans la ville de New York. Les pratiques ou affirmations contraires aux lois en vigueur peuvent avoir des conséquences dévastatrices, en particulier pour les entrepreneurs qui se fient à ces informations pour prendre des décisions clés.

Face à ces inadéquations, la ville de New York a souligné la nécessité d’améliorations constantes du chatbot pour garantir que les utilisateurs disposent d’informations précises et fiables. En attendant, les utilisateurs sont invités à prendre les informations fournies par le chatbot avec prudence, surtout quand il s’agit de sujets cruciaux réglementés par la loi.