Blog

Jun 22, 2023

L’IA dans les achats municipaux : 5 pièges à éviter

Alors que les administrations municipales envisagent d’intégrer des technologies émergentes telles que l’intelligence artificielle (IA) dans leurs systèmes, leur utilisation dans leurs procédures de passation de marchés doit être soigneusement étudiée. IA

Alors que les administrations municipales envisagent d’intégrer des technologies émergentes telles que l’intelligence artificielle (IA) dans leurs systèmes, leur utilisation dans leurs procédures de passation de marchés doit être soigneusement étudiée. L’IA est un nouvel outil puissant qui peut être bénéfique, mais qui pose également des problèmes d’éthique et de sécurité auxquels les agences publiques devront faire face. Voici cinq pièges potentiels à éviter lorsque vous envisagez d’utiliser l’IA pour les achats : pour les achats :

1.Dépendance à la technologie : L’utilisation de l’IA dans les achats peut augmenter considérablement l’efficacité et rationaliser les processus. Par exemple, il peut être utilisé pour rédiger des spécifications pour des sollicitations simples ou évaluer des offres, réduisant ainsi le temps et les ressources nécessaires. Cependant, les informations produites par l’IA ne sont pas toujours exactes, de sorte que les responsables municipaux qui dépendent trop de cette technologie peuvent entraîner des erreurs potentielles dans le processus de passation des marchés. Quelle que soit la précision d’une spécification écrite par l’IA, elle nécessite toujours un personnel d’approvisionnement compétent pour l’évaluer par rapport aux exigences spécifiques de la ville avant sa publication.

2. Problèmes de sécurité : L'IA peut contribuer à améliorer la sécurité des achats en tirant parti des algorithmes d'apprentissage automatique et de l'analyse des données en temps réel pour identifier les vulnérabilités potentielles des achats de technologies de l'information (TI). La détection des problèmes potentiels liés aux achats informatiques peut permettre aux villes de répondre de manière proactive à tout problème de cybersécurité qui autrement aurait pu passer inaperçu. Cependant, les outils basés sur l’IA ne sont pas dépourvus de vulnérabilités, et les cybercriminels expérimentés peuvent les exploiter, ce qui peut potentiellement entraîner des menaces de sécurité. Les services informatiques de la ville doivent travailler avec le personnel des achats pour mettre en œuvre des mesures de sécurité robustes afin de protéger les informations sensibles et de garantir l'intégrité des systèmes de la ville.

3.Préjugés et discrimination: Malheureusement, parce que les outils basés sur l’IA sont programmés par des êtres humains imparfaits avec des préjugés conscients et inconscients, ils peuvent perpétuer une discrimination contraire à l’éthique en matière d’approvisionnement. Certains algorithmes peuvent être programmés avec des biais reflétant des préjugés sociétaux, géographiques ou économiques, conduisant à un traitement injuste de certains fournisseurs ou produits. Par exemple, si une sollicitation générée par l’IA est ouverte aux fournisseurs de n’importe quelle zone géographique, mais que le responsable des achats n’examine pas les spécifications pour inclure ces informations, les fournisseurs potentiels situés au-delà des limites de la ville peuvent croire à tort que leurs offres ne seront pas prises en compte. Les responsables des achats de la ville doivent examiner attentivement tout ce qui est généré par l'IA pour s'assurer que tous les achats respectent les normes éthiques de leur ville.

4. Dépassements de coûts : L’utilisation de l’IA peut conduire à des économies significatives en aidant le personnel des achats à identifier des solutions plus rentables au cours du processus d’étude de marché. Cependant, cela peut également entraîner des dépassements de coûts s’il n’est pas correctement géré. Les outils basés sur l’IA peuvent recommander des solutions qui peuvent sembler moins coûteuses au départ, mais qui peuvent ne pas être rentables à long terme. Les outils basés sur l'IA ne considèrent pas que certaines solutions entraînent des dépenses de maintenance ou de mise à niveau qui seront nécessaires à mesure que la technologie progresse. Prenez l'iPhone par exemple. Les premières itérations d'iPhone ne seraient pas capables d'exécuter le dernier iOS, donc l'utilisation continue de ces produits nécessiterait une mise à niveau matérielle. Les responsables des achats de la ville doivent évaluer soigneusement les recommandations de l’IA pour s’assurer qu’elles correspondent à leur budget et à leurs objectifs en matière d’approvisionnement.

5. Manque de compréhension : L’IA en tant qu’outil quotidien est encore relativement nouvelle et en constante évolution. Il y a beaucoup de choses que même les premiers utilisateurs ne comprennent pas. Étant donné que les nouvelles technologies ont tendance à être adoptées un peu plus lentement dans le domaine des marchés publics, le personnel municipal chargé des achats peut ne pas avoir les connaissances nécessaires pour utiliser efficacement l’IA. Les algorithmes d’IA peuvent être difficiles à interpréter, même par les utilisateurs les plus férus de technologie, et le personnel des achats n’a peut-être tout simplement pas le temps, au quotidien, de comprendre en profondeur leur fonctionnement. Les administrations municipales devraient concevoir et mettre en œuvre des programmes de formation approfondis avant d’intégrer des outils basés sur l’IA ou des documents générés par l’IA dans leurs politiques, procédures et publications.