Le ministre des Communications et des Technologies numériques, Solly Malatsi, s'est adressé mardi à la commission du portefeuille du Parlement, expliquant une chaîne d'événements qui a fait reculer de plus d'un an le programme de gouvernance de l'IA du pays et déclenché la suspension de deux responsables ministériels.
Le ministre des Communications et des Technologies numériques, Solly Malatsi, s'est adressé mardi à la commission du portefeuille du Parlement, expliquant une chaîne d'événements qui a fait reculer de plus d'un an le programme de gouvernance de l'IA du pays et déclenché la suspension de deux responsables ministériels.
L'Afrique du Sud a retiré son projet de politique nationale en matière d'intelligence artificielle après que les références dans le document n'ont pas pu être vérifiées et ont été liées à des hallucinations générées par l'IA, une crise de crédibilité que le gouvernement admet avoir découverte seulement après que les médias en ont fait état pour la première fois.
Le ministre des Communications et des Technologies numériques, Solly Malatsi, s'est adressé mardi à la commission du portefeuille du Parlement, expliquant une chaîne d'événements qui a fait reculer de plus d'un an le programme de gouvernance de l'IA du pays et déclenché la suspension de deux responsables ministériels.
« Lorsqu'il est devenu clair pour le ministère, surtout après l'exposé de News24, qu'au moins jusqu'à un maximum de six références dans la politique étaient attribuées à des hallucinations d'IA, nous avons immédiatement pris contact en interne avec le DG et les fonctionnaires qui avaient travaillé sur la politique pour établir la véracité de l'allégation. »
– Solly Malatsi, ministre des Communications et des Technologies numériques, Afrique du Sud
Le ministre a reconnu que l'incident avait porté atteinte à la crédibilité du document et du processus plus large d'élaboration des politiques gouvernementales. Il a déclaré que le retrait du projet était nécessaire pour protéger l'intégrité du processus et restaurer la confiance du public.
Il a décrit la cause profonde comme étant un grave échec de la surveillance.
« Il y a eu une surveillance massive et une non-divulgation autour de l’utilisation de l’IA dans la formulation de la politique – et surtout dans les références. »
– Solly Malatsi, ministre des Communications et des Technologies numériques, Afrique du Sud
Deux fonctionnaires ont depuis été suspendus par mesure de précaution tandis qu'une enquête formelle détermine comment les citations hallucinées ont été transformées en un document approuvé par le Cabinet.
Malatsi a reconnu que les références fabriquées de toutes pièces avaient causé des dommages qui allaient bien au-delà des notes de bas de page.
« Ces références à des hallucinations de l'IA font une tache majeure. Elles posent un point d'interrogation très important sur la crédibilité du document tel qu'il est. »
– Solly Malatsi, ministre des Communications et des Technologies numériques, Afrique du Sud
Malatsi a en outre révélé que les fonctionnaires impliqués dans le processus de rédaction avaient été suspendus par mesure de précaution pendant que le département menait une enquête interne sur la manière dont les erreurs avaient été introduites et pourquoi elles n'avaient pas été identifiées plus tôt. Il a souligné que le processus respecterait les réglementations de la fonction publique et du travail afin de garantir l'équité et la régularité de la procédure.
Dans le cadre des mesures correctives, le Département des communications et des technologies numériques a mis en place un comité consultatif sur l'IA composé d'experts en gouvernance de l'intelligence artificielle et du monde universitaire. Le comité examinera le document de politique, authentifiera ses références et guidera le département tout au long de la prochaine phase du processus de rédaction. Le panel est présidé par le professeur Benjamin Rosman, directeur de l'Institut d'intelligence artificielle et de découverte neuronale (MIND) de l'Université de Wits, et comprend le professeur Vukosi Marivate, le professeur Alison Gillwald, le Dr Jabu Mtsweni, le Dr Tshepo Feela, l'avocat Lufuno Tshikalange et l'avocate Heather Irvine.
Le ministre a déclaré que le comité consultatif devrait finaliser son mandat dans les semaines à venir et commencer à travailler sur une feuille de route révisée pour la politique. Le gouvernement vise à produire un résultat final en matière de politique en matière d'IA avant la fin de l'exercice en cours, bien que Malatsi ait noté que les processus ministériels et les délais de consultation publique influenceraient le calendrier final.
