Quand c’est l’ordinateur qui décide

Le reportage du 13 novembre au Téléjournal de Radio-Canada concernant le décès d’un enfant en raison d’une faute commise par un logiciel nous interpelle au plus haut point. Le petit Thomas Audet est décédé à 22 mois, faute d’avoir eu un suivi adéquat à la suite d’un signalement.

Déjà en septembre 1997, nous nous sommes plaints de l’usage de systèmes informatisés pour prendre les décisions à la place des fonctionnaires. Nous constations qu’il n’y avait plus de place pour peser les circonstances individuelles et faire justice à chaque cas selon ses particularités.

Lorsqu’un système d’aide est géré par l’informatique, il s’ensuit un manque de flexibilité et de jugement. Les fonctionnaires deviennent des robots qui n’ont que des formulaires à cocher et c’est le système ensuite qui tire une conclusion.

Le cas qui a été rapporté au Téléjournal est troublant puisque cet enfant est décédé, faute d’avoir eu un suivi adéquat. Après qu’un fonctionnaire ait rempli un formulaire à choix multiples, le logiciel avait conclu qu’il n’était question que de négligence de la part des parents et qu’ainsi, le risque était faible et que l’enfant n’avait besoin que de surveillance. Pourtant, l’enfant avait des lacérations et des fractures et il aurait fallu conclure à un niveau d’intervention urgent.

Voilà ce qui se produit quand le sort des individus est laissé dans les mains des ordinateurs. Il a fallu des interventions de notre part pour que les fonctionnaires du ministère du Développement social cessent de dire aux gens: «L’ordinateur ne veut pas» ou bien: «L’ordinateur va me dire quand je pourrai te le donner», jetant ainsi la faute sur les ordinateurs.

Dans le cas présent, de l’avis du grand-père de l’enfant, il aurait fallu donner suite immédiatement au signalement parce que l’enfant était en état de grande vulnérabilité, ce que le logiciel n’était pas en mesure de détecter.

Claude Snow
Comité des 12