On dit toujours qu’il est difficile d’auditer des algorithmes parce qu’ils sont protégés par le secret et qu’ils sont compliqués… Mais quand on met à charge la personne qui utilise les algorithmes, c’est à elle qu’incombe la charge de la preuve pour montrer que sa décision n’est pas discriminatoire, par exemple.
Cela risque d’être assez dissuasif : par exemple, les employeurs qui s’appuient sur un algorithme pour embaucher vont y réfléchir à deux fois. Ils vont devoir faire appel à des ingénieurs, et ces derniers devront ouvrir la boîte noire pour l’expliquer…
Source : « Au moins, dans un système totalitaire, on sait à quoi on a affaire » – Rue89 – L’Obs
