Le Facteur Humain

Les experts en cyber sécurité ont l'habitude d'insister sur le fait que, au-delà de la sophistication croissante des cyberattaques, le facteur humain est le principal problème auquel ils sont confrontés. Le plus souvent, c'est la décision d'une personne d'ouvrir un courriel, de transférer un message Whatsapp, d'accéder à un site web, de télécharger un fichier ou de cliquer sur un lien qui déclenche l'apocalypse de l'entreprise. Selon le rapport 2021 de CrowdStrike sur la cyber sécurité (https://www.crowdstrike.com/resources/reports/global-threat-report-es/ ), lorsqu'on aborde le problème du phishing, "le fondement psychologique de nombre de ces techniques [d'ingénierie sociale] consiste à exploiter les émotions et le comportement humains, dont les plus utiles sont la cupidité, la curiosité, la peur et le désir d'aider".

Le problème n'est ni nouveau ni limité à la cyber sécurité. Sur un ton moins grave que celui des attaques informatiques, l'expression "bug PEBKAC", permettait aux informaticiens de désigner les profanes des processeurs, de l'"OS" et de la "RAM" comme les coupables absolus du problème pour lequel ils avaient osé les appeler. PEBKAC signifie "Il y a un problème entre le clavier et la chaise", et qui occupe l'espace entre le clavier et la chaise - vous ! Le plus grand problème des êtres humains est, en général, l'existence même des êtres humains. Ce sont les décisions prises par les autres, les opinions et les actions des autres, leurs connaissances ou leur manque de connaissances, qui ont conduit à des événements désastreux tout au long de l'histoire, qui n'avaient rien à voir avec des "actes de Dieu", comme certains assureurs aiment appeler les catastrophes naturelles. Les décisions humaines, l'arrogance, la culture (ou l'absence de culture), les croyances et, comme nous le rappelle le rapport de CrowdStrike, la cupidité, la curiosité, la peur ou les bonnes intentions, sont les moteurs du progrès, des guerres, des catastrophes environnementales, de la misère et de bien d'autres choses encore.

Peut-être pour cette raison, ou parce qu'ils font partie du problème, les êtres humains ont cherché des moyens de ne pas assumer leurs propres responsabilités, de ne pas prendre en charge les problèmes qu'ils causent. Le modèle le plus récent que nous avons inventé en tant que "désistement" est l'IA, et pourtant les choses ne fonctionnent pas comme nous l'avions espéré. Comme pour les miroirs, le développement de l'IA nous a obligés à nous regarder plus que nous ne le faisions déjà pour comprendre comment nous fonctionnons dans la tentative malavisée de faire mieux fonctionner les machines, de leur faire faire ce que nous sommes incapables de faire nous-mêmes. Ainsi, les cas de transfert des préjugés humains aux machines dans la programmation de l'IA montrent à quel point nous sommes imprégnés de préjugés et de distorsions dans notre façon de voir le monde et de nous connaître.

Nous voulons que les machines se comportent avec l'éthique qui nous fait défaut, qu'elles prennent des décisions infaillibles sur la base de notre propre histoire d'erreurs, qu'elles sachent distinguer le bien du mal alors que nous ne connaissons pas encore les mécanismes par lesquels nous développons cette connaissance, qu'elles fassent ce qui est juste alors que nous sommes incapables d'identifier ce qui est le mieux pour chacun. Nous nous faisons des illusions en proclamant que les machines rendront le monde meilleur, qu'elles réaliseront ce que nous n'avons pas été capables de faire depuis des millénaires, qu'elles mettront fin aux inégalités, à la pauvreté et à la faim, et nous laissons le temps passer en jouant avec les neuroprocesseurs, le silicium et l'apprentissage automatique, parce que nous continuons à nous convaincre que la solution à nos problèmes se trouve en dehors de nous. D'une manière ou d'une autre, la conclusion est que si le facteur humain est la cause des problèmes, l'éliminer entièrement du processus décisionnel est la panacée qui nous sauvera. Franchement, dans certains cas, il y aura ceux qui croient avec toutes leurs bonnes intentions qu'il en est ainsi, dans d'autres cas, c'est l'ambition pure et simple, l'attente d'un business froid et lucratif, qui permet au rôle rédempteur de la machine de s'infiltrer dans l'esprit de ceux qui s'attendent à ce que tout change parce que, tout simplement, la seule façon dont le monde changera est si l'humain change, pas les machines, l'humain ; Pour dire les choses simplement, le seul moyen pour que le monde soit meilleur est que les êtres humains, que nous soyons de meilleures personnes ; pas de meilleurs ingénieurs, pas de meilleurs économistes, pas de meilleurs avocats, pas de meilleurs médecins, pas de meilleurs banquiers, pas de meilleurs artistes, pas de meilleurs politiciens. ... juste de meilleures personnes.

Fátima Gordillo