L’intelligence artificielle est devenue omniprésente dans nos sociétés. Elle influence des décisions qui façonnent notre existence : qui obtient un prêt bancaire, qui est embauché, qui reçoit des allocations, comment on nous soigne. Ces enjeux touchent chaque citoyen, chaque famille. Mais derrière ces systèmes sophistiqués se pose une question fondamentale : qui en assume vraiment la responsabilité quand les choses tournent mal ?
Les experts du secteur eux-mêmes sonnent l’alarme. Jakub Pachocki, chef scientifique d’OpenAI, a appelé en septembre à l’instauration de seuils de sécurité obligatoires pour le développement continu de l’IA, avec un contrôle effectif par des auditeurs externes, les gouvernements ou des organismes internationaux. De son côté, Anthropic a annoncé en septembre avoir neutralisé des utilisations malveillantes de ses modèles, notamment dans des opérations cybernétiques, la surveillance et la fraude. Ces avertissements ne viennent pas de militants technophobes, mais des créateurs eux-mêmes. Ils méritent qu’on les écoute.
L’IA recèle un potentiel extraordinaire pour le bien. Elle peut améliorer les diagnostics médicaux, rendre le savoir plus accessible et simplifier les services publics. Mais il faut être lucide : traiter des données et identifier des schémas ne garantissent jamais une décision correcte ou juste. Un système peut paraître objectif tout en reproduisant les biais et discriminations du passé. Les données historiques sur lesquelles on l’entraîne contiennent souvent des erreurs, des lacunes, des injustices accumulées. Quand cet algorithme décide qui obtient un crédit ou un emploi, ces défauts ne sont plus abstraits. Ils deviennent des vies brisées.
L’histoire du détective Robert Williams l’illustre douloureusement. En janvier 2020, la police de Détroit l’a arrêté à tort, sur la base d’une correspondance faciale incorrecte fournie par un système de reconnaissance faciale. Il a passé environ 30 heures en détention avant que l’erreur soit découverte. Son cas montre comment une faille technologique peut se transformer en atteinte à la liberté humaine. L’American Civil Liberties Union, qui l’a représenté, a documenté ce qui arrive quand on délègue des décisions cruciales à des machines sans mécanisme de recours.
Plus récemment, en 2024, le Tribunal de la résolution civile de Colombie-Britannique a ordonné à Air Canada de dédommager un passager. Le chatbot de la compagnie lui avait fourni des informations inexactes concernant les tarifs de deuil. Bien que l’erreur provienne du système automatisé, la responsabilité demeurait celle d’Air Canada, qui avait mis ces informations en ligne. Ce précédent judiciaire envoie un message clair : la technologie ne vous dédouane pas de vos obligations envers vos clients.
Les Pays-Bas offrent une leçon encore plus grave. Le scandale des allocations pour services de garde révèle les dangers d’un filtrage discriminatoire sans véritable responsabilité institutionnelle. L’autorité néerlandaise de protection des données a découvert que l’administration fiscale avait traité les données de nationalité des demandeurs de manière illégale et discriminatoire. Cela a ruiné des familles, détruit des réputations. Qualifier de simples « erreurs techniques » des défaillances aussi systémiques, c’est esquiver la responsabilité des institutions qui ont déployé ces outils.
L’IA générative ajoute une couche de complexité nouvelle. Elle peut générer du texte, des images et des voix convaincants mais parfaitement faux. Les risques d’usurpation d’identité, de fraude et de manipulation du débat public explosent. Les citoyens ont besoin de moyens pratiques pour vérifier ce qu’ils voient et entendent. Il ne suffit plus de faire confiance à première vue.
Dans l’éducation, les promesses de l’IA sont réelles. Elle peut adapter les exercices au rythme de chaque élève, expliquer des concepts difficiles, ouvrir l’accès au savoir à des régions du monde moins bien dotées. Mais une dépendance excessive peut transformer une réponse persuasive en ersatz du véritable apprentissage. Les étudiants doivent apprendre à interroger le système, à vérifier ses réponses, à déclarer comment ils l’ont utilisé. Les enfants, eux, ont besoin de protection contre une collecte de données excessive et une dépendance à des outils automatisés qui pourraient entraver leur développement critique.
Ce qui se dessine progressivement, c’est un consensus : l’intelligence artificielle doit rester sous contrôle humain. Derrière chaque décision importante doit se trouver une personne ou une institution accountable, responsable. Ceux qui sont affectés par ces décisions ont le droit d’obtenir des explications claires, d’être protégés par des garde-fous juridiques, et de disposer d’un vrai mécanisme d’appel.
Pour Israël, nation pionnière en matière d’innovation technologique et de cybersécurité, ces questions ne sont pas théoriques. Elles sont urgentes et pratiques. Comment nos startups de défense, nos sociétés fintech, nos hôpitaux modernes vont-ils intégrer l’IA tout en respectant l’intégrité et la dignité humaine ? La réponse exige vigilance, cadre légal clair, et surtout une certitude inébranlable : la machine aide, mais c’est l’homme qui décide et répond.
[signoff]
