Débat sur : "l'intelligence artificielle : enjeux politiques, stratégiques et économiques"

M. le président. La parole est à M. Jean-Yves Roux.

M. Jean-Yves Roux. Les usages de l'intelligence artificielle et des algorithmes qui y président sont multiples, croissants et, dans bien des cas, invisibles et incompréhensibles pour le commun des mortels.

Parmi les usages les plus emblématiques, je citerai les fils d'actualité des réseaux sociaux. Or ces réseaux constituent pour les jeunes de 15 ans à 34 ans les vecteurs d'information principaux dans plus de 70 % des cas.

Les algorithmes qui régissent les réseaux sociaux et les mécanismes de traitement des données associées nourrissent tous les fantasmes et autorisent des manipulations d'opinion. Pour reprendre un propos de Tristan Mendès France, maître de conférences à la Sorbonne, spécialiste des nouveaux médias, « les algorithmes accentuent, non pas ce qui est vrai, mais ce qui est choquant, ce qui est clivant ».

Le rapport de la Commission nationale de l'informatique et des libertés de décembre 2017 sur les algorithmes à l'heure de l'intelligence artificielle posait déjà la question en ces termes : comment permettre à l'homme de garder la main ? J'ajouterai : comment le citoyen, la démocratie, la République peuvent-ils garder la main ?

Là où le débat public, le débat démocratique, la Constitution, la République posent des règles – l'égalité hommes-femmes, des principes non discriminatoires, le respect de la vérité –, la fabrique de l'opinion pour les jeunes générations s'opère très majoritairement dans un espace dérégulé, international, dans lequel la réalité peut être distendue.

Aristote disait que le progrès ne vaut que s'il est partagé par tous. Monsieur le secrétaire d'État, quelle stratégie comptez-vous proposer pour mettre à l'œuvre des usages éthiques et régulés de l'intelligence artificielle dans le secteur de l'information ?

M. le président. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie et des finances et du ministre de l'action et des comptes publics, chargé du numérique. La première question à régler aujourd'hui – et cela fera partie, je pense, du programme de travail de la prochaine Commission –, avant même la régulation, est celle de la transparence.

Aujourd'hui, l'État, ou la puissance publique, n'est pas capable de dire pourquoi on voit telle information, comment ces informations sont hiérarchisées, et comment on décide de montrer telle information à telle personne. C'est une boîte noire, même si nous avons fait quelques progrès.

La première chose à faire, c'est d'obliger ces entreprises à nous dire comment elles traitent l'information, afin que nous, ou des organismes de contrôle d'ailleurs, puissions voir si cela pose problème. Si ces entreprises se politisaient et décidaient de soutenir quelqu'un, nous ne le saurions même pas, puisque je ne vois pas la même chose que vous sur mon fil d'actualité.

La question de la transparence est la mère de toutes les batailles.

D'abord, il faut comprendre ce qui se passe pour chaque personne et pour chaque profil.

Ensuite se pose la question de la régulation, qu'il ne faut d'ailleurs pas prendre uniquement dans le sens de l'information. La proposition de loi de la députée Laetitia Avia arrive au Sénat, et nous aurons l'occasion de débattre des contenus haineux. Le Gouvernement propose un certain nombre de mécanismes pour imposer des obligations aux plateformes et vérifier qu'elles les respectent.

La question de l'information est encore plus sensible, puisque la liberté de la presse impose certains cadres. Nous devons avoir un débat de société sur ce sujet.

Pour conclure, tout ce que nous avons pu lire sur la manipulation de l'information montre que le nœud du problème se situe dans la capacité à former nos jeunes et nos moins jeunes à l'esprit critique. Nous devons traiter cette question extrêmement importante avec l'éducation nationale ; le Sénat ou l'Assemblée nationale pourrait également s'en saisir.