Confiance artificielle

Quatre mots tapés dans un générateur d’images ont produit, dimanche, une femme presque nue. La question n’est pas ce que la machine pense des femmes. C’est ce qu’elle apprendra à nos enfants à appeler « une femme ».

En quelques semaines, les agents qui agissent avec nos comptes sont passés des passionnés de technique aux géants du numérique. Leur fonctionnement a peu changé. Ce qui a changé, c’est la marque sur la porte, et avec elle notre disposition à l’ouvrir.

Les professionnels indépendants financent chaque année leur propre formation, et beaucoup ne s’en servent jamais. À l’heure où l’IA rend chaque compétence plus vite périssable, ce budget oublié dit quelque chose de la façon dont nous apprenons désormais.

Falsifier une image a longtemps exigé un appareil d’État. Aujourd’hui, cela tient dans un téléphone, et la preuve a changé de place : elle n’est plus dans l’image, elle est dans la source.

Les dirigeants de la tech rationnent chez eux les écrans qu’ils vendent aux autres. On peut y voir de l’hypocrisie. J’y vois surtout une information, et un renversement de ce qu’on appelait le progrès.

Le 23 septembre, les patrons de l’IA ont demandé au Conseil de sécurité de les encadrer. Ce que ce renversement dit de l’époque, ce qu’il ne dit pas encore, et la phrase à en garder.

Nous surveillons ce que l’IA fait à notre place. Nous regardons moins ce qu’elle supprime au passage, et qui ne figurait sur aucune fiche de poste.

On redoute une IA qui déciderait à notre place. Le risque le plus immédiat est ailleurs : une zone de confort qui décide pour nous, et qui tend volontiers le volant.

Nous avons passé trois ans à demander ce que les modèles savent faire. Pendant ce temps, ils ont cessé d’être des sites que l’on visite pour devenir des logiciels que l’on ouvre le matin.

Depuis une semaine, une question circule : sommes-nous entrés dans l’ère de l’AGI ? Elle est mal posée, et la bonne question ne parle pas de la machine.