Le salon géopolitique de Passion-Histoire

Je suis bien conscient que l'IA va bouleverser le monde pour la prochaine génération que l'informatique l'a fait pour la nôtre. J'ai lu que l'IA (je ne sais plus laquelle) bat régulièrement des jours de go, ce qui me paraît un bel exploit, mais cela pose queques interrogations.

Il est évident que l'IA va détruire des emplois, dans quelle mesure ? Il est probable que ce seront les tâches répétitives, mais demandant un peu de jugeotte qui disparaîront en premier.La destruction crétrice de Schumpeter va jouer à plein. La machine à vapeur a permis des évolutions considérables et allégé le fardeau du travail humain. On peut même imaginer que dans un temps proche, la justice serait rendue par IA. Cela réduira probablement le temps de travail de la plupart des gens.

Mais, car il y a toujours un mais, je m'inquiète du pouvoir que l'Etat pourrait avoir sur chacun par l'intermédiaire de cette invention. Un ami journaliste, un bon, Yann de l'Ecotais avec qui j'ai fait pas mal de randonnée à cheval me disait en 1974 que nous étions à la veille d'une révolution technologique jamais vue dans l'histoire de l'humanité, et nous voyons tous les jours les connaissances qu'ont les autorités de nos personnes, des gens que nous fréquentons, des trajets que nous faisons et une foultitude de choses qui ne me viennent pas immédiatement à l'esprit.

Pour l'instant, ce n'est que le début et je n'en verrai pas la fin, déjà que je pense que mes grands-parents étaient plus libres que nous, je n'ose imaginer ce que fera l'IA dans de mauvaises mains. Dans une véritable démocratie, cela ne peut être que positif, mais sommes nous dans une véritable démocratie ?

https://www.youtube.com/watch?v=TdSx-mBrXfg

Pas mal de monde oublie un point essentiel : l'IA est un outil. Un outil très puissant, si on sait l'utiliser, mais ça reste un outil. Et... et il y a plusieurs limites.

Un petit exemple, pas mal de constructeurs américains sont tentés par une robotisation complète de leurs lignes de fabrication. Si on réfléchit au moyen de faire cela, on a la solution d'ingénieur : réaliser des lignes de production totalement optimisées et autonomes. Mais, tous sont en train de choisir la solution la plus simple, et la plus économique : remplacer les ouvriers humains par des robots humanoïdes. Si on y regarde de plus près, ce n'est pas une excellente solution, c'est juste la solution qui permet de dépenser moins aujourd'hui, même si elle entraine des dépenses globales plus grandes que la solution des ingénieurs.

Et, en fait, c'est la même chose pour la numérisation et la mise en place des IA. On les utilise rarement à bon escient. Oui, elles pondent des rapports plus vite qu'un groupe d'expert. Mais, en quelques minutes, on y trouve de très grosses bourdes. Quelle est la base des problèmes ? Les IA dont on parle le plus, de type ChatGPT ont été faites dans le but de donner une réponse satisfaisante quand on leur pose une question. Pas de donner la bonne réponse. Il y a des IA qui en sont capables, mais il faut des gens qui savent leur poser la bonne question.

C'est clairement explicité par le fait qu'on a des programmes qui ont accès à l'ensemble du savoir humain, et ces programmes, quand on leur fait passer une épreuve comme le baccalauréat, n'obtiennent pas un prix d'excellence ! Un élève moyen qui aurait accès aux mêmes données fait donc aussi bien qu'elles. Et avec une consommation énergétique bien inférieure. Car c'est l'autre écueil des IA / elles sont très énergivores. On a même calculé qu'on n'a pas les moyens de produire assez d'énergie pour répondre aux besoins si on les déploie massivement.

Alors, oui, il y a beaucoup d'artisans qui les utilisent pour faire leur secrétariat et leur comptabilité. Ce sont des IA limitées et qui fonctionnent très bien. Il y a des médias qui commencent à leur faire faire des petits articles, ceux qu'on laissait aux pigistes. Même si parfois, on y décèle quelques bourdes. Réaliser des films ou des séries… Pas tout de suite. Produire de la musique de basse qualité pour des usages commerciaux, ça peut aller. Mais il ne faut pas que votre chef ait l'oreille musicale, car il pourrait tiquer lorsque vous lui passerez la "merveilleuse" chanson faite express pur son départ en retraite.

En fait, c'est souvent l'alliance humain-IA qui a les meilleurs résultats. Les IA détectent mieux de touts petits cancers sur les IRM. Mais, il y a beaucoup de faux positifs. Une fois qu'on fait controler les cas douteux par un humain, on atteint presque les 100% de réponses exactes. Donc, cela améliore la détection et anticipe la prise en charge.

Donc, il est important de se rappeler que les IA sont des outils et qu'il faut que ce soit des humains qui les supervisent.

Oui, pour l'instant c'est certain. Quand j'ai informatisé la boîte où je travaillais au milieu des années 80, j'avais un IBM qui devait faire 1m3 avec 120MB de mémoire et qui était limité dans ses capacités. Nous ne sommes qu'au début. Dans mes vertes années, quand j'étais en 3e ou seconde, nous étions des fanatiques de la sf, un genre qui a pas mal évolué de nos jours, mais nos écrivains préférés étaient des gens comme Asimov, Philip.K.Dick, Matheson et bien d'autres dont j'ai oublié les noms. je suis peut être influencé par mes lectures de jeunesse, mais je suis convaincu que dans un avenir proche, l'IA pourra évoluer seule.

Ce qui me console, c'est que je ne serais plus là pour le voir.

A.E. Van Vogt, dans les génies SF de cette époque.

J'ai appris dans mes cours d'informatique qu'il est impossible de garantir qu'un programme informatique ne contient aucune erreur. (Vous pouvez le tester dans 99% des cas, mais pas mieux.)

Alors un programme informatique qui apprend tout seul ! Cela promet des bugs meurtriers et des décisions folles !

Comme chacun sait "L'erreur est humaine, mais pour vraiment f..tre le bordel, il faut un ordinateur."

Je vais donner un exemple des interactions possibles IA/experts humains. Alors, j'ai compilé une discussion d'un médecin sur X (anciennement Twitter) :



Pour ceux qui veulent lire l'intégralité de l'intervention de ce médecin, ça se passe ici.

Bien, dans un monde idéal, si quelqu'un développe une appli à partir d'une bonne IA, on pourrait immaginer cela. Quand quelqu'un remarque une lésion sur sa peau, il utilise l'appli pour prendre une photo de sa lésion. Grace à l'IA, l'appli lui donne 3 indications possibles :
1- Rien de grave, éventuellement juste esthétique.
2- C'est quelque chose de pas anodin, sans être grave. Consultez rapidemment votre médecin généraliste.
3- On envoie un signalement à des urgences dermathologiques où un spécialiste posera un diagnostic. Votre photo et votre dossier viennent de lui être envoyée.

Alors, 2 ou 3 petites remarques. Première, il y a déjà actuellement des applis spécialisées écrites avec des IA qui créent du code. Certaines de ces applis cartonnent puisqu'elles répondent à un besoin réel. Deuxième remarque, même si la plupart de ces applis exploitent souvent la crédibilité des gens. En fait pas mal de charlatans se sont précipités sur le marché...

Mais, le plus dur est que si demain vous désirez créer l'appli que j'ai décrite, il vous faudra vous armer de patiente. Il vous faudra avoir accès à des bases de données fiables pour avoir une IA qui travaille comme il faut. Il vous faudra l'accord de divers organismes et trouver des médecins qui sont d'accord pour bosser là-dessus. Alors que pour faire une appli pour proser des compléments alimentaires, vous n'aurez besoin de rien, sauf de votre doigt mouillé.

NF.F.NS.NC. Ce que j'ai écrit sur un bout de papier en lui précisant que c'était du latin à ma cardiologue qui veut faire entrer tout le monde dans le même moule. J'avais lu il y a quelques années une étude sur les analyses radiologiques faites par un médecin et une IA. Les résultats étaient semblables, à part la vitesse de traitement. Bon, mon naturel préfère avoir à faire à une machine qu'à un humain, au moins elle ne fait pas la morale.

Très bon exemple de biais de confirmation. J'ai constaté des divergences nettes entre mon médecin généraliste et ma cardiologue sur leurs visions de ma santé. En discutant, je me suis rendu compte qu'ils ne regardaient pas la même chose. La plupart des patients de ma cardiologue ont des problèmes cardiaques ou d'hyper-tension et elle voit beaucoup qui finissent par y succomber. Mon médecin généraliste a, dans sa clientèle, des papys de 80, 90 ans, qui auraient dû mourir depuis longtemps si on écoute les présages des cardiologues.

C'est un problème complexe, car en analysant les données nécessaires pour nourrir les IA, les analystes ont trouvé que certaines études comportaient des biais statistiques. Par exemple, que des hommes blancs de milieux aisés... Une fois pondérées sur la population générale les chiffres évoluaient. Dans le cas de l'hypertension, ce sont les assureurs qui ont démontré que les sujets hyper-tendus vivaient moins vieux. Mais, les études montrent qu'un hyper-tendu bien suivi et avec un traitement adapté, surtout s'il se surveille et qu'il fait de l'exercice vit aussi longtemps que la moyenne des gens.

Le problème est que si on "nourrit" les IA avec des données biaisées, elles donnent des réponses biaisées. Mais, c'est un défaut qu'elles partagent avec les humains.