Agents IA : d’assistants d’efficacité aux leaders de demain ?

une évolution ultra-rapide de l’intelligence artificielle d’un simple outil d’exécution à un agent d’évaluation… et, potentiellement, de leadership. Alors que les systèmes d’IA commencent à maîtriser un raisonnement complexe, nous *devons* faire face à une question profonde : quelle est la prochaine étape ? J’explore ici la possibilité provocatrice de l’IA en tant que leader, c’est-à-dire en tant que manager, coordinateur, PDG ou même en tant que chef d’État. Discutons de l’immense potentiel d’une société utopique hyper-efficace, axée sur les données et impartiale, tout en évaluant les dangers inhérents aux biais algorithmiques et à la surveillance incontrôlée., et de l’érosion de la responsabilité humaine. Un système plus équilibré émerge alors, dans lequel l’IA réfléchit à une gouvernance humaine décentralisée pour équilibrer au maximum progrès et prudence.

Ce n’est pas une nouveauté que l’intelligence artificielle évolue et évolue rapidement et continuellement. Mais arrêtons-nous pour y réfléchir en détail. Nous avons déjà dépassé l’enthousiasme initial des chatbots et des générateurs d’images pour évoluer vers des systèmes d’IA beaucoup plus complexes qui ont pénétré l’ensemble de la science, de la technologie et du divertissement. Et nous arrivons maintenant au point de discussions assez approfondies sur le rôle de l’IA dans la prise de décision complexe. Depuis l’année dernière déjà, des systèmes assez avancés ont été proposés et continuent d’être développés, capables d’évaluer des sujets très complexes, même la qualité de la recherche scientifique approfondie, des problèmes d’ingénierie et du codage. Et ce n’est que la pointe de l’iceberg. À mesure que les capacités de l’IA se développent, il n’est pas difficile d’imaginer ces systèmes assumer des rôles de chefs de projet, de coordinateurs et même de « gouverneurs » dans divers domaines – à l’extrême, peut-être même en tant que PDG, présidents, etc. Oui, je sais que ça fait peur, mais c’est pourquoi nous ferions mieux d’en parler maintenant !

L’IA en laboratoire : une nouvelle révolution scientifique

Si vous me suivez, vous savez que je viens du monde académique, plus précisément du monde de la biologie moléculaire, celle pratiquée à la fois sur ordinateur et en laboratoire humide. En tant que tel, je suis personnellement témoin de la façon dont le monde universitaire ressent l’impact de l’IA et de l’automatisation. J’étais là en tant qu’évaluateur CASP lorsque DeepMind a présenté ses modèles AlphaFold. J’étais là pour voir la révolution dans la prédiction de la structure des protéines, qui s’étend également à la conception des protéines (voir mon commentaire sur le prix Nobel connexe à Nature’s Biologie de la communication).

Les startups émergentes proposent désormais des laboratoires automatisés (pour être honnête, encore largement dépendants d’experts humains, mais ils y vont toujours) pour tester de nouvelles molécules à grande échelle, permettant même des compétitions entre concepteurs de protéines – la plupart basées sur l’un ou l’autre type de système d’IA pour les molécules. J’utilise moi-même la puissance de l’IA pour résumer, réfléchir, obtenir et traiter des informations, du code et bien plus encore.

Je suis également les classements et je suis étonné par l’amélioration continue des capacités de raisonnement, les systèmes d’IA multimodaux et toutes les nouveautés qui apparaissent, dont beaucoup sont applicables à la planification, à l’exécution et probablement même à la gestion de projet – cette dernière clé de la discussion que je présente ici.

À titre d’exemple concret et très récent, une conférence intitulée Agents4Science 2025 devrait présenter des articles et des critiques entièrement produits par des agents d’IA. Cet environnement « bac à sable » permettra aux chercheurs d’étudier comment la science basée sur l’IA se compare à la recherche menée par l’homme, et de comprendre les forces et les faiblesses de ces systèmes. Tout cela est directement cohérent avec la vision que l’on se fait d’un avenir dans lequel l’IA ne serait pas seulement un assistant ou un agent spécialisé, mais plutôt un planificateur et, pourquoi pas, un (co-)leader.

Et inutile de préciser qu’il ne s’agit pas là d’un simple exercice théorique. De nouvelles startups comme QED développent des plates-formes qui utilisent « l’IA de pensée critique » pour évaluer des manuscrits scientifiques, les décomposant en affirmations et exposant leur logique sous-jacente pour identifier les faiblesses. Je l’ai essayé sur certains manuscrits et c’est impressionnant, même s’il n’est pas parfait pour être honnête – mais ils vont sûrement s’améliorer. Cette approche automatisée pourrait contribuer à atténuer l’immense pression exercée sur les évaluateurs humains et à accélérer le rythme des découvertes scientifiques. Comme le dit Oded Rechavi, créateur de QED, il est nécessaire de trouver des alternatives à un système de publication souvent caractérisé par des retards et des critiques arbitraires. Et des outils comme QED pourraient fournir la rapidité et l’objectivité indispensables.

Google, comme tous les géants de la technologie (même si j’attends toujours de voir ce qui se passe avec Apple…), repousse également les limites de l’IA qui peut évoluer et améliorer les logiciels scientifiques, surpassant dans certains cas les outils de pointe créés par les humains. Avez-vous essayé leur nouveau mode IA pour les recherches et comment suivre les résultats ? J’utilise cette fonctionnalité depuis une semaine et je suis toujours impressionné.

Toutes ces observations, que j’apporte du monde universitaire mais que la plupart (sinon la totalité) des autres lecteurs de TDS ont sûrement également vécues, suggèrent un avenir où l’IA évalue non seulement la science (et toute autre activité humaine ou développement dans le monde), mais contribue activement à son avancement. Une autre démonstration en est le développement de systèmes d’IA capables de découvrir « leurs propres » algorithmes d’apprentissage, atteignant ainsi des performances de pointe sur des tâches jamais rencontrées auparavant.

Bien sûr, il y a eu des obstacles sur la route. Rappelez-vous par exemple comment Galactica de Meta a été supprimé peu de temps après sa sortie en raison de sa tendance à générer des informations plausibles mais largement incorrectes – similaires aux hallucinations des systèmes LLM d’aujourd’hui, mais bien pires ! Il s’agit d’un véritable désastre qui nous rappelle de manière cruciale la nécessité d’une validation solide et d’une surveillance humaine à mesure que nous intégrons l’IA dans le processus scientifique, et surtout si nous leur accordons de plus en plus confiance.

De l’IA en tant que Coder Fellow à l’IA en tant que Manager

Bien sûr, et ici vous vous sentirez plus identifié si vous aimez programmer vous-même, le monde du développement logiciel a été radicalement transformé par une pléthore d’assistants de codage alimentés par l’IA. Ces outils peuvent générer du code, identifier et corriger des bogues, et même expliquer des extraits de code complexes en langage naturel. Cela accélère non seulement le processus de développement, mais le rend également plus accessible à un plus large éventail de personnes.

Les principes de l’évaluation et de l’exécution des tâches basées sur l’IA sont également appliqués dans le monde des affaires et de la gestion. Les outils de gestion de projet basés sur l’IA sont de plus en plus courants, capables d’automatiser la planification des tâches, l’allocation des ressources et le suivi des progrès. Ces systèmes peuvent fournir un niveau d’efficacité et de surveillance qu’un gestionnaire humain ne pourrait atteindre seul. L’IA peut analyser les données historiques du projet pour créer des calendriers optimisés et même prédire les obstacles potentiels avant qu’ils ne surviennent. Certains affirment que d’ici 2030, 80 % du travail de gestion de projet actuel sera éliminé, l’IA prenant en charge des fonctions traditionnelles telles que la collecte de données, le suivi et le reporting.

Gouverner avec des algorithmes d’IA ?

L’idée de « gouvernance automatisée » est fascinante et controversée. Mais… si l’IA pouvait bientôt gérer des projets complexes et contribuer aux découvertes scientifiques, pourrait-elle aussi jouer un rôle dans la gouvernance de nos sociétés ?

D’une part, l’IA pourrait apporter à la gouvernance une efficacité sans précédent et une prise de décision fondée sur les données. Il pourrait analyser de vastes ensembles de données pour créer des politiques plus efficaces, éliminer les préjugés humains et la corruption et fournir des services personnalisés. Un système basé sur l’IA pourrait même aider à anticiper et à prévenir les crises, telles que les épidémies ou les pannes d’infrastructures. Nous le constatons déjà dans la pratique, Singapour utilisant des chatbots basés sur l’IA pour les services aux citoyens et le Japon utilisant un système basé sur l’IA pour la prévision des tremblements de terre. L’Estonie est également un leader en matière de gouvernance numérique, utilisant l’IA pour améliorer les services publics dans les domaines de la santé et des transports.

Mais les risques sont tout aussi importants. Les biais algorithmiques, le manque de transparence des systèmes de « boîtes noires » et le potentiel de surveillance de masse sont autant de préoccupations sérieuses. Il a été constaté que le système d’approbation des cartes de crédit d’une grande banque, basé sur l’IA, accordait aux femmes des limites de crédit inférieures à celles des hommes ayant des antécédents financiers similaires, un exemple clair de la manière dont des données historiques biaisées peuvent conduire à des résultats discriminatoires. Il y a aussi la question de la responsabilité : qui est responsable lorsqu’un système d’IA commet une erreur ?

Un avenir hybride : une gouvernance décentralisée de l’humain et de l’IA

L’avenir le plus réaliste et le plus souhaitable est peut-être celui d’une « intelligence augmentée », dans laquelle l’IA soutient les décideurs humains plutôt que de les remplacer. Nous pouvons nous inspirer des systèmes politiques existants, comme le modèle suisse d’un chef d’État collectif. La Suisse est gouvernée par un Conseil fédéral composé de sept membres, dont la présidence tourne chaque année, un système conçu pour empêcher la concentration du pouvoir et encourager une prise de décision fondée sur le consensus. Nous pourrions imaginer un avenir dans lequel un modèle similaire serait utilisé pour la gouvernance de l’IA humaine : un conseil d’experts humains pourrait travailler aux côtés d’une suite de « gouverneurs » de l’IA, chacun ayant son propre domaine d’expertise. Cela permettrait un processus décisionnel plus équilibré et plus robuste, les humains fournissant les conseils éthiques et la compréhension contextuelle qui manquent actuellement à l’IA. Par exemple, les humains pourraient faire partie d’un conseil d’administration qui prendrait les décisions collectivement en consultation avec des systèmes d’IA spécialisés, puis ces derniers planifieraient, exécuteraient et géreraient leur mise en œuvre.

L’idée d’une gouvernance décentralisée est déjà explorée dans le monde de la blockchain avec les organisations autonomes décentralisées (DAO). Ces organisations fonctionnent sur des protocoles blockchain, avec des règles codées dans des contrats intelligents. Les décisions sont prises par une communauté de membres, souvent grâce à l’utilisation de jetons de gouvernance qui accordent le droit de vote. Ce modèle supprime le besoin d’une autorité centrale et permet une forme de gouvernance plus transparente et démocratique.

La nature décentralisée de ce système contribuerait également à atténuer les risques de placer trop de pouvoir entre les mains d’une seule entité, qu’elle soit humaine ou machine.

Le chemin vers cet avenir est encore long, mais les éléments de base sont mis en place aujourd’hui – et c’est pourquoi il pourrait être utile de s’engager dès maintenant dans ce type de séances de brainstorming. Alors que l’IA continue d’évoluer, il est crucial que nous ayons une conversation ouverte et honnête sur le rôle que nous voulons qu’elle joue dans nos vies. Les avantages potentiels sont immenses, mais les risques le sont tout autant. En procédant avec prudence et en concevant des systèmes qui augmentent plutôt que remplacent l’intelligence humaine, nous pouvons garantir que l’IA soit une force bénéfique dans le monde.