Arrêtez de vous inquiéter de l’AGI : le danger immédiat est une intelligence générale réduite (RGI)

et entendez parler de l’IA. « L’IA va résoudre les problèmes les plus difficiles et changer notre monde », « L’IA peut vous rendre 10 fois plus productif », « L’IA va mettre fin au monde » sont des titres courants ces jours-ci.

On discute de plus en plus du fait que l’intelligence générale artificielle (IAG), une IA capable d’égaler ou de surpasser les capacités humaines dans une grande variété de tâches cognitives, est de plus en plus répandue. juste au coin. Les réponses sont variées : d’être sceptique à propos de ces affirmations, optimiste quant au fait que cela pourrait résoudre de nombreux problèmes difficiles, à craindre que cela puisse prendre du travail ou même dominer la race humaine.

Bien que l’IAG soit un véritable problème auquel il faut réfléchir, je pense qu’il est plus important que la population en général réfléchisse aux tendances plus immédiates mais inquiétantes que nous observons actuellement comme conséquence de l’IA.

Au cours de la dernière année, un certain nombre de rapports inquiétants ont fait état des résultats d’une confiance excessive ou d’une mauvaise utilisation de l’IA. Cela se voit particulièrement chez les enfants scolarisés et les jeunes professionnels, qui sont les plus susceptibles d’utiliser l’IA de manière intensive. Il existe de nombreux rapports d’étudiants utilisant L’IA pour résoudre des devoirs ou des examens, tricher lors des entretiensou des professionnels qui l’utilisent pour produire du code ou des rapports non vérifiés. Dans plusieurs cas, les enseignants ont immédiatement identifié la tricherie dans les devoirs, et des codes ou des documents bâclés/remplis d’erreurs soumis sur le lieu de travail sans contrôle de qualité ont conduit à catastrophes professionnelles.

Un certain nombre d’articles de presse et de vidéos ont mis en évidence un déclin des capacités de lecture, d’écriture, de compréhension et de pensée critique chez les étudiants en raison d’une dépendance excessive à l’IA.

Plusieurs rapports anecdotiques rédigés par des programmeurs professionnels ont noté un baisse des compétences en programmation après avoir utilisé l’IA, un article récent a montré un déclin de la créativité et de la cognition chez les utilisateurs, et un article récent du MIT a souligné les coûts cachés de l’utilisation de l’IA pour le codage.

Nous constatons également une augmentation du contenu généré par l’IA sur les réseaux sociaux, appelé «pente de l’IA« . Ceci, combiné à la nature addictive des médias sociaux, conduit les gens à passer plus de temps que jamais sur ces plateformes, ce qui conduit également à déclin cognitif.

Le problème urgent n’est donc pas les conséquences de l’Intelligence Générale Artificielle mais ce que j’appellerai l’Intelligence Générale Réduite (RGI).

Pourquoi est-ce un problème

Pour être pertinent dans le monde d’aujourd’hui, vous devez avoir un esprit critique et être capable de résoudre des problèmes dans des délais impartis. Pour avoir de la valeur, vous devez produire un travail de valeur. Si vous dépendez fortement de l’IA, la qualité de votre production dépend de la qualité de l’IA. Soyons honnêtes, l’IA n’est pas toujours fiable, et si vous pouvez être remplacé, vous le serez. Cette atrophie des compétences de base explique pourquoi le RGI est si dangereux.

Les capacités de pensée critique et de résolution de problèmes sont comme les muscles. Vous ne pouvez pas les développer du jour au lendemain et cela nécessite une formation. Pensez-y de cette façon : si vous voulez être en forme, vous devez faire de l’exercice. Utiliser l’IA pour accomplir vos missions et espérer vous améliorer, c’est comme essayer d’améliorer votre endurance en conduisant votre voiture pendant une heure chaque jour. Tout comme l’exercice physique est important pour développer la force et l’endurance, résoudre ces problèmes et tenter personnellement ces tâches d’écriture et de codage sont essentiels pour vous améliorer intellectuellement.

Une dépendance excessive à l’égard de l’IA entraîne également des problèmes moraux. Vous êtes censé réfléchir profondément au problème et rendre la mission qui vous a été confiée. Au lieu de cela, vous le transférez à l’IA. L’écriture produite par la plupart des outils d’IA se distingue facilement de l’écriture humaine, et vous perdez votre crédibilité aux yeux du lecteur une fois qu’il sait qu’il ne s’agit pas de votre œuvre originale. Le lecteur est moins susceptible de vous prendre au sérieux car il sait désormais qu’au moins une partie de votre travail ne vous appartient pas.

L’utilisation répétée de l’IA conduit également les gens à surestimer leurs capacités, et nous le constatons de plus en plus dans de nombreux domaines. Les utilisateurs comprennent mal les bases mais supposent à tort qu’ils connaissent des « choses avancées ». C’est une conséquence du Effet Dunning-Krugeroù les personnes ayant de faibles capacités dans un domaine spécifique (ce qui est vrai lorsque vous commencez à apprendre un domaine spécifique) surestiment ce qu’elles en savent. Développer une expertise dans un domaine nécessite beaucoup de pratique et une réflexion indépendante sur les problèmes. Vous ne pouvez pas demander à une IA de penser à votre place et de supposer que vous en avez désormais la maîtrise.

Une dépendance excessive à l’IA vous rend également paresseux et entraîne généralement un travail bâclé qui peut demander beaucoup d’efforts pour être corrigé. Les outils d’IA hallucinent : créent des références qui n’existent pas, appellent des fonctions ou des variables (en programmation) qui ne sont pas définies, insèrent du code dénué de sens, font des déclarations qui n’ont aucun sens physiquement ou logiquement, etc. Il faut alors déployer beaucoup d’efforts pour identifier et corriger ces erreurs.

Les programmeurs passent généralement beaucoup plus de temps à déboguer et à améliorer le code qu’à écrire du code. Cependant, nous constatons une forte augmentation de «codage d’ambiance » : utiliser l’IA pour produire de gros blocs de code. Ce code est beaucoup plus difficile à déboguer ou à améliorer, car vous ne savez pas pourquoi l’IA a choisi d’écrire ces lignes. Il est naturel que l’homme ait tendance à supposer que le code est correct, ou simplement à abandonner, frustré lorsque vous découvrez qu’il ne fonctionne pas comme prévu. Cela conduit à un code plus instable que nous ne comprenons pas vraiment.

Ce que nous pouvons faire à ce sujet

À l’époque actuelle, nous ne pouvons pas nous permettre d’ignorer l’IA. Nous sommes censés savoir utiliser ces outils et devons apprendre à les utiliser judicieusement.

Nous devons donc faire des choix conscients et délibérés lorsque nous utilisons l’IA. Si vous êtes étudiant, n’utilisez pas l’IA pour résoudre vos devoirs ou vos examens, car vous perdez les avantages à long terme du développement de la pensée critique pour obtenir les avantages à court terme de bonnes notes. À long terme, une légère augmentation des notes n’a pas tellement d’importance par rapport aux compétences que vous avez développées.

L’IA peut être très utile pour clarifier des concepts que vous ne comprenez pas ou pour obtenir plus de références pour quelque chose qui vous intéresse profondément. Cependant, assurez-vous de réfléchir profondément au concept avant de demander la réponse à l’IA et de vérifier la réponse avec des sources solides/réputées.

Il existe de nombreuses situations où l’IA peut être utilisée pour automatiser certaines tâches fastidieuses, ou simplement gagner du temps. Ceci est particulièrement utile si vous l’utilisez pour compléter vos compétences.

Le plus important est d’examiner d’un œil critique le résultat de tout outil d’IA avant de l’utiliser. Supposez généralement que le résultat peut être erroné, comprenez ce qu’il dit et vérifiez soigneusement les erreurs. Cela garantit que vous n’aurez pas de problèmes plus tard et développera l’habitude d’évaluer les choses de manière critique.

S’il y a un domaine particulier dans lequel vous devriez/voulez vous améliorer, utilisez l’IA avec parcimonie. N’utilisez pas l’IA simplement pour éviter des tâches banales ou répétitives. Vous développez la maîtrise uniquement par la répétition.

Les problèmes d’algèbre et de géométrie que vous avez étudiés à l’école peuvent sembler ennuyeux et vous vous demandez peut-être si vous les utilisez déjà dans la vie réelle, mais en les résolvant, vous apprenez à réfléchir aux problèmes de manière logique et à développer des capacités de raisonnement abstrait. Bien que l’on puisse débattre de la proportion et de la qualité réelles du contenu que nous voyons dans le programme scolaire, il ne fait aucun doute que résoudre une variété de problèmes mathématiques et rédiger de nombreux essais sont l’équivalent mental d’un entraînement régulier en salle de sport.

Même si utiliser l’IA pour résoudre tous vos problèmes est une mauvaise idée, elle peut s’avérer un outil utile pour évaluer votre travail et obtenir des commentaires. Par exemple, supposons que vous deviez rédiger un essai de mille mots ou un programme pour résoudre un problème. Un outil d’IA pourrait très facilement le faire pour vous. Cependant, si vous souhaitez améliorer votre écriture, votre pensée critique ou votre programmation, vous devez le faire vous-même. Une fois que vous avez rédigé l’essai ou le code de manière indépendante, vous pouvez demander des commentaires à l’IA et utiliser ces commentaires pour vous améliorer la prochaine fois.

L’IA connaît une expansion en termes de portée et de capacités à un rythme que nous ne pouvons pas imaginer. Cela peut être une grande aubaine si nous l’utilisons pour nous améliorer, ou un fléau qui prend notre emploi si nous comptons trop sur elle et nous rendons remplaçables.