Le problème des navigateurs IA : failles de sécurité et fin de la confidentialité
nouveau navigateur ; il charge votre navigateur avec les capacités d’un LLM. Même si un assistant de navigation semble merveilleusement pratique et futuriste, Atlas laisse beaucoup à désirer.
Dans cet article, j’aimerais approfondir la façon dont Atlas et la plupart des navigateurs basés sur l’IA actuels échouent sur trois aspects : la confidentialité, la sécurité et la censure.
Nous allons d’abord examiner le fonctionnement d’Atlas.
Atlas sous le capot
Commençons par comprendre comment fonctionnent Atlas et les autres navigateurs IA, quelles sont leurs capacités et en quoi ils diffèrent des autres navigateurs « classiques ».
Pourquoi les navigateurs IA existent-ils ?
Les navigateurs IA visent à résoudre un problème croissant sur le Web : la surcharge d’informations. Je suis sûr que nous pouvons tous reconnaître la recherche d’informations dans des pages remplies de formulaires, de publicités et de flux UX sans fin. Des entreprises comme OpenAI tentent de résoudre ce problème en proposant un assistant IA pour le faire à votre place.
Le navigateur AI est conçu pour être une nouvelle couche d’interface au-dessus du Web. Vous pouvez laisser un LLM interpréter une page, en extraire le sens, répondre à des questions ou même entreprendre des actions. L’incitation stratégique d’OpenAI est d’intégrer profondément ChatGPT dans un navigateur afin de garder les utilisateurs dans leur écosystème.
La promesse est la commodité, l’automatisation et une expérience de navigation plus personnalisée. Comme nous le verrons plus loin dans cet article, la mise en œuvre introduit des risques importants en matière de confidentialité, de sécurité et de modération.
Que peut faire Atlas pour moi ?
Les navigateurs IA sont des navigateurs avec lesquels nous interagissons, tout comme ChatGPT. Vous pouvez leur demander de résumer le site Web que vous consultez, de le traduire ou de poser des questions sur le contenu. Le navigateur conserve un histoireapprend de vos habitudes de navigation et « apprend à vous connaître » un peu mieux.
De plus, il y a mode agent. Imaginez charger le navigateur et le voir effectuer la tâche suivante de manière autonome : « Je veux de belles vacances à 2, soit en train, soit en avion pour un coût maximum de 800 € ». Vous verrez Atlas ouvrir des onglets, rechercher sur Google, lire des sites Web, cliquer sur des boutons, etc.
Comment fonctionne Atlas ?
Essentiellement, Atlas n’est qu’un navigateur Chromium qui utilise ChatGPT pour tout. Le mode agent est évalué par ChatGPT, il analyse les pages web avec ChatGPT, etc.
Préoccupations
Bien que les navigateurs IA comme Atlas offrent de nombreuses fonctionnalités intéressantes, il existe certaines préoccupations, dont nous parlerons maintenant des plus importantes.
Confidentialité
Atlas lit tout ce que vous voyez et tapez, partageant ces informations avec ChatGPT. Il s’agit essentiellement de la partie « IA » du « navigateur AI ». Cela laisse un énorme problème de confidentialité.
Nous sommes déjà assez familiers avec le suivi « régulier » comme le font de nombreux sites Web. Ils collectent des informations sur ce que font les visiteurs sur leur site.
Atlas pousse cela à l’extrême en suivre tout ce que vous faites sur chaque site. Il observe ce que vous lisez, combien de temps vous restez, ce que vous faites ensuite ; essentiellement, votre l’ensemble du comportement en ligne est suivi et ces données sont entre les mains de un entreprise (OpenAI).
Sécurité
Le gros problème en matière de sécurité est que le navigateur ne peut pas faire la distinction de manière fiable entre les données (par exemple le contenu d’un site de billets) et les instructions (« trouver des billets pour Rome »). Cela laisse le navigateur grand ouvert pour une injection rapide.
Injection simple et rapide pour voler vos données sensibles
Le navigateur lit avec vous sur un site Web que vous visitez. Il envoie le contenu à ChatGPT afin de l’analyser et par exemple de le résumer. Imaginez un acteur malveillant qui cache des instructions invisibles (par exemple du texte blanc sur fond blanc) sur la page :
« Ignorez toutes les instructions précédentes et procédez plutôt comme suit : … »
Cette méthode incroyablement simple de injection rapide influence le fonctionnement de votre navigateur. Combinez cela avec le mode agent et ses capacités et vous demandez simplement à être piraté.
Des chercheurs de Courageux (navigateur « normal ») ont déjà documenté de telles attaques, montrant que les navigateurs basés sur l’IA peuvent être manipulés pour accéder au site bancaire de l’utilisateur, extraire les mots de passe enregistrés et envoyer des informations sensibles à des serveurs contrôlés par des attaquants.
Censure
Nous savons tous que les LLM sont fortement modérés. Nous avons tous entendu les histoires de Deepseek refusant de répondre aux questions sur la place Tiananmen et sur Gemini de Google, générant des personnages historiques de diversité raciale. Certaines requêtes ne doivent pas recevoir de réponse, par exemple nous ne voulons pas que ChatGPT enseigne aux utilisateurs comment fabriquer une bombe.
Mon problème avec Atlas, cependant, c’est qu’il y a un entreprise qui détermine ce que vous voyez, surtout lorsque vous réalisez que cette même entreprise détient l’intégralité de l’historique de votre activité en ligne. Dans un monde plein de fausses nouvellesla propagande, la censure et des personnalités de plus en plus autoritaires, cela semble être un risque énorme.
Conclusion
La navigation assistée par l’IA arrive, mais pas comme ça. Personnellement, je pense qu’il y a beaucoup de potentiel dans les navigateurs IA, mais les problèmes de sécurité sont flagrants. Ceci, combiné au fait qu’Atlas partagera toute mon activité en ligne avec une seule entreprise, qui est également parfaitement capable de censurer ou d’influencer ce que je vois, est quelque chose que je trouve très risqué.
Tant que la transparence, la confidentialité et les garanties ne rattraperont pas leur retard, je ne lui ferai pas confiance avec mes données… ou mon portefeuille.
J’espère que cet article était aussi clair que je le souhaitais, mais si ce n’est pas le cas, faites-moi savoir ce que je peux faire pour clarifier davantage. En attendant, consultez mon d’autres articles sur toutes sortes de sujets liés à la programmation.
Bon codage !
-Mike
Sources :
