Lors du récent Sommet de l'ONU "AI for Good", Meredith Whittaker, présidente de Signal, a sonné l'alarme sur les risques majeurs de cybersécurité que représenteront les futurs agents d'intelligence artificielle (IA) autonomes. En effet, ces agents IA nécessiteront souvent un accès quasi illimité aux systèmes d'exploitation, menaçant ainsi la confidentialité des données personnelles et sensibles des utilisateurs.
Mme Whittaker a expliqué que ces agents IA, de par leur autonomie croissante, pourraient devenir incontrôlables et représenter une cible de choix pour les pirates informatiques. Leur besoin d'un accès étendu aux systèmes les rendrait particulièrement vulnérables aux cyberattaques, mettant en danger la sécurité et la vie privée des utilisateurs.
La PDG de Signal a donc appelé à une réflexion approfondie sur la régulation et les garde-fous à mettre en place pour encadrer le développement de ces agents IA autonomes. Selon elle, il est essentiel de trouver un équilibre entre les bénéfices potentiels de cette technologie et les risques de sécurité qu'elle comporte, afin de protéger les individus et leurs données sensibles.