La FAILLE invisible des IA (un simple mot peut détruire le monde)
Les IA, telles qu’elles sont conçues aujourd’hui, sont facilement hackables. Le problème est que l’IA ne fait pas la différence entre les mots qui la construisent et l’architecturent et une simple requête d’un utilisateur. Et c’est là que le bât blesse.
Un simple utilisateur malin pourra obtenir tout de l’IA à condition d’utiliser la bonne consigne, le bon mot, au bon endroit. Vous l’avez compris, plus besoin d’être un petit génie en informatique pour hacker l’IA, mais utiliser de simples mots placés au bon endroit. Les concepteurs réagissent en mettant des patchs mais ne peuvent pas faire plus à cause de l’architecture même de l’IA qui ne différencie pas les scripts conceptuels des questions lambda. C’est un jeu sans fin entre les concepteurs et les petits malins qui manient les mots et requêtes.
Et ce genre de petits malins vont se démultiplier tant c’est devenu facile de hacker. Difficile d’interdire quand l’essence même de l’IA est le libre langage entre la machine et l’homme. Les conséquences de ce nouveau type de hackage sont assez effrayantes allant du dévoilement de vos conversations personnelles et professionnelles avec l’IA au détournement bancaire. Les exemples ne manquent pas dans cette vidéo et poussent à la prudence.
La solution serait de reconstruire intégralement l’IA selon les mêmes critères qu’un progiciel, différenciant les instructions des requêtes. Tant que l’IA reste aussi vulnérable, je vous invite à la prudence dans vos échanges personnels comme professionnels. https://youtu.be/H-807b9W1Us?si=H6Oi4dWZHWsr-4Vp via @YouTube
Laisser un commentaire