Citations « inventées » dans le discours de Petra De Sutter : le danger des hallucinations causées par l’IA
La rectrice de l’université de Gand, Petra De Sutter, a récemment utilisé des citations inventées dans son discours d’ouverture de l’année académique. La rectrice a elle-même admis que ces citations provenaient de l’IA.
Cette erreur n’enlève bien sûr rien au travail de la rectrice ni au contenu du discours, mais elle illustre bien les risques liés à l’utilisation de l’IA. Le phénomène des hallucinations provoquées par l’IA n’est bien sûr pas nouveau ; des outils tels que ChatGPT tentent de justifier au mieux une affirmation (généralement à la demande de l’utilisateur lui-même) et, ce faisant, « inventent » parfois des informations ou fournissent des informations erronées.
Même dans le cas d’une « simple » traduction, ChatGPT ou d’autres outils d’IA modifient parfois un texte, notamment en ajoutant des exemples ou en clarifiant des arguments. Résultat : votre traduction s’écarte du texte source. Ce n’est évidemment pas souhaitable, surtout si ces exemples ou arguments sont incorrects.
Suivez notre actualité et découvrez les arguments développés par notre commission IA.
Plus d’infos : ai@translators.be