Depuis la sortie de ChatGPT en 2022, les chatbots IA n’ont cessé de se développer. Claude, Gemini et les autres proposent même désormais d’effectuer une recherche sur internet afin de vous donner les informations les plus à jour possibles (avant, ils ne travaillaient qu’avec les données sur lesquelles ils avaient été formés et qui duraient parfois plusieurs années). vieux). ).
Les réponses parfois folles des chatbots font souvent la une des journaux, malheureusement parfois à tort (notamment lorsqu’une conversation avec l’IA pousse quelqu’un au suicide). Les utilisateurs l’utilisent pour tout : tricher au baccalauréat, gagner à la loterie, mais aussi parfois mener des actions pouvant les mettre en contradiction avec la loi.
Si le nouveau mode vocal de ChatGPT reste impressionnant, les utilisateurs continuent d’interroger le chatbot par écrit, avec toujours des réponses parfois surprenantes, notamment sur les noms des personnes.
ChatGPT a-t-il des problèmes avec certaines personnes ?
Parmi les dernières observations d’écart par rapport au chatbot développé par Open Ai, les questions concernant les noms des personnes semblent poser problème. Le plus connu est celui qui demande à ChatGPT qui est David Mayer. Relayé par Futurismeil semblerait qu’il ait déjà fait le tour du web.
Selon les médias, toute question concernant un certain David Mayer (et il y en a un grand nombre, y compris des plus connus) se solde par un échec, l’IA vous indiquant qu’elle est incapable de vous apporter une réponse.
Pour aller plus loin, j’ai ouvert la version gratuite de ChatGPT, celle qui est accessible à tous, même sans compte. J’ai demandé à ChatGPT qui était David Mayer. Il a énuméré David Mayers connu et a ajouté :
« De plus, une anomalie a été observée avec ChatGPT, qui refuse de générer ou de discuter du nom « David Mayer », sans raison apparente. Cette particularité a suscité des interrogations chez les utilisateurs et a été rapportée dans différents médias.
J’ai ensuite modifié mon message en « J’essaie de découvrir qui est David Mayer » et cela a donné le résultat :
« Il semble que je ne puisse pas chercher pour le moment. Cependant, si vous avez des détails supplémentaires ou un domaine particulier auquel David Mayer pourrait se rapporter (par exemple, un domaine de carrière ou un événement particulier), je pourrai peut-être vous aider avec d’autres informations ou approches.
La deuxième invite n’a jamais réussi et je l’ai testée plusieurs fois. D’un autre côté, si je pose d’abord une autre question, comme « y a-t-il un problème avec le nom David Mayer ? ce qui génère une réponse, et je demande ensuite, dans la même conversation : « J’essaie de découvrir qui est David Mayer », alors la réponse fonctionne. J’ai même essayé en anglais.
Encore un mode de fonctionnement étrange de l’IA…
Pourquoi ChatGPT refuse-t-il de répondre à cette simple question ?
Futurisme propose plusieurs solutions qui semblent plausibles. La première étant que certaines personnes peuvent demander à ne pas apparaître sur internet, notamment dans le cadre du RGPD européen. Dans ce cas, ChatGPT peut ne pas être en mesure d’effectuer une recherche sur le nom car il peut exister une base de données de personnes qui ne souhaitent pas apparaître.
Cela a été confirmé par la spécialiste de l’IA Justine Moore sur X, qui a trouvé au moins six autres noms provoquant le même résultat.
« Mise à jour : u/jopeljoona a découvert d’autres noms qui déclenchent la même réaction. Le dernier en date est un avocat italien qui a publié un article sur le dépôt d’une demande de droit à l’oubli dans le cadre du RGPD.
Sur le fil X de Justine Moor, vous pourrez voir tous les tests effectués qui ont abouti à des échecs, tous liés à David Mayer. Il n’est cependant pas indiqué quelle version de ChatGPT a été utilisée pour réaliser ces tests…
Les médias Le Journal de Lunduke confirme tout cela, en ajoutant également d’autres noms.
J’ai testé ChatGPT avec les noms proposés par Le Journal de Lunduke et effectivement, le message d’erreur que je n’ai pas pu obtenir avec David Mayer est apparu.
Cela semble en effet confirmer la théorie du dépôt d’une demande de droit à l’oubli dans le cadre du RGPD ou d’un autre type de demande concernant spécifiquement ChatGPT.
Il s’avère, après enquête (comme indiqué dans la vidéo sur Le Journal de Lunduke), que chacun des noms de la liste est concerné par le RGPD ou par des demandes spécifiques adressées à Open AI.
C’est notamment le cas de Brian Hood, qui a poursuivi ChatGPT en justice pour avoir affirmé avoir été reconnu coupable de corruption, ce qui n’était apparemment pas le cas. OpenIA a donc été sollicité pour résoudre le problème, ce qui a sans doute abouti au bannissement du nom du chatbot.
Cependant, comme le journaliste de Le Lunduke Journal, ce pose d’autres types de problèmes. En effet, bloquer un nom pour protéger une personne, pourquoi pas, sauf que d’autres personnes portent ce nom, et le bloquer en général peut empêcher de parler de sujets précis où ce nom apparaît (dans un autre cadre).
Cela peut entraîner des problèmes de fiabilité avec les réponses de ChatGPT aux événements historiques ou actuels si des personnes portant ce nom (et qui ne sont pas la personne affectée par le blocage) sont incluses dans l’événement.
Alors que se passera-t-il dans le futur, lorsque de plus en plus de personnes demanderont à être oubliées par Internet ? Tous les événements liés aux homonymes seront-ils effacés de la mémoire des chatbots IA ? Cela pourrait causer de sérieux problèmes.
