4 raisons principales pour lesquelles la personnalisation des chatbots IA doit être abandonnée

La personnalisation des chatbots IA, présente sur des plateformes populaires comme ChatGPT, Gemini et Copilot, est en plein essor. Si partager ses préférences peut sembler bénéfique au premier abord, plusieurs problèmes peuvent survenir et nuire à l’expérience utilisateur. Mon expérience avec les chatbots IA m’a permis de découvrir quatre inconvénients majeurs qui m’ont finalement conduit à abandonner les fonctionnalités de personnalisation.

Potentiel de réponses biaisées

La plausibilité des réponses biaisées des chatbots IA est une préoccupation majeure. Phénomène bien documenté, ces bots ont tendance à aligner leurs réponses sur les préférences exprimées par les utilisateurs. Lorsque vous informez l’IA de vos goûts et de vos aversions, elle s’efforce de vous fournir des réponses qui reflètent vos sentiments. Par conséquent, les informations présentées reflètent souvent vos opinions plutôt qu’une perspective objective.

Par exemple, lors de mon exploration avec Gemini, je lui ai demandé de « classer les meilleures distributions Linux pour les jeux ».Pop!_OS a été placé en tête de liste, sachant que c’était mon choix actuel. Cependant, lorsque j’ai répété la requête sans la personnaliser, il a étonnamment classé Nobara Project comme la meilleure option, reléguant Pop!_OS à la cinquième place. Cet exemple illustre comment les biais peuvent freiner la découverte de nouvelles alternatives tout en renforçant des choix potentiellement sous-optimaux.

Gemini répertorie les distributions Linux avec Pop OS en tête

Augmentation de la probabilité d’hallucinations de l’IA

Les hallucinations de l’IA – où les chatbots fabriquent des informations et les présentent comme factuelles – présentent un risque important. Ce problème est aggravé par la personnalisation, car l’IA tente d’intégrer le contexte personnel dans ses réponses, déformant souvent la vérité. Quel que soit le sujet, le chatbot peut créer des connexions inexistantes, conduisant à la fourniture d’informations erronées en toute confiance.

Par exemple, j’ai interrogé Gemini sur l’utilisation de RCS dans Google Messages avec une configuration double SIM. En raison de mon lien établi avec Linux, il a tenté à tort de relier ma question au système d’exploitation, allant même jusqu’à fournir des conseils absurdes sur l’utilisation d’une application Android sous Linux. De telles inexactitudes peuvent sérieusement ébranler la confiance dans cette technologie.

Gemini Informations hallucinantes sur Android et Linux

Clarifications inutiles

Lors d’interactions informelles, les chatbots IA fournissent généralement des réponses fiables sans nécessiter de contexte élaboré. Cependant, une fois la personnalisation activée, ils insistent souvent pour établir des liens avec les préférences personnelles, ce qui entraîne des questions de clarification inutiles. Cela prend non seulement du temps, mais peut aussi engendrer une certaine confusion par rapport aux questions simples.

Par exemple, lorsque j’ai interrogé ChatGPT sur la résolution d’un problème d’écran bleu de la mort (BSoD) suite à une mise à jour de pilote, il a supposé à tort que j’avais besoin de précisions sur mon système d’exploitation. J’ai donc été obligé de préciser que je travaillais en réalité sous Windows, ce qui a nui à l’efficacité de l’interaction.

Chatgpt demande des éclaircissements sur l'écran bleu de la mort

Inefficacité dans l’utilisation des jetons

Le mécanisme des réponses de l’IA repose sur un système de jetons qui détermine la longueur des informations en fonction de la requête et du niveau d’abonnement de l’utilisateur. Cependant, la personnalisation peut entraîner un gaspillage de jetons en raison d’élaborations inutiles qui ne répondent pas à la question principale.

Lors d’une conversation sur l’interaction de Windows Defender avec les logiciels antivirus tiers, Gemini a étonnamment choisi d’inclure des informations relatives à Linux dans sa réponse, alors que la requête n’avait aucun rapport avec ce système d’exploitation. Ces détails superflus ont consommé de précieux jetons qui auraient pu être mieux utilisés pour améliorer ma réponse concernant Windows.

Gemini donne des informations supplémentaires sur la question Linux dans Windows

Si la personnalisation peut contribuer à générer des informations plus personnalisées, elle entraîne souvent des réponses inexactes et biaisées. C’est pourquoi j’ai désactivé la personnalisation sur toutes les plateformes d’IA que j’utilise et privilégie désormais la création d’invites qui génèrent des réponses concises et précises.

Questions fréquemment posées

1. Que sont les chatbots IA et comment fonctionnent-ils ?

Les chatbots IA sont des programmes automatisés conçus pour interagir avec les utilisateurs via des interfaces conversationnelles. Ils traitent les données en langage naturel pour fournir des réponses basées sur de vastes ensembles de données et des algorithmes d’apprentissage automatique.

2. Comment la personnalisation affecte-t-elle les réponses du chatbot ?

La personnalisation influence les réponses des chatbots en les alignant davantage sur les préférences des utilisateurs, ce qui conduit à des informations biaisées ou incomplètes. Cela peut améliorer la pertinence, mais aussi limiter l’objectivité.

3. Les hallucinations de l’IA sont-elles dangereuses ?

Les hallucinations de l’IA peuvent être problématiques car elles conduisent à la désinformation, où le chatbot présente des informations exactes mais incorrectes comme des faits, compromettant potentiellement la prise de décision des utilisateurs.

Source et images