Google réagit aux dérapages de l’IA
Dans une récente annonce, Liz Reid, responsable de Google Search, a admis que le moteur de recherche de Google a produit des résumés d’IA « étranges, inexacts ou inutiles » depuis leur déploiement à l’échelle nationale aux États-Unis. Cette fonctionnalité, destinée à offrir des réponses rapides et synthétiques aux requêtes des utilisateurs, a parfois donné lieu à des résultats surprenants et erronés.
Reid a publié un billet de blog expliquant certaines des réponses d’IA les plus discutables et détaillant les mesures prises pour améliorer la situation. Elle a également réfuté certaines captures d’écran virales montrant des réponses manifestement fausses, comme l’affirmation selon laquelle il serait sûr de laisser des chiens dans des voitures, qualifiant ces images de fausses.
Cependant, d’autres réponses, bien réelles, ont également suscité des préoccupations. Par exemple, la réponse à la question « Combien de rochers devrais-je manger ? » a été générée parce que l’IA de Google avait trouvé un contenu satirique en ligne traitant du sujet. Reid a expliqué que cette question était extrêmement rare avant que la capture d’écran ne devienne virale, ce qui a conduit l’IA à référencer ce contenu satirique.
Un autre exemple notable est celui où l’IA a recommandé d’utiliser de la colle pour faire coller le fromage sur une pizza, une réponse tirée d’un forum en ligne. Bien que les forums puissent offrir des informations de première main authentiques, ils peuvent aussi véhiculer des conseils peu fiables.
Reid n’a pas mentionné toutes les réponses virales inexactes, mais le Washington Post a rapporté des cas où l’IA affirmait que Barack Obama était musulman ou conseillait aux gens de boire de l’urine pour passer un calcul rénal.
Selon Reid, malgré des tests exhaustifs avant le lancement, « il n’y a rien de tel que des millions de personnes utilisant la fonctionnalité avec de nombreuses recherches nouvelles » pour révéler les faiblesses de l’IA. En analysant les réponses fournies au cours des dernières semaines, Google a identifié des schémas d’erreurs et mis en place plusieurs protections. L’IA a été ajustée pour mieux détecter le contenu humoristique et satirique. De plus, Google a limité l’intégration des réponses générées par les utilisateurs, telles que celles provenant des réseaux sociaux et des forums, pour éviter des conseils trompeurs ou dangereux. Enfin, des restrictions ont été ajoutées pour certaines requêtes, notamment dans le domaine de la santé, où les réponses de l’IA se sont avérées particulièrement problématiques.
Avec ces nouvelles mesures en place, Google espère offrir des réponses plus précises et utiles aux utilisateurs, tout en évitant les erreurs embarrassantes et potentiellement dangereuses.
