Hallucinations et manque de contextualisation, le syndrome de la colle et de la pizza

On croyait Google AI Overview révolutionnaire, et pourtant…

Le nouveau moteur de recherche de Google promet monts et merveilles. Résumer automatiquement les résultats pour offrir LA réponse adaptée à chaque requête des internautes.

Sauf que parfois, l’IA déraille et hallucine complètement… comme proposer de mettre de la colle sur sa pizza pour éviter que le fromage ne coule..

Bien que saugrenue, c’est bien la surprenante recommandation que peut vous faire Google AI Overview.

La firme a bien tenté de rectifier le tir en supprimant ces résultats. En vain…

D’où vient cette obsession de la colle sur les pizzas ? D’un article sur reddit, l’information a été ensuite relayée par un article de blog (repris par l’IA) ironisant sur ce conseil farfelu.

Ce syndrome de la colle et de la pizza révèle deux limites majeures des IA génératives comme celle de Google :

Des hallucinations pas toujours évidentes à détecter. Ici, le conseil est tellement absurde qu’on ne peut que s’en amuser. Mais imaginez des fake news bien plus subtiles disséminées via le moteur de recherche le plus utilisé au monde ?

Un manque de contextualisation flagrant. L’IA ne comprend pas forcément le second degré et peut appliquer bêtement une information erronée. Preuve que le bon sens humain reste indispensable !

Petit conseil : approchons l’IA avec curiosité, mais aussi et surtout avec notre sens critique bien humain !