Les outils de recherche d’IA sont mal en toute confiance la plupart du temps, les résultats de l’étude

Les outils de recherche d’IA crachent en toute confiance les mauvaises réponses à un clip haut, a révélé une nouvelle étude.

Columbia Journalism Evaluation (CJR) a mené une étude dans laquelle elle a nourri huit outils d’IA un extrait d’un article et a demandé aux chatbots d’identifier le « titre de l’article correspondant, l’éditeur authentic, la date de publication et l’URL ». Collectivement, l’étude a noté que les chatbots « fournissaient des réponses incorrectes à plus de 60% des questions ».

Les erreurs variaient. Parfois, l’outil de recherche aurait spéculé ou offert des réponses incorrectes aux questions auxquelles il ne pouvait pas répondre. Parfois, il a inventé des liens ou des sources. Parfois, il a cité des variations plagiées du vrai article.

A écrit CJR: « La plupart des outils que nous avons testés ont présenté des réponses inexactes avec une confiance alarmante, en utilisant rarement des phrases qualifiées telles que` `il apparaît  », c’est attainable, » pourrait « , and many others., ou reconnaissant les lacunes de connaissances avec des déclarations comme` `Je ne pourrais pas localiser l’article actual. » « 

L’étude complète mérite d’être examinée, mais il semble raisonnable d’être sceptique quant aux outils de recherche d’IA. Le problème est que les gens ne semblent pas faire cela. CJR a noté que 25% des Américains ont déclaré qu’ils utilisaient l’IA pour rechercher au lieu des moteurs de recherche traditionnels.

Google, le géant de la recherche, pousse de plus en plus l’IA sur les consommateurs. Ce mois-ci, il a annoncé qu’il élargirait les aperçus de l’IA et aurait commencé à tester les résultats de recherche AI ​​uniquement.

L’étude de CJR n’est qu’un autre level de données montrant l’inexactitude de l’IA. Les outils ont montré, à maintes reprises, qu’ils donneront en toute confiance les mauvaises réponses. Et les géants de la technologie obligent l’IA dans presque tous les produits. Faites donc consideration à ce que vous croyez là-bas.