Meta AI Bot contribue à de fausses recherches en ligne

Le robot IA Galactica de Meta a été mis en pause après seulement deux jours.

Photo: Andréa Verdelli (Getty Images)

Demi a mis son Intelligence artificielle (IA) bot la semaine dernière, deux jours seulement après sa publication. Le bot, appelé Galactica, a été entraîné « sur 106 milliards de jetons de texte et de données scientifiques en libre accès. Cela comprend des articles, des manuels, des sites Web scientifiques, des encyclopédies, des documents de référence, des bases de connaissances et plus encore », a déclaré la société. La bête du quotidien.

Il était censé aider les universitaires et les chercheurs à trouver des articles et des études rapidement et de manière concise, mais au lieu de cela, il a été submergé par une grande quantité de désinformation citant de manière erronée des scientifiques réputés.

La réputation des scientifiques pourrait être en danger lorsqu’ils sont mal cités dans le texte, a déclaré Carl Bergstrom, professeur de biologie à l’Université de Washington. Crumpe que le problème de Galactica est qu’il a été promu comme un moyen d’obtenir des faits et des informations. Mais au lieu de cela, il a dit que cela agissait comme “une version loufoque du jeu où vous commencez par une demi-phrase, puis laissez la saisie semi-automatique remplir le reste de l’histoire”.

Quelques heures après la sortie de Galactica, les utilisateurs ont commencé à signaler des articles racistes et inexacts, avec une personne poster une image de répondre à une question sur les préjugés linguistiques. La réponse du bot a faussement affirmé que les Noirs “n’ont pas de langue propre” et que les immigrants “ne parlent pas une langue autre que la langue du pays dans lequel ils ont immigré”.

D’autres informations générées comprenaient une fausse étude sur les avantages de la consommation de verre brisé et de fausses informations sur les chercheurs de l’Université de Stanford créant un logiciel “gaydar” pour trouver des gays sur facebook.

Un porte-parole de Meta AI a déclaré à CNET : « Galactica n’est pas une source de vérité, c’est une expérience de recherche utilisant [machine learning] des systèmes d’apprentissage et de synthèse d’informations ». Il a ajouté que Galactica “est une quête exploratoire à court terme sans aucun plan de produit”. Le scientifique en chef de Meta AI, Yann LeCun, a déclaré au point de vente que le bot avait été supprimé parce que l’équipe était “tellement contrariée par le vitriol sur Twitter”.

Deux jours après le lancement de Galactica, l’équipe Meta AI a mis le bot et le scientifique en chef de l’IA de Meta en attente Yann LeCun a tweeté, “La démo Galactica est hors ligne pour le moment. Il n’est plus possible de s’amuser en en faisant mauvais usage. Heureux?”

Meta AI (anciennement appelé Facebook Artificial Intelligence Research) a développé Galactica comme un moyen « organiser la science » et condenser une énorme quantité d’informations scientifiques trouvées en ligne. L’idée était d’avoir une intelligence artificielle faire des choses comme résoudre des problèmes mathématiques, écrire du code scientifique et créer des résumés de recherche.

Demi note sur le site Galactica que le modèle d’IA a des limitations qui peuvent le faire “halluciner”. Le site conseille aux utilisateurs de vérifier toutes les informations qui apparaissent et de continuer à dire “Il n’y a aucune garantie de sortie vraie ou fiable des modèles de langage, même les plus volumineux sur des données de haute qualité comme Galactica”, ajoutant que le texte généré peut sembler “très authentique et très confiant”, mais peut toujours être faux.

“J’imagine que même avec ses nombreux défauts prévisibles, il existe des utilisations souhaitables pour un tel système”, a déclaré Vincent Conitzer, professeur d’informatique à l’Université Carnegie Mellon de Pittsburgh, au Daily Beast.

“Mon intuition est que Meta aurait pu faire mieux en mettant plus d’efforts dans cette version publique, en faisant d’abord des études d’utilisateurs plus sérieuses, en attirant l’attention sur les utilisations souhaitables du système et en étant honnête et ouvert sur les utilisations indésirables.”

Leave a Reply

Your email address will not be published. Required fields are marked *