Description
GLTR est un outil développé par le laboratoire d'IA MIT-IBM Watson et HarvardNLP qui peut détecter du texte généré automatiquement en utilisant une analyse forensique. Il détecte quand un texte a été artificiellement généré en analysant la probabilité qu'un modèle linguistique ait généré le texte. GLTR analyse visuellement la sortie du modèle linguistique GPT-2 117M d'OpenAI, ce qui lui permet de classer chaque mot selon sa probabilité d'avoir été produit par le modèle. L'outil met ensuite en évidence les mots les plus probables en vert, suivis de jaune et de rouge, et le reste des mots en violet. GLTR fournit une indication visuelle directe de la probabilité de chaque mot sous le modèle, ce qui facilite l'identification du texte généré par ordinateur. GLTR montre également trois histogrammes qui agrègent des informations sur l'ensemble du texte. Le premier histogramme montre combien de mots de chaque catégorie apparaissent dans le texte, le deuxième illustre le ratio entre les probabilités du premier mot prédit et du mot suivant, et le troisième montre la distribution des entropies des prédictions. En analysant ces histogrammes, GLTR fournit des preuves supplémentaires pour déterminer si un texte a été artificiellement généré. GLTR peut être utilisé pour détecter de faux avis, commentaires ou articles de presse générés par de grands modèles linguistiques, qui ont le potentiel de produire des textes indiscernables des textes rédigés par des humains pour un lecteur non-expert. GLTR est accessible via une démonstration en direct et le code source est disponible sur Github. Les chercheurs peuvent également consulter l'article de démonstration de l'ACL 2019, nommé pour la meilleure démonstration.
Partagez Sur :

GLTR

À partir de 9,99 $/mois
Partagez Sur :
Découvre des outils d'I.A similaires :

TheDream

Pas de tarification
Aucun outil similaire disponible.














