Le Llama 2 est un modèle de langage large open source développé par Meta. Il est disponible gratuitement pour un usage à la fois académique et commercial. Ce modèle de prochaine génération comprend des modèles de langage pré-entraînés et affinés qui vont de 7 à 70 milliards de paramètres. Les modèles pré-entraînés ont été formés sur 2 billions de jetons et offrent une longueur de contexte double par rapport au Llama 1. Les modèles affinés ont été entraînés sur plus de 1 million d'annotations humaines. Le Llama 2 surpasse d'autres modèles de langage open source dans divers bancs d'essai externes, y compris en matière de raisonnement, de codage, de compétence et de tests de connaissances. Le modèle utilise des sources de données en ligne publiquement disponibles pour la préformation et des ensembles de données d'instructions publiquement disponibles, ainsi que plus de 1 million d'annotations humaines pour l'affinage.Meta a établi des partenariats avec des fournisseurs de cloud, des entreprises et des chercheurs qui soutiennent leur approche ouverte. Ils visent à créer un écosystème d'innovation AI responsable et collaboratif. Ils fournissent des ressources telles qu'un guide d'utilisation responsable pour les développeurs, un red teaming sécurité pour améliorer les performances et la sécurité, une communauté de recherche en intelligence artificielle ouverte pour les chercheurs universitaires, et le défi de l'impact du Llama pour encourager l'utilisation du Llama 2 pour relever les défis environnementaux et éducatifs. Meta gère également un forum de la communauté AI génératif, en consultation avec le Stanford Deliberative Democracy Lab et l'équipe de Behavioral Insights, pour impliquer la communauté dans la prise de décisions concernant les technologies de l'IA générative. Pour accéder au Llama 2, les utilisateurs peuvent remplir un formulaire de téléchargement, en acceptant la politique de confidentialité de Meta. Des ressources supplémentaires, telles qu'une vue d'ensemble technique, un article de recherche et un billet de blog, fournissent plus d'informations sur le Llama 2 et son utilisation responsable.