Le modèle multimodal compte 816 milliards de paramètres au total, avec 42 milliards de paramètres actifs et une fenêtre contextuelle de 1 million de jetons.
Meta a dévoilé Muse Spark Open, le qualifiant de modèle américain à poids ouvert « le plus performant » à ce jour. La société a déclaré que le nouveau modèle est le premier de sa catégorie à pouvoir fonctionner sur un ordinateur de bureau utilisant deux des studios M5 Ultra Mac d'Apple avec son dernier cadre d'apprentissage automatique.
Le modèle multimodal compte 816 milliards de paramètres au total, avec 42 milliards de paramètres actifs et une fenêtre contextuelle de 1 million de jetons. Selon l’entreprise, il est conçu pour le codage, le travail agent et d’autres tâches de raisonnement complexes en plusieurs étapes.
Contrairement à leurs contemporains à poids fermé, les développeurs peuvent télécharger les paramètres d'un modèle à poids ouvert et les modifier selon leurs besoins. Cependant, les modèles open source ne sont pas les mêmes que les modèles open source qui donnent également accès aux données et au code de formation.
Meta a déclaré que les poids des modèles sont disponibles en téléchargement via Amazon SageMaker AI, Google Cloud Model Garden, Hugging Face et Microsoft Foundry Models. Le modèle est disponible via des plateformes API populaires, notamment Groq, OpenRouter et Baseten.
La Chine est actuellement en tête dans le domaine des pondérations ouvertes, avec des modèles développés par des fabricants chinois tels que Xiaomi, Z AI, Kimi, Alibaba et DeepSeek se classant régulièrement au-dessus de leurs homologues américains dans le classement d'Artificial Analysis.
Muse Spark Open bénéficie d'une sécurité supplémentaire après la formation, a indiqué la société. Il a évalué le modèle en fonction de ses « risques les plus graves » et a constaté qu’il respectait les seuils fixés par Meta.
Les modèles ouverts sont considérés comme nécessaires au leadership de l’IA, car la possibilité de modifier un modèle signifie que les organisations, des start-ups aux institutions publiques, peuvent s’appuyer sur des modèles avancés sans en former un à partir de zéro.
Plus tôt ce mois-ci, Mistral, le chouchou français de l'IA, a annoncé son dernier modèle d'IA à poids ouvert, le Mistral Large 4, qui, selon lui, « surpasse considérablement » tout modèle à poids ouvert développé aux États-Unis ou en Europe.
Connu sous le nom de « Le Chonk », ML4 est un modèle multimodal natif à 1 000 milliards de paramètres avec 49 milliards de paramètres actifs, et le « modèle le plus grand et le plus performant à ce jour » de Mistral.
