Phi-3 de Microsoft : un challenger ChatGPT fonctionnant sur votre iPhone

Le Phi-3 de Microsoft : un challenger Mobile ChatGPT ? OpenAI en alerte !

Microsoft vient de lancer une bombe dans le monde de l'IA avec sa nouvelle série Phi-3 de petits modèles de langage. Ces modèles, conçus pour fonctionner sur des appareils mobiles, offrent des capacités impressionnantes qui défient même le GPT-3.5 d'OpenAI.

Le Petit Titan : Phi-3-mini

Même avec seulement 3,8 milliards de paramètres, le Phi-3-mini surpasse le Llama 3 (8B) dans de nombreux tests de référence. Ce modèle, optimisé pour le déploiement mobile, peut fonctionner à une vitesse impressionnante de 12 jetons par seconde sur la puce A16 d'Apple présente dans l'iPhone 14 Pro et l'iPhone 15. Cela signifie qu'une expérience de niveau ChatGPT est désormais possible directement sur votre téléphone !

Plus qu'une simple mini :

Microsoft ne s'arrête pas à la version "mini". Ils ont également publié Phi-3-small (paramètres 7B) avec prise en charge multilingue et Phi-3-medium (paramètres 14B), qui surpasse GPT-3.5 et Mixtral 8x7b MoE dans la plupart des tests. Un "Phi-3-large" plus grand est prévu à l'avenir.

Le Data Edge : la clé du succès

L'arme secrète de Microsoft ? Données. Ils ont découvert que la simple taille des paramètres ne fait pas tout ; des données de formation méticuleusement organisées font une énorme différence. Phi-3 exploite les données synthétiques générées par de grands modèles de langage eux-mêmes, associées à des données de haute qualité rigoureusement filtrées. Cette approche « Les manuels sont tout ce dont vous avez besoin » conduit à des gains de performances remarquables dans des modèles plus petits.

Données de formation à grande échelle :

Phi-3-medium a été formé sur un nombre impressionnant de 48 000 milliards de jetons, mettant l'accent sur le contenu éducatif et factuel plutôt que sur les informations bruyantes ou non pertinentes. Cet affinement des données, combiné à un réglage précis des instructions et à une formation RLHF, se traduit par des capacités conversationnelles et des mesures de sécurité impressionnantes.

Limites et perspectives d’avenir :

Même si le Phi-3 démontre des capacités remarquables, les petits modèles ont encore des limites. Leur capacité à stocker de grandes quantités de connaissances est limitée. Microsoft le reconnaît et suggère d'intégrer des moteurs de recherche pour la vérification des faits et l'expansion des connaissances.

L’avenir s’annonce prometteur pour Phi-3. Microsoft s'engage à améliorer davantage ses capacités multilingues, ses fonctionnalités de sécurité et ses performances globales.

OpenAI sous pression ?

Avec Phi-3 dépassant ChatGPT dans certains domaines, la pression est sur OpenAI pour fournir un digne successeur de GPT-3.5. Cette avancée open source pourrait remodeler considérablement le paysage de l’IA, rendant des modèles puissants accessibles à tous.