Les API GenAI de ML Kit exploitent la puissance de Gemini Nano pour aider vos applications à effectuer des tâches. Ces API offrent une qualité prête à l'emploi pour les cas d'utilisation courants via une interface de haut niveau. Les API ML Kit GenAI sont basées sur AICore, un service système Android qui permet d'exécuter des modèles de fondation GenAI sur l'appareil afin de faciliter des fonctionnalités telles que l'amélioration des fonctionnalités de l'application et de la confidentialité des utilisateurs en traitant les données localement.
Les API ML Kit GenAI sont compatibles avec les fonctionnalités suivantes:
- Résumé: résumez les articles ou les conversations par chat sous forme de liste à puces.
- Relecture: affinez le contenu court en corrigeant la grammaire et les fautes d'orthographe.
- Réécriture: réécrivez des messages courts dans différents tons ou styles.
- Description de l'image: génère une brève description d'une image donnée.
Avantages des API GenAI
Comme les autres fonctionnalités ML Kit existantes, les API GenAI s'exécutent entièrement sur l'appareil et présentent donc les avantages suivants:
- Les données d'entrée, d'inférence et de sortie sont traitées localement
- La fonctionnalité reste la même sans connexion Internet fiable
- Aucun coût de serveur supplémentaire n'est généré pour chaque appel d'API.
De plus, comme les API GenAI sont basées sur AICore et optimisées par Gemini Nano, chaque application peut utiliser le modèle Gemini Nano partagé qui se trouve sur l'appareil. Cela évite d'avoir à attendre le téléchargement d'un modèle s'il existe déjà sur un appareil, ce qui permet de préserver l'espace de stockage. En savoir plus sur la façon dont AICore isole les requêtes pour protéger la confidentialité
Streaming ou non
Les API ML Kit GenAI proposent des options de streaming et non de streaming pour recevoir des résultats. L'API de streaming envoie les réponses de manière incrémentielle à mesure qu'elles sont générées, ce qui fournit un flux de données continu. En revanche, l'API non en streaming attend que la réponse complète soit terminée avant de la renvoyer en tant que bloc unique.
Choisissez l'API de streaming pour les réponses longues, car elle permet d'obtenir des commentaires initiaux plus rapides. L'API non en streaming est plus adaptée aux réponses courtes ou lorsque vous traitez des résultats par lot.
Vérifier si l'appareil est compatible
Les API ML Kit GenAI sont disponibles sur les appareils suivants. Nous prévoyons de les proposer sur d'autres appareils:
- Google: Pixel 9, Pixel 9 Pro, Pixel 9 Pro XL, Pixel 9 Pro Fold
- Honor: Magic 7 Pro, Magic 7
- iQOO: iQOO 13
- Motorola: Razr 60 Ultra
- OnePlus: OnePlus 13, OnePlus 13s
- OPPO: Find N5, Find X8, Find X8 Pro
- POCO: POCO F7 Ultra
- realme: realme GT 7 Pro
- Samsung: Galaxy S25, Galaxy S25+ et Galaxy S25 Ultra
- vivo: vivo X200, vivo X200 Pro
- Xiaomi: Xiaomi 15 Ultra, Xiaomi 15
La disponibilité de la prise en charge d'une langue spécifique peut varier en fonction de la configuration de l'appareil et des modèles téléchargés sur celui-ci.
Quota par application
AICore applique un quota d'inférence par application. Cela signifie que si vous envoyez trop de requêtes API GenAI en peu de temps, vous recevrez une réponse ErrorCode.BUSY. Lorsque vous recevez une telle erreur, envisagez d'utiliser un intervalle exponentiel entre les tentatives pour relancer la requête.
Utilisation en arrière-plan
L'inférence de l'API GenAI n'est autorisée que lorsque l'application est l'application de premier plan principale. L'utilisation de l'API lorsque l'application n'est pas au premier plan, y compris à l'aide d'un service de premier plan, entraînera une réponse ErrorCode.BUSY en raison du manque actuel de quota d'utilisation en arrière-plan.
Exemple de code
Pour obtenir ce code, consultez les exemples suivants: