Votre prochain téléphone Android pourrait avoir un chatbot de type ChatGPT, aucun cloud requis

Les chipsets Qualcomm alimentent de nombreux smartphones et tablettes Android, ainsi que certains PC et appareils embarqués Windows. Aujourd'hui, la société a révélé certaines avancées qui pourraient signifier que votre prochain téléphone Android disposera de son propre chatbot local de type ChatGPT ou d'un générateur d'images de type Stable Diffusion, sans avoir besoin de serveurs externes ni d'abonnements payants.

Qualcomm a fait de nombreuses annonces liées à l'IA aujourd'hui, notamment un « Qualcomm AI Hub » qui permet aux développeurs d'applications d'accéder à un modèle d'IA optimisé, ainsi que de nouveaux modems dotés de la « 5G alimentée par l'IA ». La société a également discuté de l'exécution de grands modèles multimodaux (LLM) sur un téléphone Android avec les puces Snapdragon de Qualcomm, permettant potentiellement à davantage de tâches d'IA de s'exécuter localement sur un smartphone, au lieu d'utiliser un service externe comme ChatGPT, Microsoft Copilot ou Galaxy AI. Cette approche présente des avantages en termes de confidentialité et de convivialité : vous n'avez pas besoin d'un serveur externe pour traiter les réponses (ce qui peut coûter de l'argent) et toutes les données restent sur votre appareil.

Dans un communiqué de presse, Qualcomm affirme disposer du premier LMM au monde fonctionnant sur un smartphone Android, mais n'a pas mentionné le matériel exact utilisé (vraisemblablement un téléphone équipé de la dernière puce Snapdragon 8 Gen 3 de Qualcomm). La société a décrit la démo comme « un LMM de plus de 7 milliards de paramètres qui peut accepter plusieurs types d'entrées de données, y compris du texte et des images, et générer des conversations à plusieurs tours avec un assistant IA à propos d'une image – fonctionnant pour la première fois sur un smartphone Android. .» Il s'agit d'une version modifiée du modèle LLaVA.

Qualcomm a également présenté une version modifiée de Stable Diffusion, le populaire générateur d'images IA, fonctionnant sur un téléphone Android. Stable Diffusion fonctionne en mode « Low Rank Adaption » (LoRA), qui réduit la taille des données d'entraînement tout en offrant une qualité et des performances décentes. Cette configuration ne fonctionnera pas aussi bien que Stable Diffusion sur une carte graphique de bureau complète ou un serveur GPU distant, mais elle reste impressionnante. Qualcomm a testé une autre démo de Stable Diffusion sur un téléphone Android en 2023, capable de générer une image 512x512 en moins de 15 secondes.

Ces démos existent plus comme références techniques pour le matériel Qualcomm qu’autre chose, et il n’est pas clair si cela deviendra une application raffinée que vous pourrez exécuter sur les téléphones et tablettes Android. Il est possible que Qualcomm partage son travail sur son nouveau « AI Hub », où d'autres développeurs pourraient l'utiliser dans leurs propres applications pour téléphones et tablettes. Avec un peu plus de travail, nous pourrions avoir un assistant limité de type ChatGPT sur les téléphones Android sans exigence de cloud – quelque chose sur lequel Apple travaillerait pour les iPhones.

Source : Qualcomm