La technologie Lexar AI Storage Core réduit l’utilisation de la DRAM jusqu’à 40 % dans les charges d’IA

S’adapter à l’époque actuelle, où intelligence artificielle passe de l’exécution dans le cloud aux appareils localement, Lexar a introduit de nouvelles solutions de stockage pour aider à exécuter les tâches les plus exigeantes de cette nouvelle génération d’IA. Ce nouveau noyau de stockage est construit avec des nœuds et un packaging avancés, une planification et une optimisation intelligentes pour rendre votre système plus efficace.

AI Storage Core combine matériel et logiciel pour accélérer les charges de travail d’IA

La base de ce noyau Noyau de stockage IA offrir ces excellentes performances est une solution matérielle et logicielle intégrée qui se concentre sur un seul disque USP avec un contrôleur Longsys Gen 5 (développé par l’entreprise elle-même). Il dispose d’un processus avancé de 5 nm et l’architecture sans DRACHMErépondant aux problèmes actuels liés à la fourniture de ces types de composants, et avec des performances similaires pour l’IA.

Le logiciel de Lexar permet de combiner l’unité de stockage avec le DRACHMEdirigeant la charge de travail sensible entre les différentes mémoires système. Cela permet au stockage d’occuper une place centrale, tout en réduisant la consommation de DRAM jusqu’à 40%.

Optimisé pour les modèles MoE, le cache KV et les grands volumes de paramètres

Ce moteur est optimisé pour faire fonctionner de gros modèles MoE (Mélange d’experts)un nombre élevé de paramètres, une croissance constante du cache K.V. et des latences d’entrée et de sortie adaptées pour améliorer la fluidité des réponses. Ceci est réalisé grâce à un système intelligent de répartition des charges de travail, utilisant des algorithmes prédictifs pour le préchargement des données, ainsi qu’une meilleure utilisation et optimisation de la mémoire cache.

Lexar s’engage en faveur d’une gestion intelligente des ressources matérielles

Lexar veut offrir plus qu’une simple unité de stockage de données, en proposant une gestion intelligente des ressources matérielles.