En rendant les modèles ouverts disponibles sous forme d'API sur AI Factory de Cassava, CAIMEx offre aux entreprises une plus grande flexibilité pour choisir la bonne combinaison de modèles pour leurs applications sans avoir à créer et exploiter leur propre infrastructure de diffusion de modèles.
En rendant les modèles ouverts disponibles sous forme d'API sur AI Factory de Cassava, CAIMEx offre aux entreprises une plus grande flexibilité pour choisir la bonne combinaison de modèles pour leurs applications sans avoir à créer et exploiter leur propre infrastructure de diffusion de modèles.
Technologies du manioc, un leader technologique mondial, a annoncé l'expansion de ses capacités AI Factory avec NVIDIA Modèles ouverts de Nemotron, aidant les entreprises et les fournisseurs de services à se développer et à innover grâce à l'IA de manière plus efficace et plus abordable.
Cassava déploie les modèles NVIDIA Nemotron en tant que service d'inférence géré et hébergé localement via Cassava AI Multi-Model Exchange (CAIMEx). En rendant les modèles ouverts disponibles sous forme d'API sur AI Factory de Cassava, CAIMEx offre aux entreprises une plus grande flexibilité pour choisir la bonne combinaison de modèles pour leurs applications sans avoir à créer et exploiter leur propre infrastructure de diffusion de modèles.
« L'expansion de notre AI Factory sur nos marchés consiste à créer la capacité et les économies nécessaires aux entreprises pour créer et déployer des solutions d'IA à grande échelle. En intégrant NVIDIA Nemotron dans CAIMEx, en améliorant l'efficacité de chaque cycle GPU et en introduisant des offres de jetons flexibles, nous donnons aux entreprises et aux fournisseurs de services plus de choix dans la manière dont ils accèdent à ces capacités et les fournissent à leurs clients. «
– Ahmed El Beheiry, directeur de la technologie et de l'IA du groupe, Cassava Technologies
NVIDIA Nemotron apporte à CAIMEx des capacités efficaces de raisonnement et d'utilisation d'outils, aidant ainsi les clients à créer des agents d'IA capables d'exécuter des tâches complexes et d'interagir avec des outils commerciaux. Ses poids de modèle ouvert, ses données de formation et ses recettes offrent également aux développeurs une base personnalisable qu'ils peuvent affiner pour créer des agents spécialisés adaptés à leurs applications.
À mesure que les entreprises mûrissent et que les agents d’IA assument des tâches de plus longue durée et accèdent aux systèmes d’entreprise, la sécurité et les garde-fous deviennent des exigences essentielles. Ceux-ci doivent être intégrés à l'infrastructure, et Cassava utilise NVIDIA OpenShell pour regrouper le calcul du modèle, l'exécution d'agents gouvernés et l'application indépendante de la sécurité pour les charges de travail agents des clients dans son AI Factory.
Le CAIMEx Token Optimiser est conçu pour améliorer l'économie de l'IA générative et agentique en identifiant les informations qui ont déjà été traitées et, le cas échéant, en les réutilisant plutôt que de traiter à nouveau le même contenu. Cela réduit les besoins informatiques et aide les clients à utiliser leurs jetons IA plus efficacement. L’approche s’applique à la fois aux modèles d’IA hébergés par Cassava et à ceux de tiers, aidant les entreprises à réduire les traitements inutiles à mesure que leur utilisation de l’IA évolue.
Cette expansion est la dernière étape dans le développement par Cassava d'un écosystème d'IA intégré, donnant aux entreprises l'accès à une infrastructure, des modèles et des services hébergés localement, favorisant la confiance dans la sécurité et le contrôle des données tout en soutenant leur croissance.
