Red Hat, Inc. annonce la prise en charge prochaine de l'intégration des microservices NVIDIA NIM sur Red Hat OpenShift AI afin d'optimiser l'inférence pour des dizaines de modèles d'intelligence artificielle (IA) soutenus par une plate-forme cloud hybride IA/ML cohérente et open source. Les entreprises pourront utiliser Red Hat OpenShift AI avec NVIDIA NIM - un ensemble de microservices d'inférence faciles à utiliser, inclus dans la plate-forme logicielle NVIDIA AI Enterprise, pour accélérer la livraison d'applications d'IA générative (GenAI) afin d'accélérer le temps de retour sur investissement. La prise en charge de NVIDIA NIM sur Red Hat OpenShift AI s'appuie sur l'optimisation existante de NVIDIA AI Enterprise sur les technologies cloud hybrides ouvertes de Red Hat, notamment Red Hat Enterprise Linux et Red Hat OpenShift.

Dans le cadre de cette nouvelle collaboration, NVIDIA va permettre l'interopérabilité de NIM avec KServe, un projet open source basé sur Kubernetes pour des cas d'utilisation d'IA hautement évolutifs et un contributeur en amont de Red Hat OpenShift AI. Cela permettra d'alimenter l'interopérabilité continue des microservices NVIDIA NIM dans les futures itérations de Red Hat OpenShift AI. Cette intégration permet aux entreprises d'accroître leur productivité grâce à des capacités GenAI telles que l'extension du service client avec des assistants virtuels, le résumé de cas pour les tickets informatiques et l'accélération des opérations commerciales avec des copilotes spécifiques à un domaine.

En utilisant Red Hat OpenShift AI avec NVIDIA NIM, les entreprises peuvent bénéficier des avantages suivants : chemin simplifié vers l'intégration pour déployer NVIDIA NIM dans un flux de travail commun avec d'autres déploiements d'IA pour une plus grande cohérence et une gestion plus facile. Mise à l'échelle et surveillance intégrées pour les déploiements de NVIDIA NIM en coordination avec d'autres déploiements de modèles d'IA dans des environnements de cloud hybride. Sécurité, support et stabilité de niveau entreprise pour assurer une transition en douceur du prototype à la production pour les entreprises dont les activités reposent sur l'IA.

Les microservices NVIDIA NIM sont conçus pour accélérer le déploiement de GenAI dans les entreprises. Prenant en charge une large gamme de modèles d'IA, y compris les modèles communautaires open-source, les modèles de la NVIDIA AI Foundation et les modèles personnalisés, NIM fournit une inférence d'IA transparente et évolutive sur site ou dans le nuage via des interfaces de programmation d'applications (API) standard de l'industrie.