Prompt Security, Inc. annonce son partenariat avec F5 pour proposer un pare-feu pour les applications d'IA sur les Distributed Cloud Services de F5. Cette solution commune vise à répondre au besoin croissant de protéger les applications alimentées par l'IA générative (GenAI), car ces applications exposent les organisations à une toute nouvelle surface d'attaque. Le Firewall for AI de Prompt Security, désormais disponible sur l'App Stack de Distributed Cloud Services de F5, apportera de la valeur aux organisations dans quatre domaines clés de la sécurité GenAI : S'attaquer aux risques de sécurité spécifiques à la GenAI : GenAI a apporté avec lui un tout nouvel ensemble de risques de sécurité tels que l'injection rapide, le jailbreaking, le déni de portefeuille, et plus encore, et en tant que tel, les approches de sécurité traditionnelles ne suffiront pas à elles seules.

Tout le trafic vers les applications GenAI est acheminé par Prompt Security, ce qui offre une visibilité et une protection complètes sur les invites entrantes. Garantir la confidentialité des données et prévenir les fuites : Afin de fournir l'expérience utilisateur la plus bénéfique, les applications GenAI ont généralement accès aux ressources de l'entreprise, mais aussi aux LLM et aux bases de données vectorielles de tiers. Prompt Security peut filtrer et obscurcir toute donnée sensible à la volée, ce qui permet aux organisations de préserver la confidentialité de leurs données et de rester conformes.

Modération du contenu produit par les LLM : Il est tout aussi important d'inspecter les messages-guides des utilisateurs avant qu'ils n'atteignent les systèmes de l'entreprise que de s'assurer que les réponses produites par les LLM sont sûres et ne contiennent pas de contenu toxique ou nuisible qui pourrait être préjudiciable à l'entreprise. Mettre en place une gouvernance et une visibilité : Les développeurs d'applications et les équipes de sécurité doivent surveiller le trafic entrant et sortant des applications GenAI à tous les points possibles. Cela deviendra de plus en plus important à mesure que les réglementations entourant l'IA se resserreront.

Prompt Security fournit une journalisation complète de chaque interaction avec les apps GenAI maison, y compris l'utilisateur, l'invite, la réponse, les résultats et plus encore.