Comment créer une IA générative en laquelle vous pouvez avoir confiance

La plus grande réserve envers l’IA générative ne concerne pas le risque qu’elle se substitue à l’humain et la possible rationalisation des ressources. Ce qui inquiète le plus, c’est le risque de manque d'”inhibitions” qui pourraient générer des réponses et, par conséquent, des actions dangereuses et nuisibles pour ceux qui les utilisent.

Tout modèle d’IA générative peut facilement créer un e-mail de phishing sans faille, des informations éthiquement incorrectes ou distribuer des données sensibles. En général, cela peut conduire à des actions incorrectes, tant de la part des humains que des applications qui l’exploitent et transforment les entrées reçues en actions.

Mais, d’un autre côté, le modèle d’IA générative est le même que celui que nous, les hommes, fournissons pour éduquer en temps réel avec nos demandes et avec l’accès aux sources de données que nous décidons. GPT Einstein et le nouvelle technologie Salesforce pour les entreprises résultant de l’évolution de la plateforme Einstein et de l’intégration avec ChatGPT et divers modèles LLM. C’est une plate-forme très large avec un potentiel énorme que certaines grandes entreprises dans le monde utilisent déjà, une union des composants Slack GPT, Tableau GPT, Marketing GPT et Commerce GPT. Il s’agit d’un modèle d’IA génératif qui tire des informations des plates-formes contenues dans Salesforce Customer 360 et est approuvé. Sur qui vous pouvez vraiment compter.

Ce que signifie être Confiance

La confiance est l’indicateur qui distingue le plus l’IA générative de Salesforce. Comme dans tout, l’utilisateur – qui travaille dans la division des ventes, le marketing, le service de support client, la logistique ou les techniciens responsables du site de commerce électronique – s’interface avec Einstein GPT via une invite. Le prompt est un champ dans lequel l’utilisateur formule sa question en langage naturel. Les demandes possibles sont infinies, toutes dans le but ultime de recevoir des informations détaillées sur un client, un marché, un produit/service de l’entreprise ou comment activer une certaine action, qui peuvent également être envoyées directement par l’IA générative à l’application qui l’exécuter.

Toutes les “questions” qui sont posées contribuent alors à former l’Intelligence Artificielle, afin d’apporter des réponses toujours plus précises, des “conseils” toujours plus utiles et des actions toujours plus efficaces. Ce processus a deux problèmes critiques. Le premier concerne le type et la manière dont les questions sont posées, car elles influencent l’éducation du moteur. Le second concerne la recherche automatique d’informations que le moteur effectue, à la fois sur des sources de données internes à l’entreprise, c’est-à-dire les applications Salesforce Customer 360 mais également auprès de tiers si elles sont correctement intégrées, et sur des sources de données externes, telles que le Web.

L’intelligence de l’IA générative étant encore artificielle, elle peut naturellement être influencée par ceux qui l’instruisent et par le choix des sources de données. C’est là que la confiance de Salesforce dans Einstein GPT entre en jeu. La plateforme comprend un niveau de contrôle des informations extraites des sources et traitées par le moteur d’intelligence artificielle. Il s’agit d’appliquer une série de filtres qui fonctionnent successivement pour s’assurer que les données des clients obtenues à partir du LLM sont non confidentielles et utilisables, qu’elles sont éthiquement correctes, qu’elles sont extraites sans porter atteinte à la sécurité de l’architecture applicative de l’entreprise et que ceux qui les demandent vous avez autorisés.

“Les données récupérées sont conservées sur le serveur (client) de l’entreprise, masquées, puis envoyées au modèle LLM pour générer un résultat ou une réponse”, a déclaré Jayesh Govindarajan, vice-président principal Data Science and Engineering chez Salesforce à AI Day of New York – Ainsi, la pile copie ou absorbe essentiellement les politiques de gestion des identités et des accès qui existent déjà pour cet employé.

Qu’est-ce que ça veut dire? Que Salesforce répond concrètement aux entreprises, pratiquement toutes aujourd’hui, qui doivent garantir la protection complète des données qu’elles collectent sur leurs clients. Et non seulement cela, ils doivent s’assurer de ne pas les laisser tomber entre les mains, même au sein de l’entreprise, ou à l’intérieur d’applications tierces non autorisées et de préserver l’éthique et le respect dans les activités que l’IA générerait automatiquement à la suite du traitement par le Moteur LLM.