Impact de l’IA générative sur les entreprises : les défis et les conseils pour les DSI

“Comment votre entreprise est-elle impactée par l’IA générative ? Comment, disons, ChatGPT a-t-il touché votre modèle commercial ? » demande Carmichael, notant que certaines entreprises ont déjà perdu une valeur marchande importante en raison de la concurrence soudaine de la génération d’IA.

“C’est un problème pour les DSI. Certains s’attendent à des économies de coûts grâce à cette technologie, mais on s’attend également à ce qu’ils trouvent des moyens d’intégrer cette technologie [into their company’s products] pour renforcer leurs offres », ajoute Carmichael. “C’est là que les DSI doivent acquérir des connaissances sur la technologie et fournir des conseils et des conseils.”

5. Construire un moteur en vol

Comme s’il ne s’agissait pas de défis suffisamment importants à relever, les dirigeants doivent agir rapidement et les relever pendant que tout est en cours.

Douglas Merrill, associé du cabinet de conseil en gestion McKinsey & Co., déclare que les DSI devraient appliquer des processus agiles à leur stratégie d’IA gen. “Vous devez apprendre au fur et à mesure que les choses avancent, mais faites [iterations] sûrs et contrôlés et axés sur la gestion des risques », explique-t-il.

6. Pas encore de bons conseils

Alors que les DSI cherchent à apporter le contrôle et la gestion des risques à une technologie qui suscite un intérêt généralisé et de nombreuses expérimentations, ils le font sans conseils ni soutien préexistants.

“L’un des problèmes particuliers auxquels nous sommes tous confrontés est que l’IA générative est vraiment nouvelle et qu’elle évolue très rapidement, il n’y a donc pas beaucoup d’outils en place”, déclare Merrill. “Les lignes directrices sur les risques pour la génération d’IA sont fragiles et nouvelles, et il n’y a pas de ‘Voici comment penser aux barrières de sécurité’ communément acceptées.’ Il y en aura éventuellement, mais ils n’existent pas encore.

7. Innover rapidement

Un autre domaine auquel les DSI doivent s’attaquer : comment utiliser l’IA générative pour différencier leurs organisations.

Les DSI doivent se concentrer sur “où ils peuvent utiliser efficacement l’IA générative”. Ce n’est pas un marteau. Ils recherchent l’art du possible. Et il y a tellement de possibilités qu’il faut les aligner directement sur la stratégie de l’entreprise », explique Frances Karamouzis, éminente vice-présidente analyste du cabinet d’études Gartner.

Elle reconnaît que l’innovation axée sur la technologie n’est pas nouvelle pour les DSI, mais la génération d’IA présente en effet de nouveaux défis en raison de la rapidité de son évolution, ainsi que de sa puissance et de sa complexité.

“Les DSI vont devoir imaginer, éduquer et exécuter d’une manière très différente en termes de vitesse et de viscosité de ce que sont les solutions”, ajoute Karamouzis.

8. Identifier, hiérarchiser les cas d’utilisation

La société de recherche IDC a découvert dans son Mai 2023 Résultats de l’IA générative de l’enquête sur les services d’intelligence d’entreprise que près de 70 % des acheteurs de services d’intelligence d’entreprise envisagent ou travaillent activement sur des cas d’utilisation de l’IA générative.

Les entreprises ont besoin d’un moyen de collecter, d’examiner et de hiérarchiser les idées sur la manière d’utiliser la technologie au profit de l’entreprise.

« Les DSI doivent avant tout établir une feuille de route claire pour la mise en œuvre de l’IA générative. Qu’il s’agisse d’objectifs de gains de productivité ou d’autres gains commerciaux, ils doivent être alignés sur [the whole C-suite] sur la feuille de route avant toute sélection de technologies pour activer la feuille de route », déclare Goh Ser Yoong, responsable de la conformité chez Advance.AI et membre du groupe de travail sur les tendances émergentes de l’ISACA.

Karamouzis affirme que les DSI doivent tirer parti de leur expérience antérieure dans la hiérarchisation des initiatives axées sur la technologie et appliquer la même discipline aux idées d’IA de génération pour s’assurer que leurs organisations investissent judicieusement.

Dans son enquête, IDC a constaté que les cas d’utilisation les plus prioritaires relèvent des catégories de la gestion des connaissances, de la génération de code et de la conception et de l’ingénierie de produits ou de services. Les acheteurs étaient tout à fait d’accord avec le sentiment que l’IA générative permettra à leurs employés de se concentrer sur des tâches de plus grande valeur. Et les acheteurs étaient le plus souvent en désaccord sur le fait que l’IA générative les exposerait à des risques plus importants.

L’enquête gen AI de Foundry a révélé que les DSI du commerce de détail ouvrent la voie à l’identification des cas d’utilisation (49 %), suivis par les responsables informatiques des secteurs de la fabrication (42 %), de la technologie (42 %) et des services financiers (32 %).

9. Acheter vs modifier vs construire

Les entreprises peuvent intégrer l’IA générative dans leurs organisations de trois manières différentes, et les DSI guideront leurs entreprises pour décider de la manière qui leur convient le mieux.

McKinsey a développé un cadre de propriété qui décrit les différents types d’utilisation comme « preneur », « façonneur » et « fabricant ».

Un preneur utilise ce que quelqu’un d’autre a construit, en tirant parti des capacités directement prêtes à l’emploi. Le façonneur personnalisera essentiellement ces capacités pour qu’elles fonctionnent pour ses propres besoins ou avec ses propres données propriétaires. Le fabricant – le moins courant des trois types, selon McKinsey’s Merrill – a le plus grand besoin de structure et de contrôle et construira donc ses propres modèles pour répondre à ses exigences hautement spécialisées.

10. Préparation de l’entreprise

Qu’une entreprise soit preneur, façonneur ou fabricant, elle aura besoin d’une pile technologique et d’un programme de données suffisamment modernes pour utiliser efficacement l’IA générative.

“Les données, les structures dans le cloud, le réseau de calcul et le stockage, c’est certainement du ressort du DSI”, déclare Karamouzis, ajoutant que les DSI ont également la responsabilité d’identifier et de résoudre tout goulot d’étranglement ou barrière au sein de la technologie ou de la pile de données qui pourrait empêcher leurs organisations d’atteindre les objectifs d’IA de génération qu’ils se sont fixés.

Elle ajoute : “Les DSI sont ceux qui construiront la technologie pour permettre cela.”

11. Confidentialité et sécurité des données

Au milieu du printemps 2023, la société d’électronique sud-coréenne Samsung interdit aux employés d’utiliser des outils d’IA générative après avoir découvert qu’une partie de son code source interne avait été téléchargée sur ChatGPT.

D’autres entreprises craignent que leurs travailleurs fassent de même, dit Kashifuddin.

“Alors que la main-d’œuvre interagit avec ces outils, les entreprises doivent s’assurer qu’elles n’introduisent pas de données propriétaires qui sont renvoyées aux modèles fondamentaux”, ajoute-t-il.

Les dirigeants se tournent vers leurs DSI, ainsi que leurs responsables des données et responsables de la confidentialité, pour prendre des mesures, développer des politiques de gouvernance, mettre en œuvre des contrôles et déployer des outils de surveillance pour s’assurer que les employés suivent des politiques d’utilisation acceptables et n’exposent pas les données exclusives et la propriété intellectuelle.

12. Respect des lois sur les données et la confidentialité

Un autre problème auquel sont confrontés les DSI – ainsi que les responsables des données, de la conformité, des risques et de la sécurité – est le suivant : comment surveiller et s’assurer que les employés n’enfreignent pas les lois sur la confidentialité des données et les meilleures pratiques de protection des données s’ils utilisent l’IA générative.

“Lorsque vous mettez vos données dans un moteur d’IA contrôlé par quelqu’un d’autre, vous perdez le contrôle de ces données”, prévient Carl Froggett, CIO chez Deep Instinct, fabricant d’une plateforme de cybersécurité.

13. La nécessité d’une piste d’audit

Les DSI sont également invités à concevoir des moyens de discerner et d’auditer les résultats produits par l’IA générative afin de garantir que les résultats sont exacts, impartiaux et exempts de violation de la propriété intellectuelle protégée, selon les experts.

Comme l’explique Carmichael : “Une IA responsable et explicable sont d’autres défis auxquels les DSI vont devoir faire face.”

14. Nouvelle réglementation

Les gouvernements du monde entier débattent de l’opportunité et de la manière de réglementer l’utilisation de l’IA. Et tandis que les services juridiques des entreprises et les conseils externes aideront les dirigeants à discerner ce que les nouvelles lois signifient pour eux, les DSI auront un rôle à jouer pour faire en sorte que la technologie de l’IA au sein de l’entreprise adhère à toute nouvelle loi.

“Les DSI doivent se tenir au courant de l’évolution des réglementations et des cadres juridiques liés à l’utilisation de l’IA, comme la récente loi sur l’IA de l’Union européenne”, a déclaré Goh. « Le respect des lois sur la protection des données, des réglementations sur la propriété intellectuelle, des directives spécifiques à l’industrie et des normes éthiques est crucial. Les DSI doivent travailler en étroite collaboration avec les équipes juridiques pour comprendre et traiter toutes les implications juridiques associées à l’IA générative. »

15. Problèmes d’exactitude

De même, Kashifuddin et d’autres soulignent la nécessité pour les DSI d’aider leurs organisations et les travailleurs eux-mêmes à adopter des procédures d’assurance qualité qui vérifient toutes les informations produites par l’IA qu’ils reçoivent. Cela inclut la mise en œuvre de l’assurance qualité au sein de l’informatique pour tout code de ce type que les développeurs souhaitent utiliser, ajoute Kashifuddin.

Les conséquences d’un échec à cette étape peuvent être importantes, comme le montrent certains exemples bien connus. Un exemple notable est le cas d’un avocat de New York qui fait face à sa propre audience après avoir déposé un document juridique rédigé à l’aide de ChatGPT, qui comprenait des citations d’affaires juridiques constituées par la technologie.

16. Exigences de perfectionnement

L’IA remodèle rapidement la demande de compétences et de talents informatiques, et les employés de toute l’organisation devront apprendre à travailler avec des outils d’IA génératifs.

Pendant ce temps, les informaticiens doivent se recycler pour travailler avec des outils d’IA génératifs pour faire leur travail et acquérir les compétences nécessaires pour prendre en charge la technologie telle qu’elle est utilisée dans l’ensemble de l’organisation.

Comme le dit Goh : “Les DSI doivent évaluer les lacunes en matière de compétences au sein de leurs services informatiques et fournir une formation et des ressources adéquates pour comprendre et travailler efficacement avec l’IA générative.”

17. Menaces de cybersécurité renforcées par l’IA

Autre sujet de préoccupation pour les DSI : la manière dont les hackers utilisent l’IA générative.

“Vous parlez d’un nouveau niveau de sophistication dans [hackers] créer des e-mails et des messages et contourner la biométrie parce que l’IA générative prend en charge la personnalité, les manières et les phrases qu’une personne réelle utiliserait », déclare Froggett, ajoutant que l’IA générative peut générer de fausses vidéos et audio qui semblent authentiques.

Ces attaques sophistiquées peuvent rendre obsolètes les contrôles de sécurité existants, tels que l’authentification vocale, obligeant les DSI et les CISO à trouver rapidement des alternatives.

“Les contrôles que nous avions en place peuvent ne pas fonctionner à cause de ce que l’IA générative fait déjà”, ajoute Froggett.

18. Travailleurs nerveux

Dans un rapport de mars 2023, Goldman Sachs a calculé qu’environ les deux tiers des emplois actuels “sont exposés à un certain degré d’automatisation de l’IA, et que l’IA générative pourrait remplacer jusqu’à un quart du travail actuel”. En d’autres termes, selon l’entreprise, l’équivalent de 300 millions d’emplois à temps plein pourraient être perdus à cause de l’automatisation.

« Il y a beaucoup d’incertitude. Les gens pensent : ‘Comment cela va-t-il affecter ma carrière ? Dois-je me recycler? », Dit Carmichael.

En tant que membres de l’équipe de direction, les DSI devraient s’efforcer d’impliquer leurs employés et de répondre à leurs préoccupations, dit-elle, ajoutant qu’elle pense que l’intelligence artificielle générera des emplois – et peut-être plus que ce qui sera perdu. C’est un message que les DSI pourraient également partager, alors qu’ils s’attaquent au défi épineux de la gestion du changement de l’IA de génération.

19. Conduire le changement grâce à cette nouvelle technologie

Les DSI feront partie des cadres chargés de diriger leurs organisations à travers toutes les perturbations que la génération de l’IA devrait apporter.

Les DSI sont un candidat naturel pour ce travail, disent Carmichael et d’autres ; ils ont développé leurs compétences dans cet espace au cours de la dernière décennie alors qu’ils menaient leurs organisations à travers les transformations numériques.

Cependant, certains disent que mener à bien le changement à venir sera différent des scénarios de gestion du changement précédents, car le rythme d’adoption et la perturbation apportée par l’IA de génération pourraient éclipser les révolutions technologiques précédentes.

“Le rythme a surpris tout le monde, et maintenant nous devons suivre le rythme”, déclare Carmichael. “Donc, la question est de savoir dans quelle mesure vous gérez tout cela et avancez avec confiance.”

20. Rassembler les équipes

Le CIO, bien sûr, ne peut pas s’attaquer seul à tous ces problèmes – et le CIO ne devrait pas non plus essayer. Mais en tant que principal technologue dans de nombreuses organisations, le CIO sera probablement un conseiller clé de l’équipe de direction sur les risques et les opportunités que présente la génération de l’IA.

« Le CIO permet ou équipe, agit en tant que facilitateur, conseiller et livreur », déclare Karamouzis. “Alors maintenant, le rôle du CIO est l’un des rôles essentiels de la suite C pour aider les autres à comprendre toute la liste des choses qui doivent être faites.”