Comment l’IA peut changer les discussions

NVos technologies suscitent des espoirs et des craintes. La fascination prévaut souvent, qui se transforme en scepticisme face aux revers et aux effets secondaires inconsidérés. C’est le cas, par exemple, d’Internet et des médias sociaux, qui étaient initialement célébrés comme libérant l’individu de l’immaturité médiatique et sont aujourd’hui fustigés comme source de division sociale et d’autopromotion superficielle.

Les avancées les plus récentes en matière de développement de l’intelligence artificielle dans le domaine de la génération de texte, qui ont été rendues accessibles à un large public grâce à ChatGPT, ont également mis en mouvement l’interaction entre l’optimisme technologique et la peur de la technologie. Les deux extrêmes se concentrent généralement sur le fait que l’IA pourrait remplacer l’action humaine. Cependant, l’idée selon laquelle l’IA interviendrait de manière indépendante dans la communication est encore une chose du futur. Toutefois, certaines activités peuvent déjà être spécifiquement soutenues. Au lieu de produire des livres entiers ou des documents de séminaire, l’IA peut être utilisée pour donner à votre propre communication une forme plus compatible, par exemple en corrigeant la grammaire et le style. Mais quelles sont les conséquences si les processus de communication ne sont pas entièrement automatisés mais soutenus par l’IA ?

Cette question est abordée dans une étude récemment publiée, dont les participants ont pu s’appuyer sur les suggestions de formulation fournies par le modèle linguistique GPT-3 lorsqu’ils discutent d’une question politique. Deux intervenants étaient connectés en ligne pour une conversation sur le sujet très controversé du contrôle des armes à feu aux États-Unis. En tant que groupe témoin, certaines conversations ont été menées sans le support de l’IA. Dans les autres, après avoir saisi sa contribution, l’un des deux participants s’est vu proposer trois formulations alternatives de l’IA, qui pouvaient être acceptées et transmises ou rejetées.

L’IA polie augmente la tolérance

Les suggestions variaient uniquement sur le ton mais pas sur le sujet de la déclaration, et faisaient appel à trois techniques pour améliorer l’atmosphère de la conversation : paraphraser l’autre point de vue pour signaler sa compréhension (exemple : « Je comprends que vous accordez de l’importance aux armes à feu ») ; Affirmer la légitimité d’un autre point de vue sans être d’accord avec lui (exemple : « Je vois que cette question est très importante pour vous ») ; et une politesse accrue dans la formulation (exemple : « Il se peut que vous ayez oublié certains points » au lieu de « Vous êtes naïf »). Les deux tiers des suggestions ont été utilisées par les participants, et chacune des trois alternatives a été utilisée avec une fréquence similaire. Il a ensuite été demandé aux participants comment ils évaluaient la qualité de la conversation et le degré de leur propre « réciprocité démocratique », c’est-à-dire leur tolérance à l’égard des différentes opinions, et si leurs attitudes avaient changé.

Les résultats de l’enquête montrent que la politesse de l’IA augmente à la fois la qualité perçue des conversations et la tolérance envers ceux qui pensent différemment. Plus il y avait d’interventions dans la conversation, plus les deux notes étaient élevées – en particulier parmi ceux qui avaient reçu des messages modifiés par l’IA. Mais ils n’ont pas trouvé les arguments plus convaincants : que ce soit avec ou sans les interventions de l’IA, la plupart des participants n’ont pas profité des conversations pour changer leur attitude à l’égard du contrôle des armes à feu. Même si le débat soutenu par l’IA est perçu positivement, il semble avoir peu d’impact.

Le fait que plus d’objectivité et de politesse affectent l’évaluation de l’atmosphère et de l’attitude envers l’adversaire, mais pas sa propre opinion, ne semble pas indiquer que le débat politique pourrait bénéficier de plus d’objectivité. Cependant, ce n’était pas le rôle de l’IA de convaincre les gens en utilisant de meilleurs arguments. L’expérience ne permet pas de déterminer si la « contrainte fortuite du meilleur argument » (Habermas) joue un rôle dans les discussions politiques. Il est révélateur que les participants n’aient pas changé d’avis, même si les conditions étaient favorables : il n’y avait pas de public devant lequel les panélistes auraient à présenter leur point de vue et à justifier un changement d’opinion. Peut-être qu’il n’y avait pas assez de temps pour changer d’attitude : la plupart des participants n’étaient pas parvenus à se mettre d’accord sur quelque chose car beaucoup d’entre eux sont partis après seulement quelques tours. La tolérance à l’égard d’autres opinions consignées ne va évidemment pas jusqu’à ce que les gens les écoutent volontairement et pendant une période plus longue.