Les défis posés par l’IA signifient que les experts humains n’ont jamais été aussi importants – The Irish Times

« Nous en avons assez des experts ! Cette phrase célèbre prononcée par Michael Gove lors du débat sur le Brexit de 2016 au Royaume-Uni a résumé l’humeur de beaucoup de ceux qui se sentaient fatigués d’être sermonnés par des personnes qui semblaient éloignées de leur vie quotidienne.

Cet état d’esprit s’est également reflété lors d’un débat public sur le Brexit à Sheffield lorsqu’un économiste a parlé de l’impact potentiellement négatif que la sortie de l’Union européenne aurait sur le PIB du Royaume-Uni, où une voix de la foule a contesté : “C’est très bien de parler de votre PIB, mais qu’en est-il de notre PIB ?

Pendant la pandémie, bien qu’il y ait eu de nombreuses superbes contributions d’experts en science et en santé publique, il y avait des preuves d’une méfiance croissante du public et même d’un rejet des preuves scientifiques et de la recherche. Cela se retrouve dans le discours sur le changement climatique et la perte de biodiversité.

[ Artificial intelligence: the time for funny pictures is over ]

Alors que nous constatons de plus en plus que la recherche fondée sur des preuves est rejetée, cela s’accompagne d’une méfiance croissante à l’égard de ceux qui sont perçus comme contrôlant cette expertise.

Les populistes à travers l’Europe fondent de plus en plus leurs campagnes sur ce qu’ils qualifient de « bon sens », ce qui contraste fortement avec les rapports moroses fondés sur des preuves.

Historiquement, lorsque les gouvernements prenaient une décision, celle-ci était relayée par des canaux établis tels que RTÉ, The Irish Times ou d’autres médias traditionnels, après un interrogatoire approprié ou une vérification des faits. De même, lorsqu’un scientifique fait une découverte, celle-ci est évaluée par des pairs et publiée dans des revues pertinentes.

Aujourd’hui, n’importe qui peut communiquer son point de vue et son « ensemble de faits » par le biais de canaux numériques. Ils n’ont pas besoin d’être vérifiés ou examinés par des pairs. Les médias grand public ou les “soi-disant experts universitaires” ne peuvent pas contrôler ce qu’il serait préférable d’appeler des “vérités alternatives”. En effet, pour avoir accès à du journalisme factuel ou à de la recherche scientifique fiables, une grande partie est cachée derrière un mur payant.

Et s’il ne suffit pas que ceux qui consacrent leur vie à s’assurer que les faits et la vérité comptent soient remis en question par ceux qui ne voient pas la valeur de la recherche fondée sur des preuves, notre expertise en tant qu’humains est remplacée par l’intelligence artificielle et l’apprentissage automatique. .

Dans son livre, Homo Deus (2016), Yuval Noah Harari pose une question à la fin : « Qu’adviendra-t-il de la société, de la politique et de la vie quotidienne lorsque des algorithmes non conscients mais hautement intelligents nous connaîtront mieux que nous ne nous connaissons nous-mêmes ?

[ The Irish Times view on the future of AI: time to pause ]

Une grande partie du pouvoir mondial est passée à ceux qui possèdent et conçoivent des algorithmes complexes qui déterminent désormais tant de parties de nos vies.

Alors que dans le passé, les personnes au pouvoir pouvaient façonner la façon dont les technologies étaient développées et déterminer comment elles seraient utilisées, sur la base des conseils offerts par des experts, ce rôle est de plus en plus entre les mains d’un petit nombre d’hommes pour la plupart qui ont tendance à partager largement un même vision du monde.

Au cours des 18 mois ou plus que ceux d’entre nous sur le comité des médias d’Oireachtas ont été engagés dans un examen pré-législatif de ce qui est devenu la loi sur la sécurité en ligne et la réglementation des médias, la difficulté d’essayer de réglementer un environnement numérique qui évoluait si rapidement est devenue de plus en plus clair.

La convergence des nouvelles technologies devrait forcer davantage le débat public et politique autour de questions telles qu’un cadre éthique concernant l’utilisation de l’intelligence artificielle ; jusqu’où faut-il aller avec la modification génétique des humains, des animaux et des aliments ; Avons-nous besoin d’une sorte de Convention de Genève pour le cyberespace ? et comment un pays non aligné comme l’Irlande pourrait-il réagir à une cyberattaque parrainée par un État ?

L’émergence de l’apprentissage automatique capable d’écrire des articles réfléchis présente un énorme défi pour les universités, non seulement en ce qui concerne la manière dont les étudiants sont évalués, mais également quant à savoir si nous devons investir dans l’expertise de la recherche universitaire alors que les machines peuvent le faire pour nous. Fini le « on en a assez des experts » mais plutôt le « on n’a plus besoin d’experts ».

La convergence des technologies pose des défis, des opportunités et des questions aux universitaires, aux politiciens et à nous tous.

En médecine, feriez-vous confiance à une machine 100 % précise compatible avec l’IA pour effectuer votre opération ou au consultant humain, même si ce dernier serait plus susceptible de faire une erreur ? Qui doit décider ?

Les drones équipés d’IA sont désormais capables de cibler des individus et de les tuer. Dans les milieux de la défense, il y a des débats sur l’étape à laquelle il doit y avoir intervention humaine : une fois que le drone a identifié un suspect, doit-il prendre la décision d’exécuter ou doit-il rester entre des mains humaines ?

J’ai peut-être peint une société dystopique où l’expert humain est mis au défi à la fois par ceux qui ne veulent pas s’engager dans une recherche fondée sur des preuves et par une technologie qui peut aller plus loin que nous ne l’avons jamais imaginé.

Mais le rôle des experts humains dans la société n’a jamais été aussi important. Ils doivent défendre la vérité et l’apprentissage et s’attaquer à ceux qui cherchent à saper la recherche et les efforts universitaires. Ils doivent également mener le débat sur la manière dont nous nous adaptons en tant que société dans un monde d’informatique quantique, d’apprentissage automatique et de mégadonnées.

[ A rogue artificial intelligence is no longer science fiction ]

Les experts humains doivent continuer à valoriser l’éthique et la responsabilité sociale. Mais ils ne doivent pas seulement mener cette discussion dans un cadre universitaire. Ils doivent contribuer au débat public.

Le défi pour tous les membres de la communauté de la recherche est d’expliquer de manière compréhensible pourquoi et comment leur recherche peut avoir un impact, ainsi que pourquoi il est important que la recherche éclaire les politiques.

Cela signifie également comprendre les préoccupations et les craintes de ceux qui pourraient croire que les « experts » sont là pour les avoir et chercher à les convaincre de l’importance de la recherche.

Dans le cadre de ce contrat, le gouvernement doit accorder une valeur à cette recherche et à cette expertise et veiller à ce que notre système d’éducation soutienne à la fois les experts et les apprenants dans les défis et les opportunités que présentera le siècle numérique.

Toute stratégie de recherche doit toujours privilégier l’excellence de la recherche. Nous n’avons jamais assez d’experts.

Malcolm Byrne est le porte-parole du Fianna Fáil pour l’enseignement supérieur et supérieur, la recherche, l’innovation et la science. Ceci est une version abrégée d’un récent discours qu’il a prononcé à la Royal Irish Academy