Voilà à quel point la nouvelle technologie est dangereuse pour les consommateurs

Le défenseur des consommateurs Pop suppose que la société changera “radicalement” grâce à l’IA. Dans la consommation courante, par exemple, il y a “le risque de manipulation, de fraude ou de discrimination par des algorithmes”, a-t-elle déclaré.

Quels sont exactement les risques – un aperçu :

Systèmes de reconnaissance d’images avec intelligence artificielle

La reconnaissance faciale et émotionnelle contrôlée par l’IA peut être problématique, par exemple dans les secteurs de la finance et de l’assurance. “De tels modèles peuvent être utilisés pour savoir si je mens ou non, par exemple si je suis censé décrire des dommages à ma voiture”, a expliqué le défenseur des consommateurs Pop. Le problème est que les applications d’analyse des émotions sont “souvent immatures”. “Les données sont mal interprétées et conduisent ensuite à des hypothèses sur un individu qui sont inexactes et peuvent conduire à des résultats incorrects.”

>> Lire aussi : Pourquoi les entreprises d’IA exigent des lois plus strictes et la politique ne tient pas

Avis sur les produits par des robots IA

Les consommateurs espèrent que les évaluations de produits en ligne fourniront des informations utiles pour leurs propres décisions d’achat. Cependant, ces critiques peuvent également être achetées ou fausses. Pop parle de “risques systématiques” pour les consommateurs si les robots IA sont utilisés à plus grande échelle.

Ensuite, les questions juridiques deviendraient encore plus pertinentes, a déclaré le défenseur des consommateurs. “Qui est réellement responsable des avis de produits faux ou même faux qui suggèrent quelque chose qui ne correspond pas à la réalité ?” Des questions comme celles-ci devraient être clarifiées dans le cadre de la réglementation.

Tarification en ligne avec l’aide de l’IA

L’agacement des consommateurs commence lorsque les prix d’un même produit diffèrent considérablement. On parle alors aussi de « pricing dynamique ». Le facteur décisif ici est une analyse basée sur l’IA de facteurs tels que la demande, l’offre ou la concurrence. “Cela peut être manipulateur ou même frauduleux”, déclare Pop, l’avocat des consommateurs.

Selon Pop, ce qui est autorisé et ce qui ne l’est pas doit être clairement défini afin que le consommateur ne soit pas laissé pour compte. “La meilleure chose serait d’être aussi transparent que possible en matière de tarification, afin que les utilisateurs comprennent comment l’IA affecte les prix”, a-t-elle déclaré.

Comparateurs de prix

Des algorithmes sont également utilisés ici. Les défenseurs des consommateurs ont déjà intenté une action en justice contre les portails de comparaison si, de leur point de vue, aucune comparaison de prix objective n’a eu lieu. Il faut pouvoir compter sur la fiabilité des portails, a souligné Pop. C’est pourquoi la transparence est à l’ordre du jour ici aussi.

“Il doit être compréhensible comment ces plateformes formulent leurs recommandations et quelle influence, par exemple, les paiements de commissions des fournisseurs de produits ont sur le classement affiché”, a déclaré le patron de VZBV.

Publicité personnalisée

Une telle publicité, qui peut déjà être créée aujourd’hui à l’aide de cookies, sera encore plus ciblée à l’avenir avec l’IA. “Le risque de manipulation va donc augmenter”, estime Pop, par exemple si le système détermine en fonction de l’historique de recherche qu’une personne peut être particulièrement vulnérable dans certaines situations.

Cela peut arriver, par exemple, lorsque la personne cherche des médicaments pour des troubles de la mémoire. Ensuite, elle pourrait soudainement recevoir des offres sur des problèmes de santé similaires, a expliqué Pop.

Comment les consommateurs peuvent-ils être protégés des risques liés à l’IA ?

«Des droits des consommateurs forts» sont nécessaires envers les opérateurs de systèmes d’IA, a déclaré Pop. “Il doit y avoir un droit de correction et de suppression afin que les personnes concernées puissent se défendre contre les faux rapports ou la manipulation générés par l’IA.”

Le sujet de l’IA doit également être “inclus dans l’annexe de la directive européenne sur les recours collectifs”, a exigé le défenseur des consommateurs. “Ensuite, nous avons la possibilité d’intenter des recours collectifs contre certains fournisseurs au nom des consommateurs lésés et pouvons demander une indemnisation.”

>> Lire aussi : Si l’IA devient une fraude – vous devriez connaître ces astuces

Le chef de l’Agence pour les innovations Leap (SprinD), Rafael Laguna de la Vera, s’est prononcé contre les règles conduisant à une interdiction technologique. “Cela nous rend plus stupides et donc plus sans défense”, a-t-il déclaré au Handelsblatt. Il a suggéré que les résultats de l’IA puissent être évalués en fonction de leur production et en fonction de la question de savoir s’ils respectent nos valeurs et nos lois.

Dans ce contexte, Pop a plaidé pour la mise en place d’une autorité de contrôle de l’IA. “Nous devons avoir une discussion sur la manière dont les règles, les risques et les problèmes de l’IA doivent être évalués et sur les conclusions à en tirer”, a-t-elle déclaré. “Pour contrôler le respect des règles, une autorité européenne pourrait être utile en plus de la supervision nationale.” Cela doit se décider rapidement. Car c’est aussi important pour l’acceptation sociale de cette nouvelle technologie.

Plus: La peur des Allemands face à l’intelligence artificielle