L’une des questions éthiques dont on parle le plus actuellement se situe dans le contexte de la Coupe du monde de la FIFA. Tout a commencé par un carton rouge controversé infligé à Folarin Balogun, joueur vedette de l’équipe américaine de soccer, entraînant automatiquement son interdiction de jouer contre la Belgique. Une décision très humaine ayant conduit à l’application d’une règle de longue date. Entre alors en scène le président américain Donald Trump, qui est intervenu pour faire annuler la décision et a obtenu gain de cause auprès du président de la FIFA, Giannu Infantino. Cette ingérence politique intervient alors que la FIFA faisait déjà face à des pressions croissantes pour améliorer son bilan en matière d’éthique.
Toutes ces décisions étaient très humaines.
Aversion algorithmique
La controverse entourant la Coupe du monde de la FIFA n’est qu’un exemple récent. Les questions éthiques ne se limitent pas à la « sport-politique ». Elles apparaissent régulièrement dans tous les secteurs de l’économie et de la société. Enron Corporation, autrefois géant américain de l’énergie, des matières premières et des services, s’est effondrée après s’être appuyée sur ce qui s’est révélé être une fraude comptable. Des dirigeants ont été condamnés à des peines de prison. Puis Arthur Andersen, alors l’un des principaux cabinets mondiaux de comptabilité et de conseil, s’est à son tour effondré en 2002. Il s’agit d’un cas largement étudié en matière d’éthique et de gouvernance.
Malgré cela, les gens font fondamentalement davantage confiance aux humains qu’aux algorithmes pour obtenir des conseils éthiques. C’est ce qu’a constaté Christian Terwiesch, professeur à la Wharton School, dans une étude récente intitulée Advice quality and source disclosure shape trust in AI-generated ethical advice.
Nos résultats révèlent qu’avant de prendre connaissance des conseils, les humains manifestent une forte aversion envers les algorithmes dans ce contexte, 72,6 % des participants préférant recevoir des conseils éthiques de la part d’humains.
Cette aversion pourrait-elle influencer l’évaluation de la qualité des conseils et la volonté de les accepter?ept it?
Les conseils éthiques de l’IA sont perçus comme équivalents à ceux d’un expert humain
The L’expérience a établi que les individus perçoivent la qualité des conseils éthiques générés par l’IA comme étant comparable à celle des conseils d’un expert humain reconnu. En testant les perceptions de groupes divers, notamment des non-spécialistes, des étudiants au MBA ainsi qu’un panel spécialisé de chercheurs et de membres du clergé, les chercheurs ont constaté que les conseils produits par l’IA étaient jugés aussi utiles que ceux fournis par le Dr Kwame Anthony Appiah, le célèbre chroniqueur « Ethicist » du New York Times.
Les résultats de l’étude pilote ont révélé que, lorsque les participants ignoraient la source des conseils, 57 % des quelque 200 participants préféraient les réponses générées par l’IA à celles rédigées par l’expert humain. Cette préférence était la plus marquée chez les non-spécialistes, à 59,6 %, mais elle était également partagée par la majorité des experts en éthique, à 55,5 %, et des étudiants au MBA, à 51,3 %.
Les humains sont-ils disposés à accepter les conseils éthiques de l’IA?
Apprécier la qualité des conseils de l’IA est différent du fait de les accepter.
Il s’avère que le biais d’aversion envers les algorithmes diminue considérablement une fois que les gens ont fait l’expérience de la qualité réelle des réponses de l’IA.
Après avoir été exposés à la qualité des conseils générés par l’IA, toutefois, leur aversion envers les algorithmes diminue fortement pour atteindre 53,2 %.
Nous sommes donc passés d’un taux d’aversion de 72,6 % à 53,2 %.
Ce pourcentage diminue à 46,3 % lorsque la source des conseils est cachée, c’est-à-dire lorsque les gens prennent connaissance des conseils sans savoir qu’ils proviennent de l’IA.
Oui, l’exposition à l’IA accroît l’acceptation des conseils
Taken Dans l’ensemble, nos conclusions suggèrent que, même si les humains manifestent initialement une forte résistance aux conseils éthiques générés par l’IA, cette aversion diminue considérablement lorsqu’ils font directement l’expérience de la qualité des conseils de l’IA. Cela indique que la confiance dans le raisonnement éthique algorithmique pourrait être plus malléable qu’on ne le pensait auparavant et pourrait évoluer à mesure que les gens sont directement exposés aux capacités de l’IA en matière de prise de décision morale.
Trois enseignements pour les communications des conseillers financiers
1. Commencer par le raisonnement
Les conclusions suggèrent que la confiance dans l’IA est « malléable » et dépend largement du contenu des conseils. En matière de communications, cela signifie que les organisations devraient envisager de présenter la logique et le raisonnement qui sous-tendent une recommandation avant d’en révéler l’origine technologique. Comme les grands modèles de langage utilisent le langage naturel pour expliquer leur raisonnement, leurs conseils paraissent transparents et plus « humains », ce qui contribue à atténuer le scepticisme initial.
2. Surmonter l’« aversion algorithmique » par une exposition directe
Les conseillers financiers doivent comprendre que la résistance initiale à l’IA est élevée, à près de 73 %, mais qu’elle diminue de moitié une fois que les clients font réellement l’expérience de la qualité des résultats produits.
Ainsi, plutôt que de simplement dire aux clients que vous utilisez l’IA, montrez-leur les résultats de niveau expert qu’elle génère. Les conclusions indiquent que le fait de « constater une qualité comparable à celle d’un expert » est le principal facteur permettant de réduire l’aversion et d’accroître l’acceptation.
3. Humaniser l’intégration de l’IA dans les contextes émotionnellement sensibles
L’étude a révélé que les humains continuent de préférer les experts humains dans les dilemmes qui sont « moins chargés sur le plan émotionnel » ou dans lesquels l’expert fournit des « directives claires » plutôt qu’un raisonnement abstrait.
En matière de communications, concentrez l’utilisation de l’IA sur sa « puissance analytique » et ses analyses fondées sur les données, comparables à celles d’un expert, tout en maintenant le conseiller humain au centre des jugements moraux et personnels finaux. L’objectif est de créer un modèle « hybride » dans lequel l’IA fournit un raisonnement éthique de grande qualité, tandis que l’humain apporte la légitimité sociale et la conscience qui font défaut à l’IA.
Communiquez avec yperspective.ca pour discuter des moyens de communiquer efficacement à l’ère de l’IA.
