Teychenié, Thomas (2025) Human Minds, Machine Ethics : Moral Responsibility in the Psychology of AI Use. École Doctorale Sciences de Gestion TSM (Toulouse).

Abstract

Les véhicules autonomes (VA) offrent de nombreuses promesses intéressantes grâce à l'utilisation de l'IA comme cerveau de la voiture. Cependant, les VA suscitent également des inquiétudes, comme les situations d'accident potentielles. Lors de tels incidents, les VA pourraient se retrouver dans une situation où ils devraient décider quels usagers de la route blesser ou pire. Outre la question de la moralité d'une machine prenant de telles décisions, se pose celle de la responsabilité. Cette thèse explore donc comment les consommateurs sont affectés par de tels incidents, en particulier comment cela influence leur sens des responsabilités alors qu'ils n'ont aucun contrôle sur les actions du VA. Si plusieurs entités peuvent être tenues légalement responsables de tels incidents, l'utilisateur est celui coincé à l'intérieur de la VA qui prend ces décisions. La thèse se concentre sur différents aspects de l'impact de la moralité des VA sur le consommateur : adoption, émotions et sentiment de responsabilité à travers l'utilisation de l'UTAUT, de la théorie de l'attribution et de la responsabilisation. Cette recherche est divisée en quatre chapitres, chacun abordant un aspect.Le chapitre 1 explore l'impact du cadrage médiatique des accidents de VA. Il examine comment la couverture médiatique de ces accidents (niveau d'automatisation du VA, gravité des accidents, caractéristiques morales du VA) influence la perception des VA par le consommateur. Grâce à une expérience à grande échelle menée dans trois pays et s'appuyant sur les clusters du Moral Machine, nos résultats montrent que le cadrage utilitariste a renforcé l'avantage de la confiance dans l'autonomie totale dans des scénarios de gravité élevée aux États-Unis et au Mexique, alors qu'en Chine, cela n'a été le cas que lorsque les accidents étaient légers et a sapé la confiance lorsque les accidents étaient graves. Le chapitre 2 examine les attitudes des consommateurs à l'égard des VA et la moralité des VA dans des environnements simulés. Il vise à comprendre comment la responsabilité de l'accident affecte la culpabilité de l'utilisateur et son bien-être. Cette recherche démontre que la gravité de l'accident a un impact négatif sur le bien-être en augmentant la responsabilité et la culpabilité. Nos conclusions font progresser le dilemme éthique soulevé par le conflit entre les VA utilitaires et les VA auto-protecteurs. Le chapitre 3 approfondit la question de l'auto-accusation des utilisateurs en cas de quasi-accident. Il examine comment les caractéristiques des VA (moralité, entité la déterminant) et la propriété influencent l'acceptation de la responsabilité par les consommateurs dans de telles situations. Les résultats suggèrent que les paramètres utilitaires n'augmentent la responsabilité que lorsqu'ils sont imposés par le gouvernement dans des contextes partagés ou par le constructeur dans des contextes privés. Enfin, le chapitre 4 examine une solution potentielle : l'IA explicable. Il explore comment la divulgation de certaines informations (explication de la décision, amélioration de la sécurité par rapport au conducteur moyen) concernant le VA influe sur la responsabilité des consommateurs. Les résultats démontrent que l'explication influence positivement la compétence perçue des VA. L’effet est seulement valable pour un VA légèrement plus sûr, mais pas pour un VA nettement plus sûr.À travers ces études, la thèse intègre un mélange de conceptions expérimentales classiques, associées à l'utilisation d'un simulateur pour renforcer le réalisme. Les résultats contribuent à une meilleure compréhension de l'impact de la moralité des VA sur leurs utilisateurs et la question de la responsabilité des VA, fournissant ainsi des informations utiles aux universitaires, aux praticiens et aux législateurs. L'étude suggère que le cadrage médiatique, les caractéristiques des VA et leur explicabilité jouent un rôle important dans la perception de la responsabilité par les utilisateurs.

Autonomous vehicles hold various valuable promises, from a more enjoyable way to travel to making roads safer, through the use of AI as the brain of the car. Yet, AVs also raise concern, especially in regards to potential accident situations they could encounter. During such incidents, AVs could be put in a position where they have to decide which road users to injure or worse: the user of the car, a pedestrian, … In addition to the question surrounding the morality of having a machine make such decisions, comes the one concerning. Hence, this thesis explores how consumers are affected by such incidents, in particular, how it impacts their sense of responsibility despite having no control over the AV’s actions. If several stakeholders could be legally held responsible for such incidents, the user remains the one trapped inside the car and making its decisions. The study focuses on different aspects of the impact of AV morality on consumers: adoption, emotions, and feelings of responsibility through the usage of UTAUT, attribution theory, and responsibilization. This research is divided into four chapters, each addressing a facet of this issue.