Véhicules Autonomes : Le Défi Éthique Face à l’Innovation
La course mondiale au développement des véhicules entièrement autonomes atteint un moment charnière, non pas sur les pistes d’essai ou dans les audiences réglementaires, mais dans les cadres moraux qui régiront la manière dont ces machines prennent des décisions vitales. Alors que l’intelligence artificielle (IA) continue d’alimenter les solutions de mobilité de nouvelle génération, un nombre croissant d’experts avertit que la gouvernance éthique prend dangereusement du retard sur le progrès technologique. En Chine, cette tension est particulièrement aiguë, où le déploiement rapide de systèmes de transport intelligents se heurte à une infrastructure sous-développée pour la supervision éthique.
Les technologies de conduite autonome promettent une sécurité, une efficacité et une accessibilité sans précédent. Des entreprises comme Baidu, Pony.ai et DeepRoute.ai ont démontré des capacités de niveau 4 dans des environnements urbains à Pékin, Shanghai et Shenzhen. Les initiatives soutenues par l’État dans le cadre de la politique des « Nouvelles Infrastructures » ont accéléré le déploiement de réseaux routiers intelligents intégrant la connectivité 5G et une gestion du trafic alimentée par l’IA. Pourtant, sous ce vernis d’innovation se cache un déficit critique : qui – l’homme ou la machine – assume la responsabilité lorsqu’un véhicule autonome dysfonctionne ?
Cette question n’est pas hypothétique. Ces dernières années, plusieurs incidents impliquant des systèmes avancés d’aide à la conduite (ADAS) ont suscité l’alerte. Si la Chine n’a pas encore signalé d’accident mortel directement attribuable à une autonomie complète, des quasi-accidents et des pannes de système ont exposé des vulnérabilités dans la prise de décision algorithmique. Plus fondamentalement, ils révèlent une absence systémique de protocoles éthiques adaptés à l’écosystème de mobilité unique de la Chine – des mégapoles denses, des schémas de trafic mixtes et un cadre juridique encore en adaptation face aux perturbations induites par l’IA.
Les défis éthiques vont au-delà de la responsabilité. Prenons le « problème du tramway » réimaginé pour les rues chinoises : un véhicule autonome doit-il privilégier la sécurité de ses passagers ou faire une embardée pour éviter un piéton qui traverse illégalement ? De tels dilemmes ne sont pas des abstractions philosophiques mais des choix d’ingénierie encodés dans les logiciels. Sans des directives éthiques transparentes et validées publiquement, ces décisions sont prises dans les salles de conseil d’administration ou les laboratoires de recherche – souvent sans l’apport des communautés les plus concernées.
L’approche de la Chine en matière de gouvernance de l’IA a été proactive en principe mais fragmentée dans la pratique. En 2019, le Ministère de la Science et de la Technologie a créé le Comité Professionnel National de Gouvernance de l’Intelligence Artificielle de Nouvelle Génération, signalant une reconnaissance de haut niveau des risques éthiques. La même année, le comité a publié les « Principes de Gouvernance pour l’Intelligence Artificielle de Nouvelle Génération : Développer une IA Responsable », qui affirmaient des valeurs fondamentales incluant le bien-être humain, l’équité et la responsabilité. Cependant, ces principes restent largement aspirationnels. Ils manquent de force contraignante, de mécanismes d’application ou de normes de mise en œuvre sectorielles – particulièrement pour l’IA automobile.
Les efforts réglementaires ont été tout aussi prudents. Les « Spécifications Administratives pour les Tests Routiers des Véhicules Intelligents Connectés (Essai) » de 2018, publiées conjointement par le Ministère de l’Industrie et des Technologies de l’Information, le Ministère de la Sécurité Publique et le Ministère des Transports, se concentraient principalement sur la sécurité technique et les procédures opérationnelles. Elles exigeaient que les conducteurs d’essai restent prêts à reprendre le contrôle et imposaient le signalement des accidents – mais disaient peu sur la conception éthique ou l’architecture décisionnelle morale. Les directives ultérieures au niveau provincial dans le Guangdong, le Zhejiang et à Pékin ont reflété ce biais technique, éludant des questions normatives plus profondes.
Ce déficit réglementaire contraste vivement avec les développements internationaux. Les « Lignes Directrices sur l’Éthique pour une IA Digne de Confiance » de l’Union Européenne de 2019 exigent explicitement une « supervision humaine » et le « bien-être sociétal et environnemental », des principes qui pourraient directement influencer la conception des véhicules autonomes. La Commission d’Éthique Allemande sur la Conduite Automatisée et Connectée de 2017 est allée plus loin, émettant 20 règles qui interdisent la discrimination dans les décisions algorithmiques et imposent la transparence des données – faisant du cadre national allemand le premier au monde à enchâsser légalement l’éthique de l’IA dans les transports.
Aux États-Unis, bien que la législation fédérale soit au point mort, l’autorégulation de l’industrie a en partie comblé le vide. Des entreprises comme Waymo, Cruise et Tesla ont publié des chartes d’éthique de l’IA, et des consortiums comme le Partenariat sur l’IA – cofondé par Google, Microsoft, Amazon et IBM – développent des standards communs pour un déploiement responsable. Bien qu’imparfaits, ces efforts favorisent le dialogue public et créent des références de facto pour la performance éthique.
La Chine manque d’un écosystème comparable de collaboration intersectorielle. Des institutions académiques comme l’Université Tsinghua et l’Académie Chinoise des Sciences ont produit des articles réfléchis sur l’éthique de l’IA, et l’Académie de Pékin pour l’Intelligence Artificielle a publié les « Principes de l’IA de Pékin » en 2019, suivis d’un addendum centré sur les enfants en 2020. Pourtant, ceux-ci restent des cadres volontaires avec une traction limitée dans la pratique industrielle. Parallèlement, la sensibilisation du public à l’éthique de l’IA reste faible. Une enquête de 2018 de l’Association Chinoise pour la Science et la Technologie a révélé que seulement 5 % des chercheurs déclaraient une connaissance approfondie des normes éthiques au-delà de l’intégrité de la recherche – un indicateur troublant pour un domaine aussi socialement ancré que la conduite autonome.
Les conséquences de cette négligence pourraient être profondes. Alors que l’IA remodelle les marchés du travail, des millions de chauffeurs professionnels – camionneurs, opérateurs de taxi, personnel de livraison – font face à un déplacement. À Kunshan seule, les usines automatisées de Foxconn ont supprimé 60 000 emplois, offrant un aperçu de l’avenir du secteur des transports. Sans politiques proactives de reconversion et de protection sociale, le chômage induit par l’IA pourrait exacerber les inégalités, alimentant la méfiance du public envers le progrès technologique.
De plus, la confidentialité des données reste une vulnérabilité critique. Les véhicules autonomes collectent des téraoctets de données quotidiennement – géolocalisation, modèles comportementaux, voire informations biométriques provenant de capteurs d’habitacle. Alors que la Loi de 2021 de la Chine sur la Protection des Informations Personnelles (PIPL) établit des droits fondamentaux à la vie privée, son application dans le contexte automobile est naissante. Un scandale de 2019 impliquant l’application de deepfake « ZAO », qui collectait des données faciales sous des conditions de consentement opaques, illustre la facilité avec laquelle les systèmes d’IA peuvent exploiter les zones grises réglementaires. Les véhicules connectés présentent des risques encore plus grands : une flotte compromise pourrait permettre une surveillance de masse ou une manipulation ciblée.
Pour relever ces défis, une stratégie de gouvernance à multiples facettes est urgemment nécessaire. Premièrement, la Chine doit établir un organe national dédié de surveillance de l’éthique de l’IA avec une autorité statutaire sur les secteurs à haut risque comme le transport autonome. Cette entité devrait inclure non seulement des technologues et des juristes, mais aussi des ethicistes, des représentants de la société civile et des praticiens de l’industrie pour assurer une délibération équilibrée.
Deuxièmement, les principes éthiques doivent être opérationnalisés en normes techniques. Par exemple, l’Institut Chinois de Normalisation Électronique pourrait développer des protocoles de certification obligatoires exigeant que tous les systèmes autonomes subissent des évaluations d’impact éthique – similaires aux études d’impact environnemental pour les projets d’infrastructure. Ces évaluations examineraient l’équité des algorithmes décisionnels, la robustesse face aux biais et la transparence dans l’utilisation des données.
Troisièmement, une clarté juridique sur la responsabilité est essentielle. La Chine devrait amender son Code Civil ou introduire une législation spécifique sur la responsabilité de l’IA pour définir les chaînes de responsabilité : des développeurs de logiciels et fabricants de capteurs aux opérateurs de flotte et utilisateurs finaux. S’inspirant du modèle allemand, la loi pourrait présumer de la responsabilité de l’opérateur à moins que le fabricant ne prouve que le système a fonctionné comme prévu – une inversion qui incite à une ingénierie de sécurité rigoureuse.
Quatrièmement, l’engagement public doit être institutionnalisé. Des forums de délibération citoyenne – assemblées municipales, jurys de citoyens, ateliers de conception participative – peuvent aider à démocratiser les choix éthiques en IA. Lorsque des millions de véhicules prendront bientôt des décisions morales en une fraction de seconde sur les routes publiques, ces décisions ne peuvent être laissées aux seuls ingénieurs.
Enfin, la Chine devrait tirer parti de son leadership technologique pour façonner les normes mondiales. En défendant une gouvernance de l’IA inclusive et centrée sur l’humain dans des forums comme le G20, l’OCDE et les Nations Unies, la Chine peut se positionner non seulement comme une innovatrice mais aussi comme une intendante responsable des technologies émergentes. La participation aux organismes internationaux de normalisation – tels que l’ISO/IEC JTC 1/SC 42 sur l’IA – offre une plateforme pour exporter les meilleures pratiques éthiques tout en apprenant des pairs mondiaux.
La fenêtre pour une gouvernance proactive se réduit. Chaque véhicule autonome déployé sans boussole éthique augmente le risque de contrecoup public, de dépassement réglementaire ou d’échec catastrophique. Le but n’est pas d’étouffer l’innovation mais de l’orienter vers des résultats alignés sur les valeurs sociétales : sécurité, dignité, équité et durabilité.
L’ambition de la Chine de mener en matière de mobilité intelligente est claire. Mais le véritable leadership demande plus que de la prouesse technique – il exige une prévoyance morale. Alors que la nation accélère vers un avenir sans conducteur, la route devant elle doit être pavée non seulement de silicium et d’acier, mais aussi de sagesse, de responsabilité et d’un engagement inébranlable envers la dignité humaine.
La révolution autonome ne sera pas jugée uniquement par la vitesse à laquelle les véhicules roulent, mais par la sagesse avec laquelle ils décident. La Chine se tient maintenant à ce carrefour éthique. Les choix qu’elle fait aujourd’hui résonneront à travers les rues, les tribunaux et les consciences pour les générations à venir.
—
Par Yang Bowen, Yi Tong et Jiang Guanghua Centre de Recherche de Pékin pour la Science de la Science, Pékin 100089 Revue : Science and Technology Think Tank, 2021, Numéro 1 DOI : 10.19881/j.cnki.1006-3676.2021.01.07