Explorez notre collection de documents PDF et enrichissez vos connaissances dès maintenant !
retour
Un droit des robots pour bientôt
Article IT et données personnelles Droit de la propriété intellectuelle, média et art Droit de la concurrence, consommation et distribution Contrats commerciaux et internationaux | 22/02/17 | 10 min. | Mahasti Razavi Charles Bouffier
À la suite du rapport Delvaux, le Parlement européen a adopté le 16 février une résolution invitant la Commission à élaborer une proposition de directive sur des règles de droit civil applicables à la robotique.
Les recommandations du rapport Delvaux font le constat d’une humanité à l’aube d’une ère nouvelle, où les robots, les algorithmes intelligents, les androïdes et les autres formes d’intelligence artificielle, de plus en plus sophistiqués, sont sur le point de déclencher une nouvelle révolution industrielle qui touchera très probablement toutes les couches de la société.
L’évolution de la robotique et de l’intelligence artificielle soulève ainsi des questions juridiques et éthiques qui nécessitent une intervention européenne rapide, et qui sont abordées successivement dans la résolution.
1. Principes généraux
Définitions communes : la Commission est invitée à proposer des définitions communes de systèmes cyber-physiques, systèmes autonomes et robots autonomes et intelligents, ainsi que de leurs sous-catégories.
Immatriculation des robots intelligents : les députés proposent la création d’un système européen général d’immatriculation des robots avancés au sein du marché intérieur de l’Union. La Commission est invitée à définir des critères de classification des robots dont l’inscription au registre devrait être obligatoire, et à réfléchir à l’opportunité de confier la gestion du système d’immatriculation et du registre à une agence spécifique de l’Union chargée de la robotique et de l’intelligence artificielle.
Permanence d’un contrôle humain : les députés jugent indispensable de garantir la possibilité d’exercer un contrôle humain à tout moment sur les machines intelligentes et d’accorder une attention particulière au fait qu’une relation émotionnelle est susceptible de se développer entre l’homme et le robot, notamment chez les personnes vulnérables (enfants, personnes âgées, personnes handicapées).
2. Recherche et innovation
Les députés demandent à la Commission et aux États membres (i) de renforcer les instruments financiers, partenariats public-privé compris, destinés à soutenir les projets de recherche dans les domaines de la robotique et des TIC, et (ii) de promouvoir les programmes de recherche en la matière.
3. Principes éthiques
Les députés soulignent la nécessité d’actualiser le cadre juridique de l’Union en se fondant sur des principes éthiques de référence clairs, rigoureux et efficaces (tels que les principes de bienfaisance, de non-malfaisance, d’autonomie et de justice), pour le développement, la conception, la fabrication, l’utilisation et la modification des robots. À cette fin, une charte est proposée en annexe de la résolution (établissant un code de conduite pour les ingénieurs en robotique et un code de déontologie pour les comités d’éthique de la recherche lorsqu’ils examinent les protocoles de robotique) ainsi que des licences-type pour les concepteurs et les utilisateurs.
Afin qu’il soit toujours possible de fournir la justification rationnelle de toute décision prise avec l’aide de l’intelligence artificielle, la résolution suggère que les robots avancés soient dotés d’une «boîte noire» contenant les données sur chaque opération réalisée par la machine, y compris les logiques ayant contribué à la prise de décisions.
4. Une agence européenne
Le Parlement invite la Commission à envisager la création d’une agence européenne chargée de la robotique et de l’intelligence artificielle, à même de fournir l’expertise technique, éthique et réglementaire nécessaire pour soutenir les acteurs publics confrontés à ces nouveaux enjeux et perspectives, tant au niveau de l’Union que des États membres (ex : le secteur des transports).
Cette agence aurait notamment vocation à définir des normes sur lesquelles fonder les meilleures pratiques et, le cas échéant, à recommander des mesures réglementaires, à définir de nouveaux principes et à résoudre d’éventuels problèmes en matière de protection du consommateur et des problèmes systémiques.
5. Droits de propriété intellectuelle
Les députés relèvent qu’il n’existe aucune disposition juridique qui s’applique spécifiquement à la robotique, mais que les régimes et doctrines juridiques existants peuvent s’appliquer en l’état à ce domaine. Ils demandent à la Commission de soutenir une approche transversale et technologiquement neutre de la propriété intellectuelle, qui s’applique aux différents secteurs concernés par l’application de la robotique.
L’accent est par ailleurs mis sur la nécessité d’assurer l’interopérabilité des robots autonomes connectés au réseau qui interagissent entre eux. L’accès au code source, aux données d’entrée et aux détails de construction devrait être disponible en cas de besoin, afin d’enquêter sur les accidents et les dommages causés par des «robots intelligents» et de garantir la continuité de leur fonctionnement, de leur disponibilité, de leur fiabilité, de leur sûreté et de leur sécurité.
6. Circulation des données
Les députés soulignent que la protection des réseaux de robots et d’intelligences artificielles interconnectés doit être garantie pour prévenir d’éventuelles failles de sécurité. Ils rappellent à cet égard qu’un niveau élevé de sécurité, de protection des données à caractère personnel et de respect de la vie privée dans la communication entre humains et robots ou une autre forme d’intelligence artificielle est essentiel.
La Commission et les États membres sont donc invités à faire en sorte que les réglementations civiles dans le secteur de la robotique soient conformes aux principes en la matière (conformité au règlement général sur la protection des données et respect des principes de nécessité et de proportionnalité notamment).
7. Moyens de transports autonomes
Véhicules autonomes : les députés estiment que le secteur automobile est celui qui a le plus besoin de règles efficaces pour que les véhicules automatisés et autonomes puissent se développer de manière transfrontalière et exploiter pleinement leur potentiel économique. La transition aura des répercussions dans de multiples domaines, dont la responsabilité civile, la sécurité routière, l’environnement, l’accès ou encore le partage et la protection des données. Des investissements considérables seront nécessaires dans les infrastructures routières, énergétiques et de TIC.
Drones : les députés estiment nécessaire de disposer d’un cadre de l’Union applicable aux drones afin de préserver la sûreté, la sécurité et la vie privée des citoyens. Ils demandent en conséquence l’application des recommandations formulées par le Parlement européen dans sa résolution du 29 octobre 2015 sur l’utilisation sûre de véhicules aériens sans pilote, et invitent la Commission à étudier la nécessité d’introduire l’obligation de les équiper d’un système de traçabilité et d’identification permettant de connaître leur position en temps réel.
8. Le domaine de la santé
Robots de soins à la personne : le Parlement reconnait que des robots pourraient contribuer à la réalisation de certaines tâches automatisées dans le domaine de la santé et permettre ainsi aux équipes médicales de consacrer davantage de temps au diagnostic et à l’optimisation des traitements. Il insiste dans le même temps sur le caractère fondamental du maintien du contact humain, pour éviter une déshumanisation des soins à la personne.
Robots médicaux : les députés estiment qu’il est essentiel de respecter le principe de l’autonomie supervisée des robots, selon lequel la programmation initiale des soins et le choix final de leur exécution doivent toujours rester dans la sphère décisionnelle du chirurgien. Ils relèvent en outre que si les robots médicaux présentent de nombreux avantages (aide au diagnostic, assistance dans le cadre des soins et de la chirurgie de haute précision, réadaptation), le recours à ces technologies ne doit pas pour autant affaiblir ou léser le rapport médecin-patient.
Réparation et amélioration du corps humain : la résolution relève le grand potentiel de la robotique dans le domaine de la réparation et de la compensation d’organes endommagés et du rétablissement de fonctions corporelles amoindries. Elle insiste sur l’importance de créer sans délai des comités d’éthique sur la robotique dans les hôpitaux et dans les autres établissements de soins de santé. Elle recommande également la création d’entités de confiance indépendantes capables de fournir des services aux personnes sous la forme d’opérations de maintenance ou de réparation, ou encore de mises à jour des logiciels, notamment lorsque ces services ne sont plus proposés par le fournisseur original.
9. Éducation et emploi
Le Parlement attire l’attention sur les prévisions de la Commission à l’horizon 2020 : pénurie de 825 000 professionnels des TIC et 90 % des emplois nécessitant de posséder des compétences numériques de base. Plusieurs mesures sont donc envisagées : fourniture d’une aide substantielle au développement des compétences numériques dans tous les groupes d’âge, mise au point de systèmes de formation et d’enseignement plus flexibles, lancement d’initiatives de soutien aux femmes dans les TIC. Sans omettre le grand potentiel de la robotique en matière d’amélioration de la sécurité au travail, la Commission est néanmoins invitée à suivre l’évolution de l’emploi en lien avec celle de la robotique, et à réfléchir à son incidence sur la viabilité des régimes de sécurité sociale des États membres.
10. Responsabilité
C’est sans aucun doute le sujet phare de cette résolution. Pour le Parlement, la responsabilité civile pour les dommages causés par les robots est une question cruciale qui doit être analysée et traitée au niveau de l'Union. À cet égard, la Commission est invitée à présenter une proposition d’instrument législatif sur les aspects juridiques du développement et de l’utilisation de la robotique et de l’intelligence artificielle à un horizon de 10 ou 15 ans, combinée à des instruments non législatifs, tels que des lignes directrices et des codes de conduite.
Les députés ajoutent que ledit instrument législatif :
- ne devrait en aucune manière limiter le type ou l’étendue des dommages qui peuvent faire l’objet d’un dédommagement, ni la nature de ce dédommagement, au seul motif que les dommages sont causés par un acteur non humain ;
- devrait opter entre un régime de « responsabilité objective » (lequel nécessite seulement d’apporter la preuve d’un dommage et d’un lien de causalité avec le fonctionnement dommageable du robot) et un régime dit de « gestion du risque » (dans lequel l’attention se porte sur la personne capable, dans certaines circonstances, de réduire au maximum les risques et de gérer les répercussions négatives) ;
- une fois les parties responsables en dernier ressort identifiées, leur responsabilité devrait être proportionnelle au niveau réel d’instructions données au robot et à l’autonomie de celui-ci (plus un robot est autonome, plus grande devrait être la responsabilité de la personne qui l’a formée).
La résolution invite également la Commission à envisager la mise en place d’un régime d’assurance robotique obligatoire et d’un fonds de compensation, sur le modèle de ce qui existe déjà en matière de véhicules à moteur.
Enfin, si le Parlement relève que, en l’état actuel des choses, la responsabilité pour les dommages causés par les robots doit être imputable à un humain, il demande à la Commission d’envisager dans son analyse d’impact toutes les solutions juridiques possibles. En particulier, le Parlement n’exclut pas la création, à terme, d’une personnalité juridique spécifique aux robots, pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables, tenues de réparer tout dommage causé à un tiers.
Sur cette question sensible de la « personnalité juridique », le rapporteur du texte initial (Mme Delvaux) a pris soin de préciser lors du débat parlementaire ayant précédé l’adoption de la résolution qu’ « il n’est pas dit dans le rapport qu’il faut accorder une personnalité juridique aux robots », mais simplement que cette question mérite d’être posée à la Commission.
11. Prochaines étapes
La Commission des affaires juridiques du Parlement a lancé, le 7 février dernier, une consultation publique ouverte jusqu’au 30 avril 2017 sur les règles de droit civil en matière de robotique, avec pour objectif de recueillir les avis des parties prenantes sur le rapport Delvaux. Les résultats contribueront à évaluer la faisabilité et le contenu d’éventuelles initiatives politiques de l’Union européenne en la matière, et en particulier d’une proposition de directive de la Commission.