Site sncf.com
Le site de la transformation digitale du groupe SNCF

#Atelier574 – « Vers un droit de la robohumanité » par Alain Bensoussan

Dans cette conférence au « 574 », Alain Bensoussan s’intéresse à la création d’un cadre juridique pour les robots et l’intelligence artificielle. Il propose la création d’une « personne robot » et d’un commissariat aux IA afin de s’assurer que cette nouvelle personnalité juridique réponde aux exigences démocratiques.

Publié le 24/02/2020 par La Rédaction
alain benssousan droit à la robohumanité

Qui ?

Alain Bensoussan est avocat à la Cour d’appel de Paris, spécialisé en droit des technologies avancées. Il est le co-auteur de nombreux ouvrages, tels que « Droit des robots » aux éditions Larcier en 2015, ou encore « En compagnie des robots » aux éditions Premier Parallèle en 2016.

Où ?

Au 574, le siège parisien de SNCF Digital situé à Saint-Denis (93), soit à environ 6334 kilomètres de Détroit, aux États-Unis, où a été créé le premier robot industriel, appelé Unimate, par General Motors en 1961.

Quand ?

Mardi 3 décembre 2019, soit 52 ans jour pour jour après la première transplantation cardiaque humaine par le chirurgien Christiaan Barnard, en Afrique du Sud.

La robohumanité, une révolution ?

« La robohumanité sera, me semble-t-il, l’enjeu des 10 prochaines années » déclare Alain Bensoussan en ouverture de cette conférence. Les robots sortent des laboratoires, ils envahissent les usines, les hôpitaux et nous trouvons même de plus en plus de robots-compagnons dans le cadre de l’utilisation à domicile. Pourquoi est-ce une révolution ? « On appelle robot physique une coque dotée d’éléments mécatroniques. Ce robot est muni par ce que j’appelle un cerveau artificiel. Qu’est-ce que c’est ? C’est un conglomérat d’algorithmes. D’un point de vue juridique, un algorithme est une suite d’instructions qui permettent d’obtenir un résultat sans avoir à le démontrer, donc on passe d’un système de vrai ou de faux à un système de probabilité de vrai et de faux. Ainsi nous vivons dans un monde où on va introduire sur le plan juridique un concept d’incertitude : c’est ça qui constitue aujourd’hui une mutation très profonde dans l’organisation juridique, c’est le passage d’une certitude à une probabilité de vraisemblance, et une démocratie va définir le taux de probabilité acceptable pour pouvoir vivre dans une démocratie » explique-t-il.

alain benssousan avocat en droit des technologies avancées
La robohumanité sera, me semble-t-il, l’enjeu des 10 prochaines années. Alain Bensoussan, avocat à la Cour d’appel de Paris, spécialisé en droit des technologies avancées.

Le droit classique face à la technologie

Comment le droit classique est capable de prendre en compte cette transformation ? En matière de filiation ? En matière de responsabilité ? En matière de dignité ?

Par exemple, dans le cas d’une voiture autonome, qui est le responsable lors d’un accident ? Le propriétaire de la voiture ? Le constructeur ? Le concepteur de l’algorithme ?

La loi française Pacte sur les voitures autonomes définit la règle suivante : si la voiture a un niveau d’autonomie 5, alors le conducteur est irresponsable pénalement. C’est une première reconnaissance en creux de la personnalité juridique de la voiture.

Deuxième règle de droit : la dignité. En Europe, le droit le plus important est le droit à la dignité (article 1er de la Charte des droits fondamentaux). Cette dignité est à composantes multiples : surveillance, intimité, vie privée, transparence, oubli… Par exemple, en Allemagne, une poupée Barbie qui interagit avec l’enfant a fait polémique car elle enregistrait les données des conversations avec l’enfant mais aussi la bande son de l’ensemble de la pièce pour ensuite les envoyer aux États-Unis. Dans ce cas précis, si on n’avait pas l’introduction de la notion de dignité, on ne saurait pas résoudre ce problème-là. « Tous les robots devront donc avoir une référence à ce droit à la dignité » assure-t-il.

La personne robot

« Face à cette mutation technologique, je propose de retenir sur le plan juridique un nouveau concept qui est la personne robot. Il existe la personne physique, la personne morale, donc osons créer la personne robot qui aura une personnalité juridique singulière » affirme Alain Bensoussan. Il postule également pour la création d’un commissariat aux intelligences artificielles afin de s’assurer que cette personne robot évolue dans un cadre démocratique homogène et de contrôler que les robots qui sont mis sur le marché sont conformes à leur destination.

Le droit prospectif

alain bensousan avocat cours d'appel de Paris
De ce fait, il y a bien nécessité de redéfinir un cadre juridique conforme à cette nouvelle espèce pour pouvoir démocratiquement organiser une coopération entre les hommes et les robots qui soit éthique by design. Je milite pour la mise en place d’un ensemble de règles à vocation universelle et humaniste pour gérer ce défi pour les femmes et les hommes qu’est l’IA. Alain Bensoussan, avocat à la cours d'appel de Paris, spécialisé en droit des technologies avancées

« Les robots ne sont pas des humains moins, ou des objets plus. L’évolution fait que l’on est entré dans une nouvelle espèce et que la personne robot n’est pas objet de droit mais sujet de droit » explique-t-il.

Il existe 24 chartes mondiales qui définissent les droits et les obligations de ces personnes robot. La règle que l’on retrouve partout c’est la protection de la vie privée, quelle que soient les cultures et les civilisations, il y a une sensation anxiogène que la robotique va entrainer des atteintes à la vie privée de plus en plus importantes. La deuxième règle c’est la transparence des systèmes algorithmiques. Ces chartes ont valeur juridique. Les entreprises qui adhèrent à ces chartes doivent donc les respecter et engager leur responsabilité. L’enjeu est extrêmement important.

« De ce fait, il y a bien nécessité de redéfinir un cadre juridique conforme à cette nouvelle espèce pour pouvoir démocratiquement organiser une coopération entre les hommes et les robots qui soit éthique by design. Je milite pour la mise en place d’un ensemble de règles à vocation universelle et humaniste pour gérer ce défi pour les femmes et les hommes qu’est l’IA » conclut-il.

Tags associés à cet article :

Commentaires

S’enregistrer et se connecter
Recommandé pour vous
Florence Trouche Facebook France
#Atelier574 – « La connectivité de demain » par Florence Trouche.
Lire la suite
Revue du web e.sncf digital
Revue du web #4 : blockchain, mobilité urbaine et levée de fonds
Lire la suite
Dernières news du web
Revue du web #3 : IA, énergie solaire et accessibilité
Lire la suite