La série « Real Humans » ou le film « Blade Runner » mettent en scène des androïdes dont une forme d’humanité, assumée ou copiée, n’est pas la dernière des qualités. Et, les exemples peuvent se multiplier avec une question centrale, quel droit appliquer aux sujets que pourraient être les organismes/objets dotés d’une IA ? Doit-on se référer aux trois lois d’Asimov :
Le droit est un peu démuni, admettons-le, car il est confronté à un schéma peu classique.
D’un côté un droit habituel et maîtrisé celui de la propriété intellectuelle, les brevets essentiellement, qui protège le créateur et sa création de sa conception à sa fabrication. Ce droit est suffisamment bien étayé pour qu’il ne souffre pas, encore, réellement de contestation du fait de l’irruption de l’IA. Les dessins, les mécanismes, les logiciels, les algorithmes tous ces aspects sont protégeables et permettent à leurs créateurs de faire valoir leurs droits intellectuels sur leurs créations.
D’un autre côté, nous avons un corpus de droits à venir plus inhabituel, pour ne pas dire disruptif, au regard de nos usages, constitué par les droits qui entoureront l’usage de l’objet par son propriétaire, mais devront régir les initiatives comportementales - que l’Intelligence Artificielle de l’objet lui permettrait d’avoir - développées de façon autonome. Sans parler de la possibilité d’acquisition de compétences ou de comportements supplémentaires, et donc imprévus, du fait d’une évolution de leurs logiciels par exemple. Après tout, les actualisations des systèmes d’exploitation de nos ordinateurs ou smartphones nous permettent de constater l’émergence de nouvelles fonctionnalités, qui n’étaient pas initialement prévues, améliorant les performances et potentiels de nos équipements.
Dans ce second cas de figure qui est responsable des comportements ? Qui est propriétaire des évolutions ? Quelles règles doivent être intégrées dans les logiciels pour être des garde-fous ? Le RGPD sera-t-il compris par un androïde ? Qui, en cas de besoin, la voiture autonome sacrifiera, le conducteur ou des piétons surnuméraires ? Les questions sont infinies.
Les trois règles d’Asimov constituent, dans le domaine des applications civiles, un viatique très acceptable et d’une complexité logique en phase avec la question qui domine largement celle du droit, à savoir celle de l’éthique.
En 2015 les animaux se sont vu reconnaître des droits en tant qu’êtres vivants et sensibles (le Code Civil rejoignant les Codes Rural et Pénal en ce sens). Il faut anticiper que dans quelques années les objets/organismes pourvus d’une Intelligence Artificielle, qui n’est après tout que le fruit, avec toutes les implications juridiques que cela sous-entend, de l’intelligence humaine de ses concepteurs, se verront doter des mêmes attributs juridiques endogènes, voire plus, au regard de la place qui leur sera donnée par la société.
Cette réflexion doit être menée au pas de charge. Si le droit est souvent à la traîne des avancées de la science, il ne peut pas se permettre de l’être pour des progrès qui côtoient une science-fiction qui commence déjà à faire partie de notre quotidien proche. Voitures autonomes pour bientôt puis, demain, trains et avions, ordinateurs quantiques aux possibilités de calculs démultipliées, processus de décisions autonomisées, évolutions de nos sociétés autant que de nos modes de travail, humains « améliorés » …pour toutes ces avancées et bien d’autres, le cadre légal qui leur serait afférent n’est pas encore construit et laisse la porte ouverte aux gourous et experts autoproclamés, et remplis de certitudes, d’un droit qui n’existe pas, or le citoyen consommateur doit être protégé.
Doit être aussi encadrée et protégée l’entreprise. Il faut se rappeler que l’introduction de l’IA suppose des transferts d’informations et de données qui peuvent être d’une très grande sensibilité et confidentialité. Le secret des affaires, qui constitue une des citadelles concourant à la protection de l’entreprise, n’est pas simplement une question d’hommes, il est intimement lié à la fiabilité et à la sécurité des équipements utilisés. La citadelle de Vauban, qui reste le parangon de l’architecture militaire, devait interdire à l’ennemi d’entrer dans la ville, tout en prévenant le traître d’en sortir.
L’IA présente dans les équipements utilisés par une entreprise est une double porte, d’entrée et de sortie, pouvant donner accès à tous vos secrets, il convient donc de la « vaubaniser » tant juridiquement que techniquement pour préserver et protéger la valeur ajoutée de l’entreprise.
Dans ce contexte, le droit continental, celui des Codes en somme, doit être vu comme une force, mêlant le principe de précaution constitutionnel et l’édiction de règles communes responsabilisant la chaîne de conception ; à l’inverse de la common law qui serait susceptible de laisser une trop grande latitude aux entreprises et des citoyens démunis face à elles.
Dès lors, 150 ans plus tard, on peut reprendre, en la modifiant légèrement, l’interrogation de Lamartine « Objets animés, auriez-vous donc une âme. Qui s’attache à notre âme et la force d’exister ? »
En somme, et cela ne serait pas de la science-fiction que de rendre justice à l’intuition du poète en prônant l’élaboration d’un cadre juridique rigoureux, protecteur des citoyens utilisateurs, mais aussi pour le plus grand bénéfice d’industries qui pourraient se développer sans susciter appréhension et rejet.
- Loi n° 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger ;
- Loi n° 2 : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
- Loi n° 3 : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Le droit est un peu démuni, admettons-le, car il est confronté à un schéma peu classique.
D’un côté un droit habituel et maîtrisé celui de la propriété intellectuelle, les brevets essentiellement, qui protège le créateur et sa création de sa conception à sa fabrication. Ce droit est suffisamment bien étayé pour qu’il ne souffre pas, encore, réellement de contestation du fait de l’irruption de l’IA. Les dessins, les mécanismes, les logiciels, les algorithmes tous ces aspects sont protégeables et permettent à leurs créateurs de faire valoir leurs droits intellectuels sur leurs créations.
D’un autre côté, nous avons un corpus de droits à venir plus inhabituel, pour ne pas dire disruptif, au regard de nos usages, constitué par les droits qui entoureront l’usage de l’objet par son propriétaire, mais devront régir les initiatives comportementales - que l’Intelligence Artificielle de l’objet lui permettrait d’avoir - développées de façon autonome. Sans parler de la possibilité d’acquisition de compétences ou de comportements supplémentaires, et donc imprévus, du fait d’une évolution de leurs logiciels par exemple. Après tout, les actualisations des systèmes d’exploitation de nos ordinateurs ou smartphones nous permettent de constater l’émergence de nouvelles fonctionnalités, qui n’étaient pas initialement prévues, améliorant les performances et potentiels de nos équipements.
Dans ce second cas de figure qui est responsable des comportements ? Qui est propriétaire des évolutions ? Quelles règles doivent être intégrées dans les logiciels pour être des garde-fous ? Le RGPD sera-t-il compris par un androïde ? Qui, en cas de besoin, la voiture autonome sacrifiera, le conducteur ou des piétons surnuméraires ? Les questions sont infinies.
Les trois règles d’Asimov constituent, dans le domaine des applications civiles, un viatique très acceptable et d’une complexité logique en phase avec la question qui domine largement celle du droit, à savoir celle de l’éthique.
En 2015 les animaux se sont vu reconnaître des droits en tant qu’êtres vivants et sensibles (le Code Civil rejoignant les Codes Rural et Pénal en ce sens). Il faut anticiper que dans quelques années les objets/organismes pourvus d’une Intelligence Artificielle, qui n’est après tout que le fruit, avec toutes les implications juridiques que cela sous-entend, de l’intelligence humaine de ses concepteurs, se verront doter des mêmes attributs juridiques endogènes, voire plus, au regard de la place qui leur sera donnée par la société.
Cette réflexion doit être menée au pas de charge. Si le droit est souvent à la traîne des avancées de la science, il ne peut pas se permettre de l’être pour des progrès qui côtoient une science-fiction qui commence déjà à faire partie de notre quotidien proche. Voitures autonomes pour bientôt puis, demain, trains et avions, ordinateurs quantiques aux possibilités de calculs démultipliées, processus de décisions autonomisées, évolutions de nos sociétés autant que de nos modes de travail, humains « améliorés » …pour toutes ces avancées et bien d’autres, le cadre légal qui leur serait afférent n’est pas encore construit et laisse la porte ouverte aux gourous et experts autoproclamés, et remplis de certitudes, d’un droit qui n’existe pas, or le citoyen consommateur doit être protégé.
Doit être aussi encadrée et protégée l’entreprise. Il faut se rappeler que l’introduction de l’IA suppose des transferts d’informations et de données qui peuvent être d’une très grande sensibilité et confidentialité. Le secret des affaires, qui constitue une des citadelles concourant à la protection de l’entreprise, n’est pas simplement une question d’hommes, il est intimement lié à la fiabilité et à la sécurité des équipements utilisés. La citadelle de Vauban, qui reste le parangon de l’architecture militaire, devait interdire à l’ennemi d’entrer dans la ville, tout en prévenant le traître d’en sortir.
L’IA présente dans les équipements utilisés par une entreprise est une double porte, d’entrée et de sortie, pouvant donner accès à tous vos secrets, il convient donc de la « vaubaniser » tant juridiquement que techniquement pour préserver et protéger la valeur ajoutée de l’entreprise.
Dans ce contexte, le droit continental, celui des Codes en somme, doit être vu comme une force, mêlant le principe de précaution constitutionnel et l’édiction de règles communes responsabilisant la chaîne de conception ; à l’inverse de la common law qui serait susceptible de laisser une trop grande latitude aux entreprises et des citoyens démunis face à elles.
Dès lors, 150 ans plus tard, on peut reprendre, en la modifiant légèrement, l’interrogation de Lamartine « Objets animés, auriez-vous donc une âme. Qui s’attache à notre âme et la force d’exister ? »
En somme, et cela ne serait pas de la science-fiction que de rendre justice à l’intuition du poète en prônant l’élaboration d’un cadre juridique rigoureux, protecteur des citoyens utilisateurs, mais aussi pour le plus grand bénéfice d’industries qui pourraient se développer sans susciter appréhension et rejet.
Nicolas Lerègle
Avocat à la Cour – Lex Squared
Conférencier en sécurité économique labélisé Euclès
Avocat à la Cour – Lex Squared
Conférencier en sécurité économique labélisé Euclès
Inscription Newsletter
