Des robots libres?

Petite divagation autours des (futurs) robots et de leurs controle.

Des robots libres?

Il est évidement souhaitable que les futurs robots soient ouverts dans leur conception. Si on imagine les robots comme des entités logiciels et matériels il est important de se demander quels seront les libertés de propriétés offertes aux consomateurs. il est facile d’imaginer qu’un robot soit re-programmer pour un usage détourné, et on peut immaginer milles scénarios catastrophe (espionnage, vol, raquet...). Au contraire si les robots sont captivés logicielement (ou simplement bridées), il est aussi inquiétant de ne pas avoir accès au "cerveau" de la machine, quelle garantie pour les citoyens? Il parait donc claire que l’accès et le contrôle du robot doit satisfaire à deux exigences apparaments opposées: Offrir la transparence de fonctionnement tout en limitant les possibilités d’intervention et d’altération de ce fonctionnement. Les enjeux en questions regroupent trois aspects différents à distinguer: le contrôle, la garantie et la responsabilité de l’exécution "convenable" d’un robot. Ces trois perspectives offres trois points de vue différents qu’il faut prendre en compte.

1) Contrôle, garantie et responsabilité

Ce premier aspect (le contrôle) du fonctionnement relève évidement du propriétaire de la machine et non du fournisseur/constructeur. Le constructeur doit-il interdire une utilisation du robots? Il est évident qu’il est souhaitable de ne pas permettre qu’un robots metalurgiste attaque des gens (cf lois d’Azimov). Dans ce cas particulier c’est au robot lui-même d’être bridé fonctionnellement et non au constructeur d’interdir ou d’autoriser un fonctionnement selon la situation. Le robot doit toujours rester //autonome// dans son fonctionnement. Comme assurer du foncitonnement convenable d’un robot? peut-on lui demander s’il est gentil? Considérer le robot autonome lui octroie une liberté inquiétante. S’il peut être interrogé et incarséré comme témoin occulaire, il doit pouvoir être possible de vérifier (valider) à tout moment le fonctionnement du robot. Celui doit être capable de se soumettre à un test qui prouverai son "bon" fonctionnement. Le couplage matériel/logiciel est une question importante. Si matériels et logiciels sont inséparables, alors il parrait clair que la position de force des constructeur leurs assura un pouvoir qu’il ne méritent pas (qui sort du champs du simple commerce). Quelle entreprise concevra des robots pour l’armée, quelles armées vendront leurs robots. D’un point de vu militaire il semble nécéssaire de garder cette possibilité d’un flash du soft au profit d’une recette maison. De même d’un point de vu civil, il parait indispenssable de concevoir des certification de non-danger. il faut donc prévoir une //interface matérielle// de vérification. il peut s’agir un accès direct à la "matrice nerveuse" (carte mère) du robot. Encore une fois, un système extrement stricte de controle doit êrte imédiatement mis en place pour éviter les situations dangereuse. Les robots devront obligatoirement s’enregistrer et maintenir leur identité à jour (patch, log de fonctionnement). Mais qui est responsable en cas d’accident? - le robot, le propriétaire ou le constructeur? Selon les cas il semble raisonnable que le propriétaire comme le constructeur puissent être attaqués. En cas de défaut de fonctionnement ce serait pour la pomme du constructeur, masi resterait il à pouvoir "prouver" que l’erreur vient du fabriquant et non du propriétaire en étudiant les logs et le fonctionnement. D’autre part ce méchanisme pousserat les constructeur à se décharger de toute responsabolité avec des contrats abusif (ne pas exposer en publique, faire réviser toute les semaines...). Coté propriétaire, celui-ci devra évidement assurer son engin contre les accidents et les incidents "imprévus". De toute façon tout robot doit être sous la responsabilité morale d’un personne (un robot ne doit pas pouvoir posséder un autre robot). Enfin, si les robots sont considérer comme des êtres pensants tout ceci est à remettre en cause et des droits et des devoirs sont à inventer pour les robots.

2) Architecture pour un systèmes ouvert

Un cadre strict de contrôle d’exécution des robot est indispensable. Deux manières d’arriver à cela sont possible: les système sont totalement fermé pour le public qui n’y voit qu’une "boite noire" intélligente. De ce point de vue les autorités compétantes imposent aux fabriquants de maintenir à jour leurs machines (numéroté, geopositionné et télé-administrées (!) ). D’un autre point de vue, cette charge est au particulier qui devra lui-même maintenir son agent et s’en occuper. Comme pour les logicels, il est plutôt vraissemblabe qu’un solution intermédiare soit trouvée. Par exemple les agents pourraient fournir une plateforme "standarde" (espéront libre, au moins ouverte) de développement. les agents seraient dans ce cas des interpréteurs (comme une machine virtuelle smalltalk) programmables. De toute façon il semble surtout indispenssable qu’un contrôle puisse être effectué pour vérifier à tout moment leur fonctionenement (ex: celui assit en face de moi dans le bus par exemple). Aussi il est imaginable qu’une plateforme soit offerte à l’exécution des capacités spéciales (conduire, cuisiner, parler...) ces modules indépendants pourrai alors faire l’objet d’un commerce s’il les interfaces d’échanges sont correctement spécifiées. La partie basse (controlleurs, os) ne sera certainement pas accessible librement, comme les BIOS ne le sont pas sur les ordinateurs actuels. Cependant la complexité croissante de tels systèmes nécéssitera des standards bien définit. Esperont que le pluralisme gagne cette industrie.

----

Livres à lire

  Asimov: Les robots
  Adams: Le guide galactique du routard
  Dick: Ubick, Le maitre du haut chateau
  Wells: La guerre des mondes