Actualités informatiques » Un code de bonne conduite pour les robots ?

Les lecteurs d'Isaac Asimov (ou les spectateurs du film I Robot) connaissent bien les trois lois de la robotique :
* Première Loi : Un robot ne peut ni porter atteinte à un être humain, ni rester passif devant un être humain exposé à un danger.
* Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi.
* Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n'est pas en contradiction avec la Première ou la Deuxième Loi.

Ceci passait pour de la SF jusqu'il y a peu, mais le gouvernement sud coréen (un des pays les plus modernes au monde) s'inquiète de l'autonomie et l'intelligence grandissante des robots. Il a donc proposé récemment de faire rédiger une charte par des experts, des futurologues et un écrivain de science fiction, dans le but de contrôler les robots nouvellement crées. Ce projet devrait s'inspirer des 3 lois, ainsi que du compte rendu du Réseau de Recherche européen sur la robotique, qui seront rendus publics dans un mois.

Effectivement, les robots, virtuels ou physique, deviennent de plus en plus puissants, en puissance de calcul ou en algorithmique
Depuis quelques temps, une nouvelle génération réussit même à passer à travers les barrages des pictogrammes visuels (ces suites de chiffres et de lettres souvent illisibles -même pour nous les humains (confus) -permettant de vérifier que vous n'êtes pas un bot
Pour remédier à ce problème, des chercheurs ont élaboré un nouveau système d'identification humain machine. Il demande de distinguer non pas des une chaine alphanumérique mais...douze chiens ou chats. Une preuve d'intelligence qui serait pour l'instant encore hors de portée des logiciels de reconnaissance faciale. Même si les choses dans ce domaine évoluent vite.
Publié le 28/03/2007 à 15:01 par neamar
Freem
Modérateur
RemonterCiter Windows XP Msie 6 - Posté le 28/03/2007 à 15:22
En revenant sur Isaac, vous croyez qu'il vont implanter la loi 0? (héhé
(En gros, un robot ne peut pas faire de mal à l'humanité...)
Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. - Benjamin Franklin
neliger
Webmaster
RemonterCiter Linux Firefox 2 - Posté le 28/03/2007 à 15:35
Le problème est que par définition, un robot ne peux être en accord avec une loi 0 comme celle-ci: sa seule présence sur la terre contribue à polluer notre environnement.
Computaid SPRL - Conception - Développement - Infogérance : http://www.computaid.be
eTigris - Hébergement mutualisé - Serveurs dédiés : http://www.etigris.com
neamar
Modérateur
RemonterCiter Windows XP Firefox 2 - Posté le 28/03/2007 à 15:36
En fait, ces lois restent tout de même une utopie...car rien n'empeche un gouvernement mal intentionné (ce mot est de plus en plus courant...) de ne pas implanter les trois, pardon 4 lois.
Ces lois, pour moi du moins, sont plus une réflexion philosophique que scientifique, et permettent à chacun de se poser la question vis à vis de son comportement envers une autre espèce intelligents. Elles ne seront surement jamais implantées telles qu'elles (avis du programmeur ET de l'être humain doué de raison se dissimulant sous le pseudonyme de Neamar).
Before you criticize someone, you should walk a mile in their shoes. That way when you criticize them, you are a mile away from them and you have their shoes.

http://neamar.free.fr
Ou le portail général : http://neamar.fr
neliger
Webmaster
RemonterCiter Linux Firefox 2 - Posté le 28/03/2007 à 15:40
Tout à fait d'accord avec toi neamar, de telles lois poseraient de toute façon un problème majeur d'interprètation si l'on tentait de les implémenter.

Je pense également qu'il s'agit plus d'une réfléxion globale autour de la place de l'intelligeance artificielle dans nos sociétés humaines.
Computaid SPRL - Conception - Développement - Infogérance : http://www.computaid.be
eTigris - Hébergement mutualisé - Serveurs dédiés : http://www.etigris.com
Freem
Modérateur
RemonterCiter Windows XP Msie 6 - Posté le 28/03/2007 à 16:26
De toute manière, de telle lois sont tellement floues (surtout la 0, d'ailleurs (clein d'oeil)) qu'aucune machine ne pourrait les respecter, surtout quand par exemple la machine doit choisir entre 2 vies et/ou 2 ordres...
Je suis complètement d'accord quand vous parlez de reflexion globale et phylosophique.
D'ailleurs, quand on lit "le cycle de fondation" (par exemple) on s'apercoit bien que la distinction humain/robot est très faible puisque l'auteur parle même a un moment d'amour entre l'un des héros et un(e?) robot...
Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. - Benjamin Franklin
Mazzu
ProgBoarder
RemonterCiter Windows XP Firefox 2 - Posté le 28/03/2007 à 17:00
Ne cherchez plus. Le vrai code de bonne conduite, c'est 42 !
zuzuf
ProgBoarder
RemonterCiter Linux Firefox 2 - Posté le 29/03/2007 à 13:25
le problème c'est que l'homme lui même n'est semble-t-il pas assez intelligent pour suivre ses propres règles de bonne conduite, alors on risque de ne pas voir les robots le faire avant un bon moment ( d'autant plus que si un certain système est installé dessus on pourrait y mettre pleins de virus en tout genre ) et s'il y arrivent eux, alors il se pourrait bien qu'ils soient devenus ( à ce moment là ) plus malin que nous et qu'ils finissent par voir une contradiction que nous n'aurions pas vu dans ces règles ( l'humain fait pareil avec les lois actuelles juste pour trouver de nouveaux moyens d'escroquer ses congénères alors pourquoi pas un robot ?)
Linux a un noyau, windows un pepin
neliger
Webmaster
RemonterCiter Linux Firefox 2 - Posté le 29/03/2007 à 14:05
Attention zuzuf, il faut faire la différence entre intelligeance et libre arbitre.

Ce qui te parait "bon" ou "mauvais" diffère selon les individus.
Computaid SPRL - Conception - Développement - Infogérance : http://www.computaid.be
eTigris - Hébergement mutualisé - Serveurs dédiés : http://www.etigris.com

Poster un commentaire

STOP aux fautes volontaires !
Message
Formatage
Smileys (sourire) (yekyek) (clein d'oeil) (désapprouve) (triste) (cool) (langue) (confus) (gêné) (neutre) (eek) (surpris) (diable) (flèche) (exclamation) (question) (diable) (idée) (méchant)
Pseudonyme
Recopiez le code
v6 © Computaid SPRL 2005-2008 - Tous droits réservés - Hébergé par eTigris - Page générée en 0,086 s - Crédits - Stats
1 connecté