« Développez une intelligence artificielle sûre avant qu’il ne soit trop tard »

Modifié le

Terminator, intelligence artificielle, dangers

La menace de l’Intelligence artificielle n’est pas uniquement le fantasme d’Hollywood

Publicité

« Développez une intelligence artificielle sûre avant qu’il ne soit trop tard » Tel est le conseil donné par l’académicien Stuart Armstrong de l’université d’Oxford.

Le débat sur les robots super intelligents (et de leurs dangers potentiels) n’a rien de nouveau, mais c’est seulement ces dernières années que des logiciels ont développé la vitesse et la capacité pour nous amener à créer une machine qui pourrait un jour se révéler plus intelligente que nous le sommes. Stuart Armstrong, de l’Université d’Oxford au Royaume-Uni, a mis en garde sur la menace de la nouvelle génération d’Intelligence artificielle, et indiqué aux programmeurs qu’ils devaient travailler pour la rendre sûre avant qu’elle ne devienne incontrôlable.

Une partie du problème est de définir exactement ce que « sûre » signifie: des robots programmés pour prévenir la souffrance humaine pourraient théoriquement décider de tuer les malades et les infirmes, explique Armstrong, ou des robots censés protéger les humains pourraient décider de les emprisonner pour leur propre bien.

Programmer les valeurs humaines

« Vous pouvez donner le contrôle aux AI, et elles obéiront aux ordres qui leur ont été donnés », a déclaré Armstrong comme le rapporte The Telegraph.

Publicité

En décembre dernier, déjà, Armstrong soulevait ce problème suite aux déclarations de Stephen Hawking : « Le problème, c’est qu’il est extrêmement difficile de programmer des objectifs compatibles avec la dignité voire la survie de l’Humanité. Il faudrait programmer presque toutes les valeurs humaines parfaitement dans l’ordinateur afin d’éviter que l’Intelligence artificielle n’interprète « éradique la maladie » comme « tue tout le monde » ou bien « garde les humains sains et saufs et contents » comme « enterre tout le monde dans des bunkers avec de l’héroïne ». Il faut que les ingénieurs prennent ces problèmes au sérieux et trouvent des solutions pour développer une intelligence artificielle « amicale », pleinement compatible avec les valeurs humaines », considère-t-il.

Intelligence Artificielle, technologies 2015

Crédit photo: Pixabay – Geralt

Armstrong s’est exprimé plus récemment lors d’un débat sur l’Intelligence artificielle organisé par le cabinet de recherche technologique Gartner à Londres, et il a dit qu’il sera difficile de prédire dans quelle direction les machines se développent jusqu’à qu’il ne soit trop tard. Bien que les robots pourraient être programmés avec un code moral, le définir et l’appliquer serait problématique.

« Les projets d’AI sûres doivent être mis au point avant que la première AI dangereuse ne soit créée », a déclaré Armstrong. « L’industrie du software représente plusieurs milliards de dollars, et beaucoup d’efforts sont consacrés aux nouvelles technologies liées aux AI. Les projets visant à ralentir ce rythme de développement semblent irréalistes. Nous devons donc distancer le progrès de l’industrie informatique ».

« Lorsque les machines seront devenues plus intelligentes que les humains, nous leur tiendrons le volant »

Alors que nous nous précipitons à utiliser la puissance de l’informatique pour résoudre certains des problèmes les plus difficiles de notre temps, nous accélérons aussi l’arrivée d’un système informatique pouvant fonctionner indépendamment de ses créateurs. Alors en essayant de tirer profit de l’Intelligence artificielle, nous pourrions étendre sa portée plus loin que nous le devrions. « Les humains décident de l’avenir non pas parce que nous sommes les plus forts ou les plus rapides, mais parce que nous sommes les plus intelligents », a déclaré l’académicien d’Oxford. « Lorsque les machines seront devenues plus intelligentes que les humains, nous leur tiendrons le volant »

Stuart Armstrong, qui travaille à l’Institut du Futur de l’Humanité d’Oxford, affirme que ce moment crucial pourrait arriver dans les prochaines décennies. Il dit que le risque est de créer un monde où nous sommes complètement dépendants des software et hardware, et si cela venait à arriver, nous pourrions rapidement devenir superflu. Les machines auraient la capacité de communiquer directement entre elles sans interaction humaine.

Aussi troublants que sont les pronostics d’Armstrong, vous trouverez de nombreux points de vue différents pour savoir où nous mènera l’Intelligence artificielle, et certains des meilleurs cerveaux du monde travaillent sur la question pour s’assurer nous ne soyons pas envahis par des robots dans le futur.

Crédit photo principale : Terminator Pictures/Columbia Pictures

Répondre

Laisser un commentaire

Retrouvez également Newsly gratuitement sur votre boite mail et votre Smartphone: