Malin comme une IA

En feuilletant un magazine, je tombe sur un petit article en bas de page. Discret. Anecdotique. Un article qu’on pourrait retrouver en page 2 de Google… une petite brève dans laquelle on peut lire  :  » récemment, pour ne pas perdre à Tétris  » une IA*  » a choisi de mettre le jeu sur Pause indéfiniment ! « … euh WTF ?? 

Comment ça « une IA a choisi de mettre le jeu sur Pause  » ? et depuis quand ça triche une IA ? N’y a-t-il que moi que ça interpelle ? apparemment, vu que cet article est tout petit et en bas de page…

 

Personnellement, je me pose quelques questions. Entre autre, si une IA qui apprend par elle-même et prend ses propres décisions, si cette IA devient incontrôlable, que se passera-t-il ? est-ce que leurs créateurs pourraient perdre le contrôle? jusqu’où cela peut-il nous conduire? on a tous en tête i-robot et la révolution des robots, ou 2001, odyssée de l’espace et AL son intelligence artificielle qui décide de prendre le contrôle…

killer-robot

 

Heureusement, certains se sont déjà posé la question. En effet, DeepMind (filiale Google), cherche comment stopper une IA qui deviendrait incontrôlable (ils sont pas fous chez Google !).  L’approche choisie : manipuler l’IA ! ou comment faire prendre des vessies pour des lanternes à une machine… L’idée de Google est d’insérer un signal au cœur du logiciel qui lui ferait croire que la décision de s’arrêter vient de lui.

 

Et voilà, le cheater est cheaté !

*intelligence artificielle

Source :

Laisser un commentaire :

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *