Une  intelligence digne de ce nom doit être capable de laisser voir ce par  quoi elle est intelligente. Or, les techniques dites "d’intelligence  artificielle", tels le deep learning ou les réseaux de neurones,  fonctionnent comme des boites noires. Par exemple, lorsque je vois un  chat et reconnais qu’il s’agit d’un chat, j’effectue une opération qui  n’est pas de même nature que celle d’un logiciel d’intelligence  artificielle : lui constate que l’objet qui lui est présenté ressemble à  d’innombrables autres chats dont on lui a préalablement fourni les  images pour « l’entraîner », mais sans que quiconque puisse déterminer  comment il effectue ce constat, ni indiquer quelles sont les  ressemblances qui font « tilt » pour lui. En un sens, l’intelligence  artificielle porte donc bien son nom : elle n’est qu’une intelligence  fabriquée au moyen de techniques informatiques, de sorte que rien ne  permet de penser qu’elle soit elle-même « pensante ». Dès lors, jusqu'à  quel point devons-nous accepter de déléguer notre intelligence à de  telles machines ?"

Physicien, philosophe des sciences, Etienne KLEIN dirige  le laboratoire de recherche sur les sciences de la matière au  Commissariat à l'énergie atomique (CM) et enseigne à CentraleSupélec. Il  a notamment publié Les Tactiques de Chronos, Discours sur l'origine de  l'Univers, En cherchant Majorana. Le physicien absolu, Le pays  qu'habitait Albert Einstein et Matière à contredire.