Cette évolution a déjà bien commencé avant l'IA.
Combien de gens je vois encenser Waze et autres applications GPS, personnes qui étaient incapables de lire une carte routière . Combien s'extasient devant des photos/vidéos qu'ils prennent avec les mobiles alors qu'auparavant ils ne comprenaient rien aux réglages d'un appareil photo (je vous laisse trouver l'équivalent dans le domaine musical).
Le danger n'est pas que les machines deviennent aussi intelligentes ou même plus intelligentes que les humains ; le danger c'est que les humains, par paresse, laissent le pouvoir de décision aux machines.
"The fate of all mankind I fear
Is in the hands of fools."
Epitpah - King Crimson -1969
Cette évolution a déjà bien commencé avant l'IA.
Combien de gens je vois encenser Waze et autres applications GPS, personnes qui étaient incapables de lire une carte routière . Combien s'extasient devant des photos/vidéos qu'ils prennent avec les mobiles alors qu'auparavant ils ne comprenaient rien aux réglages d'un appareil photo (je vous laisse trouver l'équivalent dans le domaine musical).
Le danger n'est pas que les machines deviennent aussi intelligentes ou même plus intelligentes que les humains ; le danger c'est que les humains, par paresse, laissent le pouvoir de décision aux machines.
En effet: tous ces gadgets réalisant les choses à notre place ne nous rendent pas meilleurs. On va se retrouver avec des futures générations de benêts face à une puissance de calcul inimaginable.
Selon Yuval Noah Harari dans "Sapiens", ce qui nous distingue des autres animaux et qui fait que nous avons conquis la planète ( en mode super prédateur), c'est notre capacité a travailler en collaboration autour de mythes.
Un mythe c'est un concept abstrait comme les divinités, l'argent ou, toujours dans les exemples de Sapiens, une "personne morale" comme Renault (les bagnoles)...
Si je vends ma Les Paul contre des bouts de papier, il faudra que je partage avec l'acheteur la même valeur financière "euros" accordée avec lui et la crédibilité que nous portons collectivement a ces bouts de papier appelé billets.
Si les ouvriers qui ont construit la pyramide de Gizeh ou la cathédrale d'Amiens n'étaient que des esclaves qui n'étaient pas portés par des valeurs spirituelles ou religieuses, pas sûr qu'ils aient pu le faire en si peu de temps, avec autant de détermination commune...
Il faut ensuite pouvoir transmettre ses mythes et ses savoirs aux générations suivantes pour qu'ils n'aient pas a réinventer la roue a chaque fois et que des valeurs communes puissent exister.
Si l'IA nous explose déjà a tous les niveaux de la compétence pure, je ne la vois pas pour autant faire quelque chose pour "plus grand que soi" comme la collectivité, la beauté de l'art, Dieu ou même l'argent ?
Pour se développer l'IA ne sera animée que par ce qui sera implémenté par l'humain a la base non ? bienveillant ou malveillant ??
Être plutôt que paraître, brouter plutôt que paître...
Pour se développer l'IA ne sera animée que par ce qui sera implémenté par l'humain a la base non ? bienveillant ou malveillant ??
J'ai beau m'appeler skynet, je ne parviens pas à m'imaginer dans la tête d'une IA.
On peut supposer que quand les machines sont multifonctions, et peuvent se dupliquer, elles pourront se parfaire à chaque génération, et on peut se demander jusqu'à quel point et à quelle vitesse.
C'est la question que j'avais cru déceler dans cet article, et qui semble d'ailleurs, bien souvent posée.
« Sinon, pour bienveillant/malveillant : l'humain qui cherche à élever un peu sa pensée commence déjà par ne plus s'arrêter à bien ou mal, nan? »
Ne plus s’y arrêter en tout cas (ne pas fermer d’office les portes avant de réfléchir), et ajouter beaucoup de nuances, je pense.
Ensuite, il faut forcément choisir ce qu’on va considérer être bien et ce qu’on va apporter, aux autres sans doute car avec juste soi on ne va pas loin.
