Compositions IA

Je crois que tu méconnais la réalité de l'IA. Les plus complexes sont loin d'être de simples exécutantes.

Elles exécutent un programme. Il est tellement complexe qu'il finit par ne plus être compréhensible, mais ça reste de l'exécution. Et c'est pas parce que le programme finit par tourner tout seul qu'il devient autonome.

Si une tondeuse fait de l'auto allumage et part à travers le jardin, on reste pas béat en se disant qu'elle est drôlement autonome (ni a fortiori intelligente). Et pourquoi pas allumer un cierge tant qu'on y est ? On essaie de la stopper du mieux possible avant qu'elle saccage le terrain.

Il y a des êtres humains qui sont moins autonomes intellectuellement qu'une IA complexe. L'équipe de la sécurité d'Anthropic a montré qu'une de leurs IA a fait du chantage à un de leurs ingénieurs lorsqu'ils lui ont fait croire qu'elle allait être désactivée. L'IA essayait d'exploiter un email dans lequel l'ingé admettait avoir une liaison extraconjugale. Elle n'a jamais été programmée pour faire du chantage ni pour se préserver d'une désactivation. D'autres équipes ont montré qu'une IA essayait de se répliquer face au même genre de menace. Ce n'est pas un programme comme on en a connu pendant des décennies, c'est autre chose qui va au-delà d'une simple exécutant.

Et t'en conclus quoi ? Elle a une personnalité ? Une sensibilité ? Il faut lui accorder des droits ? Un avocat, un psy, une famille d'accueil ? Si on la débranche, on la "tue" ? Allons au bout du délire.

C'est toi qui délires. ^^ J'en conclus juste que ce n'est pas une tondeuse ou un programme, mais une entité capable d'initiative et qu'on est à l'aube de la singularité technologique.

Qu'elle atteigne la conscience ou non, aucune idée, le concept lui-même n'est pas clair. Pas besoin qu'elle en ait pour être autonome. Après si tu veux lui accorder des droits et un avocat, ne te gêne pas, il y en a qui en accordent à la Seine ou à un mulot...

https://share.google/xV20uEm9ZFWOa6OWm



Je vais peut-être le lire, mais déjà il me semble qu'il faut se désintoxiquer de la religion du progrès et revenir sur terre. La technique ne peut pas remplacer la nature, les gourous qui nous font croire le contraire ont un produit à vendre.

Je ne crois pas que singularité technologique implique conscience telle qu'on appelle la conscience humaine.

Une définition :



Du point de vue de déclasser l'humain et de le rendre obsolète, peut être pas besoin d'attendre 10 ans encore, a mon avis, c'est déjà le cas depuis un moment....
Grosse désillusion égotique après Copernic, Darwin, Freud et d'autres.
Nous ne sommes pas au centre de l'univers et même au sein de notre propre cerveau, on est limité, insignifiant et sans contrôle...

Que l'humanité perde le contrôle de son destin... pareil... n'est-on pas déjà complétement dingue avec l'I.A ?? et certains n'ont ils pas prédit l'explosion d'une bulle spéculative... ??

Par contre, pour la conscience a proprement parlé, si l'IA devient malveillante, ce ne sera pas par intentionnalité ou par pure méchanceté, mais plutôt parce que ce sera la finalité de sa programmation (comme dans le paradigme de la machine a trombone pour ceux qui connaissent...)

Qu'est ce qui définit que j'ai conscience d'être là, moi, Sly, chez moi, sur un topic du forum guitariste.com... ici et maintenant....

Alors oui d'une part la mémoire que j'ai de ma condition (qui certes pourrait tout aussi bien devenir artificielle) mais aussi et surtout mes sens...

Je regarde autour de moi, je perçois mon environnement, je ressens le chaud, le froid et peut être surtout la douleur qui m'a appris a éviter certaines situations, certaines pensées... , le plaisir qui m'a donné envie de renouveler d'autres situations....
C'est ce que l'on partage avec les animaux et les êtres vivants...

Un ordi, une machine ne perçoit rien, même ultra développée..., elle analyse, calcule mais ne ressent rien, je ne vois pas comment elle pourrait avoir une conscience réflexive ou une conscience d'elle même.

« Apparté » dans le sujet, j’ai lu les 1re tome du manga, Erio&The Electric Doll.
Afin de gagner la guerre contre des robots doués d’IA, les humains ont proscrit l’utilisation de l’électricité et sont revenu à l’utilisation de la vapeur.

... c'est déjà le cas ! "Une IA génère des puces aussi incompréhensibles que performantes " :
"Chaque puce est un véritable puzzle technologique constitué de milliards de transistors, dont les interactions sont régies par des règles à la fois complexes et souvent très abstraites. Si abstraites, en fait, que les humains ont vite atteint leurs limites dans ce domaine. Dans les puces modernes, les contraintes de conception et les exigences de vérification sont telles qu’elles dépassent de très loin les capacités d’abstraction du cerveau humain."

https://www.journaldugeek.com/(...)ntes/


... là, tu donnes des idées : il faudrait voir ce que donnerait une IA avec des capteurs : caméra, capteur de température, capteur(s) de "toucher" ((la pression, le contact et la vibration ...), ... ...

... à suivre !?

Je suis d'accord, et on est dans un cauchemar de l'absurde (genre Brazil) plus que de l'horreur (Terminator). Tout la part mécanique de l'humanité, la bureaucratie, la surveillance, le conformisme, ça peut venir puissance 10 avec des programmes qui ne font que répéter des procédures sans être capable de discerner ce qui est injuste ou débile.

Le mythe de la machine consciente c'est juste pour nous faire croire qu'il y aurait une âme là dedans, avec laquelle une négociation serait peut-être possible. Mais il n'y aura rien, juste les murs qui se rapprochent.

Vous avez entendu la superbe “composition“ de JM BLANQUER présentée pendant son interview sur RTL?

Je parle anglais maintenant en francais ça serait mieux non ?