Qu'est ce qui vous énerve en général ?

d ou le pseudo certainement

Oui, la crainte en particulier est que ce serait comme une machine qui s’emballe, sans réellement de conscience derrière et qui peut dériver petit à petit des préconisations initiales (même si déjà elle ne les respecte pas).
De plus, logiquement, elle ferait tout pour se protéger et s’attribuer un maximum de ressources, aux dépens de tout le reste. Donc son but logique serait sa survie et elle pourrait tout écraser pour ça, alors même qu’elle est non consciente.

Certainement.




Le gout.

Je sais pas si c'est ironique dans ce cas, un peu scato mais bon...

Si c'est plus «sérieux», j'aimerais justement qu'on me définisse ce qu'est le «goût» que tu donnes en réponse à ma question. C'était même le sujet essentiel de celle-ci à l'autre zig avant qu'il parte en auto-allumage.

Pas que je dise que le «goût» c'est du baratin, je me pose vraiment la question.
En littérature par exemple, j'ai eu la chance d'avoir de très bons profs qui m'ont donné des ficelles d'analyse. Je dis pas que je comprends tout, loin de là, mais je sais à peu près justifier les ressorts, un peu les emprunts, les lieux communs, les «déjà entendus» qui font que je trouve un ouvrage ou une chanson intéressante, créative, nunuche, bla bla bla... (à MON goût que je définis pas comme universel, mais comme explicable) et cela sans l'entendre ni connaitre son auteur, un test de lecture «à l'aveugle» en quelque sorte.
En gros, comme je l'ai déjà dit, je différencie Émile Zola de Barbara Cartland, Francis Cabrel de Pascal Obispo...
(Évitez-moi les habituels «ah, tu te la pètes, élitiste, tu te crois meilleure»)

Donc indépendamment des répercussions sociales, politiques, existentielles, ma question est depuis le début : comment faites-vous, quels sont vos critères acoustiques, intellectuels etc. autre que «je sais quand c'est bon» pour déterminer la qualité d'une musique création IA (ou autre), j'en ai rien à foutre du flacon et surtout de l'étiquette du flacon pour apprécier un avis s'il est motivé.
Mais la réponse parait pas évidente.

Le vol-au-vent, c'est déjà de la malbouffe

"Anthropic" :

Jack Clark avertit que des agents d’IA pourraient bientôt créer et entraîner seuls des modèles, faisant perdre aux humains le contrôle des systèmes

Interrogé par la BBC, Clark a indiqué que 80 % des travaux de codage d’Anthropic sont déjà réalisés par son IA Claude, et que cette proportion pourrait atteindre 100 % d’ici quelques années. Il a toutefois souligné que « c’est un choix » pour les entreprises d’IA de la laisser aller aussi loin sans l’arrêter.

Ce processus, appelé « auto-amélioration récursive », correspond à une IA capable de s’améliorer elle-même sans intervention humaine, explique Anthropic

« Si les systèmes sont capables de construire entièrement leurs propres successeurs, la manière dont nous les sécurisons, les surveillons et façonnons leur comportement devient d’autant plus cruciale », peut-on lire dans le billet.»

AI that can build itself would be a major development in the history of technology—one that could bring enormous good for the world in science, healthcare, and beyond.

… … But full recursive self-improvement also might increase the risks of humans losing control over AI systems


… Alors, nous n'en sommes pas à "Terminator", mais les I.A ont plus de "puissance que certains pensent ici , de là plus de "nuances/compétences/… ??? ( … de propriétés émergentes !!!???)

(Les IA génératives fonctionnent pareil : on leur donne des données d'entraînement et des objectifs, ET des comportements complexes apparaissent.
)

… il semble donc qu'elles aient déjà dépassé le stade de faire de la "ziziques" toutes seules !

et, le temps où c'était des "sorte de bases de données qui fonctionnaient par comparaisons, recherches … est déjà derrièrenous : même leurs mécanismes commencent à être mal compris par leurs concepteurs!

(Les modèles de langage (LLM) comme Claude ou ChatGPT sont très puissants, mais ils reposent sur des réseaux de neurones profonds. Ce type d'architecture est par définition difficile à interpréter dans le détail : on sait ce qu'on leur donne (un prompt), on voit ce qu'ils produisent (une réponse), mais comprendre comment ils arrivent à ce résultat précis, c'est une autre histoire.) !


… ne tirez pas sur le pianiste : je ne suis (vraiment pas!) un spécialiste de l'I.A mais je reprend donc les propos de leurs concepteurs (Dario Amodei, Jack Clark, ... ) glanés ici et là

qu'en pensez vous ?


https://fr.euronews.com/next/2(...)umain

https://www.anthropic.com/inst(...)ement

J'essaye de percevoir l'universalité et l'intemporalité (réelle ou potentielle)...

Si je ne perçois aucun des deux mais que ça me plait, je dis "Ça me plait, mais je sais pas si c'est bien / Ça me plait, mais c'est moyen / Ça me plait, mais c'est de la merde".

C'était...tout à la fois: ironique parce que c'était facile. Scato, parce que la merde évoque à peu près la même chose pour tout le monde..hum..Et plus sérieux: le gout reste humain et peut être que l'IA va se l'approprier mais ça me semble compliqué quand même.


heu... péter...mais c'est scatologique!
Tu as mis un accent et je l'ai souligné: je suis à fond d'accord avec ça: le gout est personnel, chacun à le sien. Ce qui fait frissonner l'un n'inspire pas l'autre et c'est bien: chacun ses gouts! Dans la musique, néanmoins, il y a beaucoup de travail justement à entendre et comprendre l'autre: quel est son feeling? Si je fais de la musique avec toi: je vais devoir saisir ce que tu attends (ça ne va pas que dans un sens), ça va plus loin qu'être sur la même pulsation. Enfin, ceci est valable pour la musique "démocratique", pas celle ou le compositeur est le grand maître.

L'IA fait ça? M'aurait on caché une communication entre les esprits?



Bon, tu trouves certains artistes intéressants, et d'autres nunuches, je ne peux que tomber d'accord, même si pour ma part je serai plus dans la musique que dans les paroles. J'ai entendu ce que tu nous mets en ligne sur le site: c'est très bon ! Au gout.




De mon coté, dès qu'on me dira IA, j'aurai tendance à partir en courant. Comme j'ai dit plus haut: L'IA deviendra supra intelligente et l'humain de plus en plus crétin. Depuis des dizaines d'années, il se complait dans les aides technologiques et ne fait plus rien de bon..

Ecoutez juste le début (c'est long) :


Qu'il ne soit plus la peine d'apprendre la médecine serait une bonne chose?