Biosmog a écrit :
Si cela avait été un problème aussi simple que tu le suggères, cela aurait été résolu de longue date.
Hola Bio
Désolé si je me suis mal fait comprendre, je n'avançais pas une théorie personnelle, je ne faisais que paraphraser la nouvelle publication d'OpenAI sur le sujet.
Citation:
Our new research paper?(opens in a new window) argues that language models hallucinate because standard training and evaluation procedures reward guessing over acknowledging uncertainty.
Effectivement ça paraît simpliste, mais c'est leur thèse. La publication :
https://openai.com/index/why-l(...)nate/
https://cdn.openai.com/pdf/d04(...)e.pdf
Biosmog a écrit :
Mais structurellement, il y a une autre limitation de l'IA qui est sa très faible capacité d'apprentissage intrinsèque, que l'on peut constater très simplement: un enfant n'a pas besoin de visualiser des milliers de trottinettes et de voitures différentes pour distinguer une voiture ou une trottinette: quelques unes suffit. A un moment, il faudra changer ce mot "intelligence" qui est trompeur, pour le bien de l'humanité (quoi que je ne suis pas optimiste).
On est en désaccord sur le fond. Évidemment qu'on est très loin du cerveau humain. Pour l'instant. Intéresse-toi aux progrès de la connectomique (cartographie du cerveau). Aujourd'hui on possède le connectome complet de la drosophile, et sa réplique numérique (réseau à impulsions SNN, plus proche d'un cerveau biologique que les transformeurs) tourne sur un GPU de gamer et produit certaines fonctions comme le vrai. Certains circuits d'orientation ou d'évitement utilisés sur des drones en sont tirés directement et fonctionnent.
Chez les mammifères on en est à quelques millimètres cubes de cerveau (souris et humain), ce n'est pas rien.
Bref, le moment où tu accepteras de parler d'intelligence dépend de toi mais on est sur la courbe. Pour moi les LLM sont époustouflants et parler d'intelligence n'est pas abusif, même si on est évidemment très loin des capacités d'apprentissage et de généralisation d'un cerveau humain (ou même d'insecte). Il y a tellement de choses à faire, tellement de moyens de progresser.
![]()
