Gzii a écrit :
Je ne suis pas d’accord.
L’IA ne sera pas que ce qu’on en fera.
Cf. l’usine à trombone, l’IA peut facilement déraper pour des objectifs dont nous ne pouvons évaluer la totalité des implications, car à côté de l’IA nous sommes lents, et ne pouvons prendre qu’un faible volume de données en compte.
Donc contraiment aux programmes informatiques habituels, qui peuvent être expliqués, il est impossible de suivre le cheminement de l’IA pour expliquer pourquoi elle a fait ceci ou cela, même en en connaissant les principes généraux.
Donc les problèmes d’alignement peuvent vraiment être… Mortels si elle nous échappe.
Tiens d’ailleurs en ce moment je revois Person Of Interest sur Amazon Prime, et à partir des saisons 3 ou 4 ces thèmes ont été très bien réfléchis il me semble pour une série qui a quand même plus de dix ans. Et même si c’est romancé (l’IA n’a aucun ressenti et en l’état actuel elle n’en aura pas de sitôt) on voit à quelle vitesse ça peut réellement nous dépasser.
Et ça c’est réel et des personnes qui travaillent vraiment dans le domaine alertent sur le sujet.
C'est pour ça qu'il faut prendre les commentaires des ravis de l'IA avec des pincettes. Si tu es pour, c'est fantastique, magique, une nouvelle ère de bonheur pour l'humanité. Si tu es contre, tu as des œillères idéologiques, tu n'es pas compétent, tu es irrationnel.
Ceux qui développent l'IA aujourd'hui ne savent pas vraiment ce qu'ils font, mais ils faut leur faire confiance car (voir ci-dessus).
Si les ingénieurs qui travaillent sur les particules élémentaires arrivent à forer un trou noir, qu'est-ce qu'on fait ? On continue bien sûr, vous y connaissez rien, c'est FORMIDABLE !
Mais non.
