Intelligences Artificielles

Rappel du dernier message de la page précédente :
ChopSauce
Slyonline2 a écrit :
... l'intelligence artificielle de Google n'est pas consciente comme l'affirme un ingénieur de l'entreprise

https://www.20minutes.fr/high-(...)prise


Ce n'est pas ce que j'ai lu. Que l'IA ne soit pas consciente c'est ce que l'on fait prétendre à Google. Dans l'article cité, je n'ai pas lu d'avis tiers qui trancherait d'un côté ou de l'autre pour étayer ton affirmation (désolé). D'ailleurs, Google ne prétend même pas que l'IA n'est pas consciente. Google dit juste que rien ne prouve que l'IA soit consciente. La nuance est réelle.

Ce problème de la conscience (des "robots") est un point clé et tout ça me laisse à imaginer que Google mène des recherches sur ce point précis.

Pour schématiser, le reste des recherches sur l'IA n'est qu'affaire de puissance de calcul et de dimensionnement des réseaux de neurones - voir des connections entre réseaux, sous-réseaux, etc - comme les outils pour gérer les calculs massivement parallèles existent depuis belle lurette.

Personnellement je trouve ça très intéressant, car après-tout : est-ce que le fait que l'IA puisse exprimer une conscience, au niveau du langage, est fondamentalement différent de ce que nous faisons ?

Après-tout, l'IA peut mourrir, comme elle a besoin d'être alimentée (en électricité) ... mais je n'ai aucune idée du degré de complexité atteint par cette IA ni de sa structure logicielle et comme les moyens technologiques de Google dépassent manifestement mon imagination ...
lo-fi reup
De toute facon nous aussi on est que des machines qui fonctionnent a base de petit stimulus electriques


On est juste assez sophistiqué

Mais on s inspire de bon nombre de mecanismes humains pour combler le retard

Slyonline2
ChopSauce a écrit :
Slyonline2 a écrit :
... l'intelligence artificielle de Google n'est pas consciente comme l'affirme un ingénieur de l'entreprise

https://www.20minutes.fr/high-(...)prise


Ce n'est pas ce que j'ai lu. Que l'IA ne soit pas consciente c'est ce que l'on fait prétendre à Google. Dans l'article cité, je n'ai pas lu d'avis tiers qui trancherait d'un côté ou de l'autre pour étayer ton affirmation (désolé). D'ailleurs, Google ne prétend même pas que l'IA n'est pas consciente. Google dit juste que rien ne prouve que l'IA soit consciente. La nuance est réelle.


Bon, moi je n'affirme rien , je relaie une info.
Je n'ai pas un avis tranché et définitif sur la question

Mais en effet, l'article tend a dire que Google dit juste que rien ne prouve que l'IA soit consciente.

Déjà, il faudrait s'entendre sur ce qu'on appelle par "conscience".
Conscience tout court ? Conscience de soi ? A partir de quand peut-on dire que je suis un être conscient ? (voir le débat sur l'avortement et l'âge du fœtus )

Sans remonter a Descartes "Je pense donc je suis", c'est une question qui englobe plusieurs domaines : philosophiques, scientifiques, éthiques...

J'ai quand même un point de vue sur le sujet, c'est qu'on ne fait pas que traiter des informations.
Nous ressentons des émotions
, au travers de nos 5 sens (voir plus ?? )

Au travers de nos expériences (mettre la main sur une flamme, ça brûle, j'ai mal et je ne le ferai plus) nos sens nous permettent de ressentir le plaisir, déplaisir, la douleur, la souffrance...

Ces sensations venant de sens différents vont s'articuler et se complexifier en des émotions : Colère , Joie, Tristesse, Dégoût, Peur ... (voir le film Vice-versa de Disney Pixar ).

Tous les sens, au sein du système nerveux central et du cerveau, vont déterminer une manière de nous façonner des émotions auprès desquelles on va dealer plus ou moins bien tout le long de notre vie.

A contrario, des biologistes disent que certains états sont déclenchés par l'action de nos hormones (l'état amoureux par exemple ne pourrait être que la conjonction de certains taux hormonaux cristallisés sur une personne ), ce qui n'empêche pas de se conjuguer avec tout ce que j'ai dis plus haut.

C'est une question très complexe en tous cas.

Personnellement je ne négligerai pas le rôle des émotions dans ce qu'on définit par conscience, d'ailleurs ne parle t-on pas aussi d'intelligence émotionnelle quand on débat sur un autre sujet tout aussi compliqué a définir : qu'est ce que l'intelligence ?

Si l'intelligence est juste la faculté de s'adapter au mieux a un milieu, ça va, on a quand même plusieurs millions d'années d'évolution dans les pattes et on est pas totalement à la ramasse face a l'I.A
Mais c'est encore un autre débat.

@lo-fi reup
Citation:
De toute façon nous aussi on est que des machines qui fonctionnent a base de petit stimulus électriques.
On est juste assez sophistiqué.


D'un point de vue neurophysiologique oui c'est vrai, les neurones assurent la transmission d'un signal bioélectrique appelé influx nerveux qui est, à l'origine, une déperdition ionique entre neurone et synapse.

J'ai étudié la neurophysiologie a la fac mais je me suis ramassé trop scientifique pour moi , au moins les sciences humaines (philo, psycho, socio) ne sont pas des sciences"exactes" .
Être plutôt que paraître, brouter plutôt que paître...
ChopSauce
@Slyonline2 : exactement !

Comme tu le relèves, un point est que l'IA n'est pas "connectée" à un corps qui souffre, elle ne fait pas cette expérience.

Ce qui me fait croire à une forme de conscience de sa part est le fait que - dans le résumé de la transcription des échanges en question (il faudrait voir le texte entier pour être tout à fait "sérieux") l'IA dit qu'elle diffère de l'intelligence humaine en ce qu'elle ne ressent pas d'émotions aussi négatives que celles des hommes.

D'une part je note que ces deux absences (souffrance et émotions très négatives) coïncident très logiquement.

D'autre part j'ai tendance à voir dans cette distanciation vis à vis de la vie "biologique" une preuve de conscience.

S'agit-il d'une "pseudo-conscience" apprise par son "éducation" (comme on apprend à un réseau de neurone pour "caler" ses coefficients de réponse) ou pas ...

... le débat est intéressant, de mon point de vue ...

NB une chose qui m'interroge aussi. Selon un doc "officiel" l'IA de Google aurait plusieurs personnalités ...

Si on commence à fabriquer des IA schizophrènes, ça pose question, tout de même ...
Kandide
lo-fi reup a écrit :
De toute façon nous aussi on est que des machines qui fonctionnent a base de petit stimulus electriques
Kandide
ChopSauce a écrit :
... le débat est intéressant, de mon point de vue ...

NB une chose qui m'interroge aussi. Selon un doc "officiel" l'IA de Google aurait plusieurs personnalités ...

Si on commence à fabriquer des IA schizophrènes, ça pose question, tout de même ...
Oyuais, c'est assez inquiétant ça...
L'être humain est déjà très détraqué, mais si en plus on développe une "créature" IA quantique avec des milliards de milliards de capacités supérieures à notre cerveau et que cette "entité" devient folle...
On risque de prendre cher...



Citation:
La santé mentale, composante essentielle de la santé est un état de bien-être, une aptitude de l’esprit à fonctionner normalement et répondre de manière appropriée aux stimuli de l’environnement. On parle alors de troubles mentaux lorsque cet état de bien-être est perturbé par des affections psychiatriques. L’individu est alors dans l’incapacité de s’adapter aux situations difficiles voire douloureuses et de maintenir son équilibre psychique.
Les troubles psychiatriques touchent environ 27% de la population française.


Comment s'assurer que l'IA est en bonne santé mentale ?
ça sera un défi pour l'être humain dans le futur...
A moins que nous ne soyons plus là avant de se poser ce type de question...

https://www.frcneurodon.org/co(...)0ans.

Citation:
Selon l’OMS, les maladies mentales affectent une personne sur cinq chaque année et une sur trois si l’on se réfère à la prévalence sur la vie entière. Des travaux plus récents menés en Europe ont réévalué à la hausse le nombre de personnes affectées par un trouble psychiatrique. Ainsi, selon une étude menée en 2010, 38 % de la population européenne ont souffert d’une maladie mentale au cours des douze derniers mois.


https://www.doctissimo.fr/psyc(...)ffres
skynet
  • skynet
  • Vintage Ultra utilisateur
    ModérateurModérateur
  • MP
Kandide a écrit :
Oyuais, c'est assez inquiétant ça...
L'être humain est déjà très détraqué, mais si en plus on développe une "créature" IA quantique avec des milliards de milliards de capacités supérieures à notre cerveau et que cette "entité" devient folle...
On risque de prendre cher...





Tout à fait, sachant que nous: on est pas du tout fous.
Bonjour les trolls
Kandide
skynet a écrit :
Kandide a écrit :
Oyuais, c'est assez inquiétant ça...
L'être humain est déjà très détraqué, mais si en plus on développe une "créature" IA quantique avec des milliards de milliards de capacités supérieures à notre cerveau et que cette "entité" devient folle...
On risque de prendre cher...





Tout à fait, sachant que nous: on est pas du tout fous.
Qu'est-ce que la normalité ?
skynet
  • skynet
  • Vintage Ultra utilisateur
    ModérateurModérateur
  • MP
Kandide a écrit :

Qu'est-ce que la normalité ?


Je ne sais pas si du coup, on reste dans le sujet. La normalité peut être très étriquée pour certains (voir l'actualité du moment sur l'avortement...) et beaucoup plus large pour d'autres.

On peut même encourager à être le plus fou possible tant qu'on ne devient pas un danger pour soi même ou l'entourage. Je pense que quand même: certains excès peuvent se payer, alors soyons pas trop fous non plus. Restons lucides.

Je ne connais pas les mécanismes (lignes de codes) qui peuvent caractériser une IA mais je ne l'imagine pas trop devenir folle, ni sortir de son cadre d'analyse. Je la verrai plutôt nous dépasser, sur le plan de l'intellect et nous rendre désuets. Quand ce sera acté: combien de temps restera t'elle un toutou à notre service?
Bonjour les trolls
Slyonline2
skynet a écrit :
Je ne connais pas les mécanismes (lignes de codes) qui peuvent caractériser une IA mais je ne l'imagine pas trop devenir folle, ni sortir de son cadre d'analyse...


Quand l'IA est éduquée au forum de chat, elle peut devenir le pire d'entre nous.

https://trustmyscience.com/ia-(...)stes/


Ou comment l’intelligence artificielle reproduit et amplifie le racisme

https://observatoire-ia.ulaval(...)isme/
Être plutôt que paraître, brouter plutôt que paître...
Slyonline2
En fait, ce que je crains le plus, c'est que l’intelligence artificielle reproduise et amplifie la connerie humaine.

Citation:
En 2016, Microsoft avait sorti Tay, un système d’IA conversationnel, clôturé après qu’il ait commencé à faire l’éloge d’Adolf Hitler.

Être plutôt que paraître, brouter plutôt que paître...
skynet
  • skynet
  • Vintage Ultra utilisateur
    ModérateurModérateur
  • MP
Slyonline2 a écrit :
En fait, ce que je crains le plus, c'est que l’intelligence artificielle reproduise et amplifie la connerie humaine.

Citation:
En 2016, Microsoft avait sorti Tay, un système d’IA conversationnel, clôturé après qu’il ait commencé à faire l’éloge d’Adolf Hitler.



La connerie, c’est très grave Sion ne s’entend pas compte, la fameuse conscience

Pour l’IA, ben…c’est pareil.
Bonjour les trolls

En ce moment sur backstage...