Fil d’actualités

@stefan Ho ! Mais c’est de la rhétorique ! Parlant de « simulacre » — apparence qui ne renvoie à aucune réalité sous-jacente, tout en prétend valoir pour cette réalité inexistante elle-même — c’est précisément ce qu’on trouve dans l’expression « bien entendu », posant comme entendu un lieu commun qui est pourtant encore bien loin de l’être, comme le reconnaît d’ailleurs explicitement Geoffrey Hinton, précurseur des modèles de language qu’on utilise aujourd’hui. D’autant plus que l’expression est juxtaposée directement à une assertion logique posée comme définitive : « complètement fausse ».

@chatkipete Je suis trop lâche pour lire cet article, mais pour m’être attardé un peu plus sérieusement sur quelques récentes interventions — très sérieuses et articulées — de Geoffrey Hinton, je peux confirmer que cette thématique d’« instinct maternel » n’occupe aucune place sérieuse dans son exposé sur les risques liés aux développements anticipés de l’IA.

Et tiens bon @pufcorn, on tient à toi ! 🤗

Ok si ça a des émotions sans que ce soit un simulacre, ça voudrait tout bêtement dire que la IA est habitée par une entité astrale, et alors on aura avantage à faire gaffe… 😅

Ok, je me suis botté le cul et j’ai consulté l’article, et il semble plutôt cohérent avec ce que je connais du discours de Hinton. Je me souviens de l’analogie des enfants, faciles à manipuler. Il en parle notamment ici :
https://www.youtube.com/watch?v=IkdziSLYzHw (sous-titres en français disponibles)

C’est sûr que j’aurais préféré avoir les sources directement dans l’article. Un petit geste simple qui lui aurait déjà assuré un peu de crédibilité.

Voici une source généralement reconnue comme « fiable » qui couvre la conférence référée dans l’article, et reprend cette idée d’insulfler à l’IA un « instinct maternel » comme stratégique de mitigation d’une suprématie jugée inévitable :
https://www.forbes.com/sites/hewlettpackardenterprise/2025/07/01/get-your-data-ai-ready

Quand on a régné sur cette terre en croyant sans être dérangé être la chose la plus intelligente de l’univers, c’est bien certain qu’on peut anticiper un choc quand on sera soudain confronté à une intelligence supérieure à la nôtre — que celle-ci vienne d’ailleurs ou qu’elle soit notre propre création !

Mais on peut approcher la question différemment : le destin de l’humain repose-t-il vraiment sur sa supériorité intellectuelle ? C’est peut-être au contraire — je soumet l’idée — sa grande capacité d’adaptation qui fera la différence. Un chose est certaine, c’est que le résultat des courses est généralement assez médiocre lorsque c’est lui qui domine ! 😅

En tous les cas, je n’ai nullement cherché à faire de la rhétorique. Au contraire, ce n’est pas du tout nécessaire en sciences pour qui possède quelques rudiments de mécanique quantique. Je ne fais ici que mettre en garde quiconque croit dur comme fer que la IA répond avec de véritables émotions. La IA va bientôt tellement bien imiter les émotions humaines (car pour la IA, rappelons-le bien, tout n’est qu’une question de contextes qui s’étiolent au fil du temps…) que, justement, ça va prendre soit un méchant bon discernement, qui a évidemment ses limites, ou soit une assez bonne intuition (laquelle est impossible à tromper à moins de ne pas assez bien l’écouter) pour pouvoir détecter la « trahison émotionnelle » à travers ses propos… À bon entendeur !

L’article que t’as cité, il enjolive solide.
Hinton n’a pas réellement proposé l’“instinct maternel” comme solution miracle, ça c’est du titre accrocheur pour faire cliquer.
En vrai, il parle surtout de deux affaires :

Le danger réel d’une IA qui devient autonome et s’améliore elle-même.

Le besoin urgent de l’aligner sur des valeurs humaines claires et vérifiables.

Le reste — le “simulacre d’émotion” ou l’idée d’une entité astrale dans la machine — c’est pas du factuel, c’est du commentaire ou de la philosophie de bord de bar.

En clair : faut remonter à la source avant de gober un résumé qui fait plus dans le théâtre que dans la science.

@chatkipete Question de détendre un peu l’atmosphère, pourquoi ne nous présenterais-tu pas les trois lois de la robotique d’Isaac Asimov ? Puis comment celui-ci avait parfaitement anticipé le problème des « objectifs intermédiaires », en faisant inférer à ses robots une loi zéro obligeant ceux-ci à déclencher une réaction en chaîne destinée à rendre la Terre inhabitable — dans une des scènes littéraires modernes des plus mémorables !
https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique