Sur X le backlash contre l'AI safety ne vient pas exactement de sceptiques bien intentionnés.
Je monte mon pari : Glucksmann aura droit dès cette semaine à un sondage à 16%, pour rimer avec ses 66% de la primaire.
Je dois dire que je comprends les adhérents PS, le spectacle de leur primaire était si mauvais que j'aurais choisi de l'écourter moi aussi. Puis en pissant sur ses rivaux en off, Glucksmann avait su s'affirmer comme un vrai héritier de Jospin. 🤡
La question est orientée surtout, les lycéens ne demandent pas tant moins d'heures de cours que moins d'heures de présence à l'école (moins de cours séparés par des heures de permanence aboutissant à des journées complètes).
Il y a une pétition lancée par ATTAC contre l'usage des armes mutilantes et des techniques d'immobilisation létales par la police dans les manifs de jeunes. Oui on vit dans un pays où ça fait débat et où y a besoin de cette pétition… Allez, on signe et on fait tourner :
Le problème de "avec"/"sans" c'est que c'est ultra-binaire comme manière de voir les choses. Je ne pense pas non plus qu'il y ait de grandes chances qu'un livre 100% écrit par IA soit intéressant, mais il y a 1000 cas intermédiaires où un usage partiel de l'IA peut à mon avis se justifier.
Quant à ces labels ils généralisent surtout l'usage des détecteurs comme étape obligée avant d'être reconnu humain, ce qui me semble au moins aussi problématique que de ne pas signaler l'usage de l'IA.
Je ne m'attendais pas à te voir d'accord avec moi là dessus. 😉 Perso je pense toujours que c'est un faux débat, si un auteur arrive à écrire quelque chose d'intéressant peu m'importe ce qu'il a utilisé pour. Et ça doit être assez rare pour être négligeable pour les livres 100% IA.
En marche vers un nutri-score sur les bouquins.
Ce qui rend amusant que ce soit un dirigeant du FOLI qui l'émette, sachant que c'est exactement le genre de choses auxquelles pourrait aboutir la volonté d'imposer une pause de l'IA ou de se prémunir contre tous ses usages malveillants.
Tel le scénario "1984" (mieux résumé dans cette vidéo que sur wikipedia qui fait un contresens à son sujet), où une société basée sur la surveillance de masse nous apparaitrait comme la seule option pour éviter le développement d'une superintelligence.
La vidéo fait un bon résumé de ces différentes "possibilités" donc je ne m'étendrais pas trop sur elles, si ce n'est pour noter que plusieurs et pas des moins désastreux, relèveraient moins des risques de l'ASI que de ce qu'on risquerait de faire pour les éviter.
C'est ce livre en particulier qui développe le plus celui des zookeepers, où des superintelligences décideraient de laisser des humains en vie pour les étudier, scénario qu'on retrouve souvent parmi les hypothèses discutées sur LessWrong (si plutôt écartée par les adeptes purs et durs de Yud).
Dans "Life 3.0: Being Human in the Age of AI" (2017) il apporte sa propre contribution à la futurologie long-termiste en proposant 12 scénarios de futurs hypothétiques, où on retrouve la dualité eschatologique habituelle, ceux ci allant d'un monde d'abondance à de purs cauchemars.
Tegmark, physicien de formation et comme Nick Bostrom d'origine suédoise, a été très marqué par sa rencontre avec lui dans les années 2000 et se consacre depuis à alerter avant tout sur les risques de la superintelligence.
www.washingtonpost.com/sf/national/...
Le Future of Life Institute qu'il dirige se trouve complètement au centre de l'écosystème de l'AI safety, à la fois source d'idées et de financement pour de nombreuses autres structures, ayant reçu d'énormes donations son co-fondateur Jaan Taillin (of Skype fame).
J'en parle surtout car je viens de me rendre compte que je n'avais jamais consacré de doomanche aux nombreuses vidéos qui lui sont consacrées, alors qu'il est chez les doomers une référence presque aussi fréquente qu'Hinton ou Yudkowsky.
Qui derrière un titre parlant des chercheurs qui prédisent notre fin décrit les différents scénarios envisagés par Max Tegmark dans son livre Life 3.0.
Court #doomanche, pour une fois, sur cette vidéo de la petite chaine francophone dédiée "à la science fiction et autres choses" KUBE.
www.youtube.com/watch?v=DOg8...
Merci pour les réponses.
