Let's hope the work on AI alignment does an even number of sign mistakes. 😅

extremely concerning that OpenAI has made 3 sign errors—an odd number—upsetting this delicate balance

Amazingly, the political biases of the AIs themselves are far less toxic¹ than the political ideas and fringe theories of the billionaires promoting/building them. Musk actually had a hard time getting Grok to align with his noxious worldview, even imperfectly. 1. (I'm not implying they're good.)

Les IA, c'est super pour booster la citogenèse et l'auto-renforcement des théories bizarres: j'écris une page pour défendre l'idée truc, et les IA citeront ma page pour justifier l'idée en question. (En l'occurrence je pense mon idée pas idiote, mais j'aimerais bien qu'un autre humain y croie.)

D'un autre côté il y a depuis bien avant l'IA des “collapsologues” dans certains cercles de gauche qui expliquent et/ou se réjouissent que le capitalisme va forcément s'effondrer et l'apocalypse qui suivra amener une société plus juste. La doomsday prep ce n'est pas qu'un truc de la manosphère.

Aucune idée, je n'ai jamais testé Lean moi-même. À la base je faisais cette expérience pour tester le style de rédaction en anglais sur un exercice pas hyper difficile (mais pas trivial non plus): c'était censé être un exercice d'exposition, mais ça a un peu débordé le sujet.

J'ai répondu (je le précise ici parce que mes mails ont souvent tendance à arriver dans la boîte à spam): si vous pouvez me donner le markdown (si c'est sous cette forme que ça a été produit) plutôt que le HTML, ce serait beaucoup plus commode pour moi.

Pas lu hyper en détails mais de ce que je vois, ça a l'air plutôt bien. (Bientôt la calibration des difficultés des problèmes dans les livres de maths par le modèle le plus simple qui arrive à les résoudre? 🤔)

L'autre typo c'est que j'avais écrit que {sin=0} est 2πℤ au lieu de πℤ dans la parenthèse dans l'énoncé initial sur Bluesky (corrigé dans le prompt que j'ai utilisé). L'intérêt du reste du prompt c'est aussi de donner des consignes uniformes (donc plus comparables) pour la rédaction.

Ah zut tu as pris la version avec des typos, qui peut compliquer les choses. J'aurais dû te pointer vers le prompt exact que j'ai utilisé:

… Effectivement il a été assez con et insensible de parler de ses financements, mais moi ce qui me préoccupe ce sont les doctorants qui viennent de perdre tout leur avenir et dont certains sont au bord du suicide.

Il est médaillé Fields, professeur ordinaire à l'université de Genève, et s'il décide d'utiliser l'IA il aura accès à tous les modèles du monde: je ne m'inquiète pas pour sa carrière, et je pense que lui non plus. …

18 novembre 1999. Les diplomates français ayant envoyé trop de télégrammes diplomatiques, le chiffre de 2^16-1 est atteint…

Ce n'est pas le point: le point c'est que même si on devait recruter moins (ou différemment), les corporatistes ne se sentent pas spécialement menacés: ils sont déjà dans la corporation, ils ont un poste, ils sont plutôt ravis de ce monde avec IA.