Ja, dit debat is complex. Je hebt AI-critici die geloven dat AI de mensheid doet uitsterven, en AI-voorstanders die dat ook geloven, maar het proces willen begeleiden. Je hebt AI-voorstanders die menen dat het niet zo is, en tegenstanders die denken dat het uitsterfverhaal louter marketing is, etc.

Zie ook het stuk waarnaar ik verderop in dat draadje verwijs:

Dat klopt. Het probleem is dat het daarna niet meer uitmaakt wat er met de mensheid zélf gebeurt, zo vinden de meeste mensen die deze bootstrap bepleiten. Sterker nog, het gros van hen vindt het prima als de mensheid daarna uitsterft; we hebben dan ons doel al volbracht.

Ik kan helaas niet dat weekend! Maar er komen zeker nog andere gelegenheden

Frank tackelt veel van deze thema's in zijn fictie, inderdaad. (Al heb ik wel fundamentele bedenkingen bij de manier waarop, maar dat is iets voor een ander gesprek 😉)

Enfin, dit is dus allemaal gebaseerd op de overtuiging dat AI snel superintelligent wordt én dat het de lotsbestemming van de mens is om het heelal te koloniseren, of dat te laten doen door onze slimmere AI nazaten. En ja: dit soort bizarre denkbeelden zijn onder de techbro's volkomen geaccepteerd.

Het kwam hem eerder nog op een uitbrander van Google's Larry Page te staan, die Musk een 'specieist' doopte, omdat hij voorkeur had voor mensen boven AI. (Nee, echt). Nu is Musk dat blijkbaar niet meer. Het zijn details, want Musk is op veel vlakken minstens zo extreem. Maar wel opvallend.

Blijkbaar vindt Musk het inmiddels prima als de mensheid uitsterft. AGI richting de sterren vuren is een prima 'succesconditie' voor onze soort. (Met excuus dat ik de man ongevraagd uw tijdlijn hier induw alsof ik het eerste het beste X-algoritme ben 😉)

Altijd lastig: aan de ene kant wil je dit soort ideeën geen 'podium' geven, aan de andere kant hébben ze dat podium al. Bostrom is internationaal erg invloedrijk. Het is ook onze taak als journalisten om dat soort (informele) macht kritisch te bevragen, in interviews zoals deze.

We vroegen Bostrom uiteraard ook naar de beruchte e-mail waarin hij schreef: 'zwarten zijn dommer dan witten'. Ondanks verontschuldigingen, weigert hij het achterliggende sentiment terug te nemen - ook nu weer. ‘Dit is zo goor, een lesje in non-verontschuldigingen’, oordeelden critici eerder al.

Wie nooit sciencefiction heeft gelezen, of het zonder zich erin te verdiepen afdoet als een pulpgenre, staat in de moderne maatschappij soms al met 1-0 achter. (Even los van het feit dat de techbro's het genre regelmatig misbruiken 😉) Uit 1957, deze overpeinzing van Isaac Asimov:

Inmiddels m'n oorspronkelijke bericht verwijderd, voordat iedereen op een dode link klikt. Heb begrepen dat het probleem vandaag niet verholpen is.

Blijkbaar een fout aan onze kant ergens achter de schermen. Ik heb begrepen dat de video opnieuw geüpload wordt