Het boek lag lang op de plank te wachten, maar tijdens de kerstvakantie ben ik er toch aan begonnen. Het boek intrigeerde direct: het legt de discussie over Artificial Intelligence (AI) naast de discussie over heilige canons als de bijbel, omdat we nu op het kritieke moment verkeren waarop AI gecanoniseerd gaat worden.

Het boek legt het belang van zelfcorrigerende mechanismen bloot in informatienetwerken. Menselijke informatienetwerken hebben vaak orde boven waarheid gesteld, en dat heeft heel veel macht opgeleverd, maar weinig waarheid. Maar, mensen zijn wel degelijk in de waarheid geïnteresseerd, dus er is een kans om in elk geval sommige conflicten vreedzaam op te lossen door met elkaar te praten, fouten toe te geven, nieuwe ideeën over te nemen en de verhalen waarin we geloven te reviseren. Dat is de basisaanname in democratische netwerken en wetenschappelijke instellingen. Het was ook de basisaanname voor Harari om dit boek te schrijven.

Nawoord: ¨De beslissingen die we de komende jaren met zijn allen nemen, zullen bepalen of de schepping van die nieuwe vreemde intelligentie een fatale fout zal blijken te zijn, of het begin van een hoopvol nieuw hoofdstuk in de evolutie van het leven op aarde.¨

Hoe boek bestaat uit drie delen en een voor-, na- en dankwoord (455 bladzijden). Deel 1 gaat over menselijke netwerken (5 hoofdstukken), deel 2 over anorganische netwerken (3 hoofdstukken) en deel 3 over computer politiek (3 hoofdstukken). Hieronder mijn arceringen, per hoofdstuk. Het betreft geen evenwichtige samenvatting, maar geeft de passages weer die ik nog eens terug wilde lezen.

Hoofdstuk ´verhalen: ongelimiteerde verbinden´ (deel 1, hoofdstuk 2)

• De persoon Jezus beïnvloedde het leven van pakweg een paar duizend individuen die allemaal in één Romeinse achterafprovincie woonden. Het verhaal van Jezus vloog daarentegen de hele wereld over, eerst op de vleugels van roddel, anekdote en gerucht, toen via perkamentrollen, schilderijen en beelden, en uiteindelijk in de vorm van blockbusterfilms en internetmemes. Miljarden mensen hoorden het Jezusverhaal niet alleen, maar gingen er ook in geloven, wat een van de grootste en meest invloedrijke netwerken ter wereld creëerde.
• In de Joodse traditie is het hele doel van het paasmaal het creëren en heropvoeren van kunstmatige herinneringen. Elk jaar voeren miljoenen Joden tijdens de belangrijkste feestdag van de Joodse kalender een vertoning op waarbij ze zeggen dat ze zich dingen herinneren die ze niet hebben meegemaakt en die naar alle waarschijnlijkheid nooit hebben plaats gevonden. het Joodse pesachverhaal bouwt een groot netwerk op door bestaande biologische verwantschapsbanden op te rekken, zodat er een imaginaire familie van miljoenen mensen ontstaat.
• Meningsverschillen over het bestaan van staten kunnen niet beslecht worden met behulp van een objectieve test, zoals een DNA-onderzoek of een sonarscan. Anders dan dieren zijn staten geen objectieve realiteit. Van alle verhaalgenres zijn verhalen die intersubjectieve realiteiten creëren het meest cruciaal geweest voor de ontwikkeling van grootschalige menselijke netwerken. Voor de oprichting van de christelijke kerk was het bijvoorbeeld belangrijk dat mensen zich herinnerden wat Jezus bij het Laatste Avondmaal zei, maar de cruciale stap was mensen laten geloven dat Jezus een god was in plaats van gewoon een inspirerende rabbijn. Voor het ontstaan van het Joodse geloof hielp het dat joden zich ´herinnerden´ hoe ze samen aan de slavernij in Egypte waren ontsnapt, maar de meest doorslaggevende stap was alle Joden te laten gehoorzamen aan hetzelfde religieuze wettenstelsel, de halacha.
• Veel informatie hebben garandeert op zich nog geen waarheid, en ook geen orde. Door de generaties heen zijn menselijke netwerken wel steeds machtiger geworden, maar niet perse wijzer. Als een netwerk orde boven waarheid stelt, kan het heel machtig worden, maar die macht op onverstandige manieren inzetten. In plaats van een sprong naar voren is de geschiedenis van informatienetwerken een evenwichtsoefening, een poging om waarheid en orde in evenwicht te houden.

Hoofdstuk ´Documenten: de beet van de papieren tijgers´ (deel 1, hoofdstuk 2)

• De Hongaarse Jood Theodore Herzl was eind negentiende, begin twintigste eeuw druk bezig met het opzetten van een zionistische beweging. Herzl publiceerde twee boeken die een centraal  onderdeel van zijn politieke activisme vormden. Deze twee boeken – die helaas ook de plaatselijke realiteit in Palestina enigszins negeerden- hebben een enorme rol gespeeld bij hyet ontstaan van de zionistische beweging.
• De beelden die Bialik en Herzl opriepen gingen voorbij aan veel cruciale feiten over de omstandigheden van die tijd, met name het feit de dat de joden rond 1900 maar tussen de 6 en 9% uitmaakten van de totale bevolking van Palestina, die zo´n 600.000 mensen bedroeg. dat soort demografische feiten negeerden Bialik en Herzl, maar ze hechtten wel een groot belang aan mythologie, met name aan de Bijbelverhalen; zonder die verhalen is het moderne zionisme ondenkbaar.

Hoofdstuk ´Fouten: de illusie van onfeilbaarheid´ (deel 1, hoofdstuk 4)

• Anders dan de katholieke kerk zijn de wetenschappelijke instellingen die in het vroegmoderne Europa ontstonden opgebouwd rond sterke zelfcorrigerende vermogens. Het cruciale verschil is dat wetenschappelijke instanties bereid zijn om hun institutionele verantwoordelijkheid voor grote fouten en misdaden toe te geven.
• Als er genoeg empirisch bewijs wordt geleverd, heeft een onorthodoxe theorie vaak maar een paar decennia nodig om de gevestigde wijsheid op zijn kop te zetten en de nieuwe norm te worden.
• Zoals we in het volgende hoofdstuk zullen zien, zijn er tijden en plaatsen geweest waarin zelfcorrigerende mechanismen in de wetenschap ophielden te functioneren en academische onenigheid wel degelijk kon leiden tot fysieke marteling, gevangenschap en doodstraf.

Hoofdstuk ´Beslissingen: een korte geschiedenis van democratie en totalitarisme´ (deel 1, hoofdstuk 5)

• De meest gebruikelijke methode waarmee sterke mannen de democratie ondermijnen is door de zelfcorrigerende mechanismen een voor een aan te vallen, waarbij de rechtbanken en de media vaak als eerste aan de beurt komen.
• Aanhangers van sterke mannen zien dit proces vaak niet als antidemocratisch. Zij zijn oprecht verbaasd als ze te horen krijgen dat een verkiezingsoverwinning ze geen onbegrensde macht verleent. Ze zien elke vorm van controle op de macht van een verkozen regering juist als ondemocratisch. Democratie betekent echter niet dat de meerderheid heerst; het staat voor gelijkheid en vrijheid van iedereen. Democratie is een systeem dat iedereen bepaalde vrijheden garandeert die zelfs de meerderheid niet kan afpakken. In een democratie zijn er 2 mandjes vol rechten waar de meerderheid niet aan mag tornen: het ene bevat mensenrechten, het tweede bevat burgerrechten. wat belangrijk is om te weten over deze rechten is dat ze niet alleen de macht van de centrale overheid inperken, maar die ook allerlei actieve plichten opleggen.
• Mensenrechten en burgerrechten zijn intersubjectieve conventies die mensen verzinnen in plaats van ze te ontdekken, en ze worden bepaald door historische factoren en niet door een universele ratio. Het is belangrijk om te bedenken dat verkiezingen géén methode zijn om waarheid te achterhalen. Ze zijn eerder een manier om de orde te handhaven, door te arbitreren tussen de tegenstrijdige verlangens van mensen.
• Populisten beweren dat zij als enige voor het volk staan en voeren vervolgens aan dat het volk niet alleen de enige legitieme bron van politiek gezag is, maar de enige legitieme bron van álle gezag. In werkelijkheid betekent democratie alleen dat gezag in de politieke sfeer aan het volk wordt ontleend, waarbij de geldigheid van andere bronnen van gezag op andere gebieden niet wordt betwist.
• Net zoals democratie in stand wordt gehouden met behulp van overlappende zelfcorrigerende mechanismen die elkaar onder controle houden, creëerde het moderne totalitarisme overlappende surveillancemechanismen die elkaar op het rechte pad hielden (overheid, partij en geheime politie).
• Totalitaire regimes leunen zwaar op de controle van de informatiestromen en staan heel achterdochtig tegenover onafhankelijke informatiestromen.
• Kerken werden pas totalitairder in de laatmoderne tijd, toen moderne informatietechnologieën beschikbaar kwamen.

Hoofdstuk ´De nieuwe leden: waarin computers verschillen van drukpersen´ (deel 2, hoofdstuk 6)

• Etnische zuiveringscampagnes zijn nooit te wijten aan één enkele partij. Laat het duidelijk zijn dat de haat tegen de Rohingya al bestond voordat Facebook zijn intrede in Myanmar deed en dat de schuld van de gruweldaden van 2016-2017 voor het grootste deel bij mensen als Wirathu en de Myanmarse legerleiding lag, en ook bij de ASRA-leiders die de geweldgolf op gang brachten. De verantwoordelijkheid ligt voor een deel ook bij de Facebook-technici en leidinggevende die de algoritmen schreven (om haat te promoten in plaats van compassie), ze te veel macht gaven en ze vervolgens niet modereerden. Maar – en dit is cruciaal- de algoritmen hebben zelf ook schuld. Ze leerden al doende dat onderwerpen die verontwaardiging wekken de aandacht vasthouden en zonder expliciete orders van bovenaf besloten ze dat soort onderwerpen aan de man te brengen. Dat is het wezenskenmerk van AI – het vermogen van een machine om zelf iets te leren doen. Zelfs als we maar 1% van de schuld bij de algoritmen leggen, was dit nog steeds de eerste etnische zuivering uit de geschiedenis die voor een deel te wijten was aan de beslissingen van een niet-menselijke intelligentie.
• Er zouden zomaar aantrekkelijke, machtige religies kunnen opkomen waarvan de Heilige Schrift is opgesteld door AI. En als dat gebeurt, zal er nog een groot verschil zijn tussen die nieuwe AI-geschriften en oude heilige boeken zoals de bijbel. de bijbel kon zichzelf niet bloemlezen of interpreteren en daarom lag de achte macht in religies als het jodendom en het christendom niet bij het onfeilbaar geachte boek, maar bij menselijke instituten, zoals het joodse rabbinaat en de katholieke kerk. AI kan daarentegen niet alleen nieuwe heilige geschriften verzinnen, maar is ook heel goed in staat om er een mooie bloemlezing van te maken en daar interpretaties bij te leveren. Daar is geen mens meer bij nodig.
• In dit hoofdstuk zagen we dat computers, anders dan drukpersen en andere oudere werktuigen, zelfstandig beslissingen kunnen nemen en op eigen ideeën kunnen komen.

Hoofdstuk ´Feilbaar: het netwerk zit er vaak naast´ (deel 2, hoofdstuk 8)

• In plaats van te investeren in zelfcorrigerende mechanismen die waarheidsgetrouwe uitingen zouden belonen, ontwikkelden socialmediagiganten juist ongekende foutenversterkende mechanismen die leugens en verzinsels beloonden (de uitrol van Instant Articles-programma van Facebook in 2016 in Myanmar zorgde voor clickbait-jagers, waaraan FB advertentie-inkomsten beurde).
• De Microsoft-programmeurs hadden geen opzettelijke vooroordelen in de chatbox Tay ingebouwd, maar na een paar uur op Twitter, met de toxische informatie die daar tegen de plinten klotst, was de AI een keiharde racist geworden.
• Baby-algoritmen hebben naast toegang tot data ook een doel nodig.
• Amazon probeerde in 2014-2018 een algoritme te ontwikkelen dat sollicitaties kon screenen. Het algoritme dacht het gewoon een objectieve waarheid over de wereld had ontdekt: sollicitanten die aan vrouwenuniversiteiten hebben gestudeerd zijn minder gekwalificeerd. Maar eigenlijk had het gewoon een misogyn vooroordeel geïnternaliseerd en toegepast. Amazon probeerde het probleem mog te verhelpen, maar dat lukte niet en uiteindelijk werd het project naar de prullenbak verwezen.
• Veel algoritmische vooroordelen die hier en in de vorige hoofdstukken zijn behandeld hebben hetzelfde basisprobleem: de computer denkt dat hij een of andere waarheid over mensen heeft ontdekt, terwijl hij ze eigenlijk een bepaalde orde oplegt.

Hoofdstuk ´Democratieën: kunnen we nog een dialoog voeren?´ (deel 3, hoofdstuk 9)

• Witte suprematisten in de VS probeerden hun ideeën te rechtvaardigen met verwijzingen naar verschillende geheiligde teksten, met name de Amerikaanse grondwet en de Bijbel (Tiende Gebod en Genesis 9:25). In eerste instantie legitimeerde de Amerikaanse grondwet rassenscheiding en de superioriteit van het witte ras; alleen witte mensen kregen volledige burgerrechten en zwarte mensen mochten tot slaaf gemaakt worden.
• Het grootste deel van de geschiedenis waren grootschalige democratieën onmogelijk, omdat de informatietechnologie niet geavanceerd genoeg was om een grootschalige politieke dialoog te voeren. Nu kan democratie ironisch genoeg onmogelijik gemaakt worden omdat de informatietechnologie té geavanceerd wordt. Als ondoorgrondelijke algoritmen het gesprek overnemen en vooral als ze redelijke argumenten wegdrukken en haat en verwarring juist aanwakkeren, kan er geen publieke dialoog meer plaatsvinden. Maar als democratieën inderdaad instorten, zal dat waarschijnlijk niet komen door een of andere technologische onvermijdelijkheid, maar door het menselijke onvermogen om de nieuwe technologie verstandig te reguleren.

Hoofdstuk ´Het digitale gordijn: wereldrijk of wereldwijde tweedeling?´ (deel 3, laatste hoofdstuk 11)

• Veel vroegchristelijke sekten, die beïnvloed waren door joodse denkwijzen, geloofden in het oudtestamentische idee dat mensen belichaamde wezens zijn en dat het lichaam een cruciale rol speelt in de menselijke identiteit. Het boek Genesis zei dat God de mensen heeft geschapen als fysieke lichamen en bijna alle boeken van het Oude Testament gaan ervan uit dat mensen alleen als fysieke lichamen kunnen bestaan. In de tijd van Jezus geloofden veel joden dat de lichamen van doden weer tot leven zouden komen, gewoon hier op aarde, als de Messias zich eindelijk aandiende. Het Koninkrijk Gods, gesticht door de Messias, zou een stoffelijk koninkrijk zijn, met bomen, stenen en lichamen van vlees en bloed. Zo zagen Jezus en de eerste christenen dat ook voor zich. Jezus beloofde zijn volgelingen dat het koninkrijk Gods heel binnenkort gevestigd zou worden op aarde en dat ze het zouden bewonen in hun stoffelijke lichamen. Toen Jezus stierf zonder zijn belofte in te lossen, gingen zijn vroege volgelingen geloven dat hij met het lichaam en al uit de dood was herrezen en dat met hen hetzelfde zou gebeuren als het Koninkrijk Gods eindelijk op aarde zou verschijnen. De kerkvader Tertullianus (160-240) schreef dat ´het vlees de voorwaarde is waarom de verlossing draait´ en de catechismus van de katholieke kerk haalt de doctrine aan die was aangenomen tijdens de Tweede Concilie van Lyon en zegt: ´Wij geloven in God die de schepper van het lichaam is; wij geloven in het Woord dat vlees is geworden om het vlees te verlossen; wij geloven in de wederopstanding van het vlees, die de vervulling is van de schepping en de verlossing van het vlees…´.
• Ondanks dat soort overduidelijke uitsprakenzagen we dat Paulus zijn twijfels al had over het vlees en in de 4e eeuw drven sommige christenen af naar een dualistische benadering, die ze aan Griekse, manicheïstische en Perzische invloeden ontleenden. Ze gingen geloven dat mensen bestaan uit een goede onstoffelijke ziel die gevangen zit in een slecht materieel lichaam. Ze hadden geen fantasieën meer over vleselijke wederopstanding. Christenen gingen dus geloven dat de ziel na de dood wordt bevrijd van het lichaam en eeuwig blijft voortbestaan op een immateriële plek die volkomen buiten het fysieke domein ligt – wat nog steeds het standaardgeloof is onder christenen, ondanks alles wat Tertullianus en het Tweede Concilie van Lyon daarover te melden hadden.
• Maar het christendom kon zich niet helemaal losmaken van het oude joodse idee dat mensen lichamelijke wezens zijn. Christus verscheen immers ook in levende lijve op aarde. Zijn lichaam werd aan het kruis genageld, waar hij onnoemelijke pijnen leed. 2000 jaar lang ruzieden christelijke sekten dus om de exacte relatie tussen ziel en lichaam. De verschillende benaderingen van het vraagstuk hadden invloed op de manier waarop mensen met hun eigen lichaam omsprongen. Heiligen , kluizenaars, monniken en nonnen ondernamen adembenemende experimenten in het tot het uiterste afstraffen van het menselijk lichaam. Andere christenen kozen voor de omgekeerde weg en geloofden dat het lichaam er helemaal niet toe deed.  Het enige wat telde was geloof (Maaren Luther).
• Een vraag die steeds belangrijker wordt is of mensen elke virtuele identiteit kunnen aannemen die ze maar willen of dat hun identiteit ingeperkt moet worden door hun biologische lichaam. Als we het lutherse principe van sola fide hanteren, is het biologische lichaam niet echt van belang. Bij het aannemen van een bepaalde online-identiteit is het enige wat ertoe doet wat je gelooft (Koninkrijk Gods in cyberspace, met weinig aandacht voor materiële dingen).
• Zelfs als de mensheid het worstcasescenario van een wereldoorlog weet te vermijden, kan de opkomst van nieuwe digitale wereldrijken nog steeds de vrijheid en welvaart van miljarden mensen in gevaar brengen. De industriële grootmachten van de 19e en 20e eeuw exploiteerden en onderdrukten hun koloniën en het zou dom zijn om te verwachten dat de nieuwe digitale wereldrijken zich veel beter zullen gedragen. Als de wereld verdeeld raakt in rivaliserende wereldrijken komt daar, zoals we al eerder zagen, nog bij dat de mensheid waarschijnlijk niet erg effectief meer zal samenwerken  om de ecologische crisis te bezweren of om ontwrichtende technologieën als AI en biotech te reguleren.
• In tegenstelling tot alle populistische beweringen betekent globalisme niet dat er een wereldrijk gevestigd gaat worden, dat nationale loyaliteiten worden opgegeven of dat grenzen opengegoooid worden voor onbeperkte immigratie. Wereldwijde samenwerking houdt in feite twee veel bescheidener dingen in:
  1. Ten eerste afspraken over een paar wereldwijde regels (over betrekkingen tussen landen).
  2. Ten tweede: soms is het nodig om de langetermijnbelangen van alle mensen voorrang te geven boven de kortetermijnbelangen van een paar mensen.
• Het opstellen en handhaven van internationale afspraken over AI zal grote veranderingen vergen in de manier waarop het internationale systeem functioneert. We hebben wel ervaring met het reguleren van gevaarlijke technologieën als kernwapens en biowapens, maar de regulering van AI zal een ongekend niveau van vertrouwen en zelfdiscipline vereisen. Veel mensen zijn skeptisch over het menselijke vermogen om te veranderen en vooral om geweld af te zweren en sterke internationale banden te smeden (´realistische´ denkers die mensen beschouwen als wezens die alleen in macht geïnteresseerd zijn). Er zijn echter redenen om te denken dat ´realisten´ een selectieve kijk op de historische realiteit hebben.
• Het duidelijkste patroon dat we in de lange geschiedenis van de mensheid zien is er niet van constante conflicten, maar van steeds meer samenwerking.
• De intensiteit van oorlogen houdt geen verband met de zogenaamd onveranderlijke menselijke aard, maar met veranderende technologische, economische en culturele factoren. Als die factoren veranderen, veranderen oorlogen mee, zoals duidelijk bleek in het tijdperk van 1945. Toen verhoogde de ontwikkeling van kerntechnologie de potentiële prijs van een oorlog enorm.
• Talloze statistieken getuigen van de afname van oorlog in het tijdperk na 1945, maar het duidelijkste bewijs is misschien wel te vinden in de staatsbudgetten. Het leger stond het grootste deel van de schriftelijke geschiedenis op nummer één op het budget (tussen 50% en 70%) van alle keizerrijken, sultanaten, koninkrijken en republieken. Staatsbudgetten in recentere decennia bieden veel hoopvoller leesvoer (wereldwijd gemiddelde van 7%) dan elk pacifistisch traktaat dat ooit is geschreven. De afname van oorlogen vloeide niet voort uit een goddelijk mirakel of een metamorfose in de natuurwetten. Het kwam doordat mensen hun eigen wetten, mythen en instituten veranderden en betere beslissingen namen. Helaas betekent het feit dat deze verandering een menselijke keuze was automatisch ook dat die omkeerbaar is. technologie, economie en cultuur blijven veranderen.
• Begin 2022 werd een kritieke drempel overschreden. Op 24 februari 2022 lanceerde Vladimir Poetin een grootscheepse aanval in een poging om heel Oekraïne te veroveren en de Oekraïense natiestaat van de kaart te vegen. De Russische inval heeft vervolgens veel andere Europese landen gedwongen hun defensiebudget te verhogen.
• Als leiders zoals Poetin geloven dat de mensheid in een keiharde wereld leeft waarin het hard tegen hard gaat, dat er geen wezenlijke veranderingen mogelijk is in die trieste gang van zaken en dat de relatieve vrede van de late 20e eeuw en de vroege 21e eeuw een illussie was, dan blijft er maar één keuze over, namelijk of je de agressor of de prooi wil zijn.
• Die leiders zouden achter goed moeten bedenken dat de opper-agressor in het AI tijdperk hoogstwaarschijnlijk AI zal zijn.
• Maar misschien hebben we toch keuzemogelijkheden. Ik kan niet voorspellen wat voor beslissingen mensen de komende jaren zullen nemen, maar als historicus geloof ik wel dat verandering mogelijk is. Een van de voornaamste lessen van de geschiedenis is dat veel dingen die ons natuurlijke en onveranderlijk voorkomen gewoon door mensen verzonnen zijn en dus ook gewoon veranderd kunnen worden. Maar het idee dat conflicten niet onvermijdelijk zijn moet ons niet zelfgenoegzaam maken. Integendeel. het legt de zware verantwoordelijkheid op ons allemaal om goede keuzes te maken. Het impliceert dat we natuurwetten of vreemde technologie niet de schuld kunnen geven als de menselijke beschaving omkomt in conflicten. Het impliceert ook dat we een betere wereld kunnen creëren als we daar genoeg moeite voor doen. Dat is geen naïviteit, dat is realisme. Alles wat oud is, was ooit nieuw. De enige constante in de geschiedenis is verandering.

Nawoord

• De directe gevolgen van de opkomst van de boekdrukkunst waren niet alleen wetenschappelijke ontdekkingen, maar ook heksenjachten en geloofsoorlogen, en kranten en radio werden net zo goed door totalitaire regimes ingezet als door democratieën. Wat de industriële revolutie betreft, onze aanpassing daaraan bracht catastrofale experimenten als het imperialisme en het nazisme met zich mee. Als de AI-revolutie tot vergelijkbare experimenten leidt, kunnen we er dan echt wel zo zeker van zijn dat we ons er wel doorheen slaan?
• Eén les is dat de uitvinding van een nieuwe informatietechnologhie altijd een katalysator is voor grote historische veranderingen, omdat de belangrijkste rol van informatie het weven van nieuwe netwerken is en niet het weergeven van bestaande realiteiten.
• In dit boek is de discussie over AI naast de discussie over heilige canons als de bijbel gelegd omdat we nu op het kritieke moment verkeren waarop AI gecanoniseerd gaat worden. Kerkvaders als bisschop Athanisius hebben met hun besluit om 1 Timoteüs wel in de bijbelse dataset op te nemen en de handelingen van Paul en Thekla niet, het leven op aarde millennialang beïnvloed. Miljarden christenen hebben tot in de 21e eeuw hun wereldbeeld gebaseerd op misogyne ideeën uit 1 Timoteüs in plaats van de veel tolerantere houding van Thekla. Zelfs nu is het nog steeds moeilijk om die koers bij te stellen, want de kerkvaders hebben er niet voor gekozen om zelfcorrigerende mechanismen in de Bijbel in te bouwen. De hedendaagse equivalenten van bisschop Athanisius zijn de techneuten die de oorspronkelijke programmering van AI schrijven en de dataset kiezen waarmee de baby-AI getraind wordt. Als AI krachtiger en gezaghebbender wordt, en misschieneen zichzelf interpreterend heilig boek gaat vormen, kunnen de beslissingen van de programmeurs nog eeuwenlang nagalmen.
• Historisch onderzoek doet meer dan alleen het belang van de AI-revolutie en onze beslissingen over AI benadrukken. Het waarschuwt ons ook tegen 2 vaak voorkomende, maar misleidende benaderingen van informatienetwerken en informatierevoluties. Aan de ene kant moeten we oppassen voor een al te optimistische en naïeve kijk. Informatie is geen waarheid. haar voornaamste taak is niet weergeven, maar verbinden, en informatienetwerken door de eeuwen heen hebben orde vaak boven waarheid gesteld. Anderzijds moeten we ook niet te ver naar de andere kant doorslaan en geen al te cynisch beeld krijgen.
• Deze weigering om alle menselijke interacties in het kader van een machtsstrijd met louter winnaars en verliezers te bezien is cruciaal, niet alleen om een vollediger, genuanceerd beeld van het verleden te krijgen, maar ook om onze toekomst wat hoopvoller en constructiever tegemoet te treden. Mensen zijn wel degelijk in de waarheid geïnteresseerd, dus er is een kans om in elk geval sommige conflicten vreedzaam op te lossen door met elkaar te praten, fouten toe te geven, nieuwe ideeën over te nemen en de verhalen waarin we geloven te reviseren. Dat is de basisaanname in democratische netwerken en wetenschappelijke instellingen. Het was ook de basisaanname om dit boek te schrijven.
• Zelfcorrigerende mechanismen zijn dus van het grootste belang voor het welzijn van de mensheid op de lange termijn, maar helaas zullen politici in de verleiding komen om ze te verzwakken.
• De geschiedenis kan letterlijk alle kanten op, me de meest uiteenlopende bestemmingen als gevolg. Zelfs als de Homo sapiens zichzelf vernietigt, zal het heelal gewoon door blijven draaien.
• We hebben nu een niet-bewuste, maar bijzonder krachtige intelligentie gecreëerd die wezenlijk anders is dan wij, Als we daar verkeerd mee omgaan, zou AI misschien niet alleen een einde kunnen maken aan de menselijke heerschappij op aarde, maar aan het licht van de bewustzijn zelf, waardoor het universum in een rijk van volslagen duisternis zou veranderen. Het is onze verantwoordelijkheid om dat te voorkomen.
• In de loop van 4 miljard jaar leidden steeds complexere mutatie- en zelfcorrectiemechanismen tot de evolutie van bomen, dinosaurussen, oerwouden en uiteindelijk mensen. Nu hebben we een totaal andersoortig anorganische intelligentie in het leven geroepen die aan onze controle zou kunnen ontsnappen en niet alleen onze eigen soort in gevaar kan brengen, maar ook talloze andere levende wezens. De beslissingen die we de komende jaren met zijn allen nemen, zullen bepalen of de schepping van die nieuwe vreemde intelligentie een fatale fout zal blijken te zijn, of het begin van een hoopvol nieuw hoofdstuk in de evolutie van het leven op aarde.

Lees hier mijn blog over en samenvatting van Harari´s andere boek Sapiens.