Kunstmatige intelligentie en oorlog

Civis Mundi Digitaal #73

door Jan de Boer

De wereld wordt er niet gezelliger op met de opwarming van de aarde met de daarbij behorende klimatologische catastrofes. En nu komt daarbij ook de kunstmatige intelligentie bij oorlogsvoering: algoritmes, dodelijke wapens die in staat zijn hun eigen chef onder vuur te nemen. Met de snelle ontwikkelingen op het gebied van kunstmatige intelligentie, zijn de militaire grootmachten bezig hun arsenaal te automatiseren om zo sterker te staan bij oorlogvoering, ook wel eufemistisch aangeduid als defensie. Hoe dan ook de aard van oorlogvoering zal volledig veranderen en wel in die zin dat honderden wetenschappers zich ongerust maken over de mogelijkheid dat men aan machines het doden van tegenstanders toevertrouwt met alle risico’s van dien. De mensheid is toch een vreemde en unieke diersoort bezig met activiteiten die meer dan levensgevaarlijk zijn voor zijn eigen voortbestaan.

 

Het scenario van de robotdoder was tot voor kort pure science fiction maar met de snelle ontwikkeling van de kunstmatige intelligentie valt er niet meer om te lachen. De grote militaire mogendheden zijn druk bezig met het automatiseren van hun wapenarsenaal. Ze hebben daar alle belang bij. Zo sparen zij het leven van hun soldaten en bovendien zijn autonome wapens veel sneller en preciezer dan gewone soldaten, minder duur in onderhoud, ongevoelig voor woede, angst en frustratie (die vaak oorzaak zijn van dom optreden), etc. Zeker, op dit moment worden de dodelijke algoritmes in de vorm van drones, boten en robots nog op afstand bestuurd door mensen, maar er wordt hard gewerkt aan hun autonoom-zijn met alle gevaren van dien. Zonder een geweten, zonder sociale en emotionele intelligentie, zonder ethiek en beredeneerde argumentatie kunnen deze algoritmes ware slachtpartijen aan richten. Laten we ons in dat verband de sovjet-generaal Stanislav Petrov weer voor de geest halen. Op 23 september 1983 zag hij op zijn beeldschermen vijf Amerikaanse nucleaire raketten op zich af komen. Hij beredeneerde dat dit waarschijnlijk te wijten was aan een programmeringsfout en besloot geen nucleaire tegenaanval uit te voeren…

Afgelopen zomer hebben een 2400 wetenschappers op het gebied van kunstmatige intelligentie en een honderdtal laboratoria op het gebied van informatica daarom afgesproken dat zij nooit of te nimmer mee zullen werken aan de ontwikkeling van dodelijke autonome wapens. Maar de 88 nationale delegaties van landen die ieder jaar in het kader van de Conventie van Genève bijeenkomen, zijn er niet in geslaagd om een verdrag te sluiten dat de ontwikkeling of het gebruik van dodelijke autonome wapens verbiedt…

Waar in de burgerlijke samenleving er een snelle ontwikkeling van robots is, zullen ook in de militaire samenleving deze dodelijke wapens verschijnen, want zij geven de militaire leiders teveel voordelen om ze aan de kant te zetten. Er zijn wetenschappers die zeggen dat zij deze algoritmes kunnen voorzien van menselijke gevoelens nodig voor hun goed functioneren, anderen betwijfelen dat ten zeerste. Hoe bijvoorbeeld een algoritme te leren onderscheiden of deze te maken heeft met een soldaat of een burger: een subtiele zaak in geval van een guerrilla-oorlog, waarin het internationale recht ook zijn geldigheid heeft. Algoritmes hebben nog steeds een mysterieus en onvoorzien aspect wat betreft hun beslissingen. Wetenschappers hebben tot nu toe geen enkele procedure weten te ontwikkelen om de werkelijke betrouwbaarheid van deze systemen te testen alvorens zij operationeel zijn. Dat is des te gevaarlijker met hun kwetsbaarheid voor het ’hacken’. Op het slagveld zijn ze blootgesteld aan tegenstanders die proberen hun te bedriegen met als gevolg dat ze zich tegen hun eigen legers kunnen keren.

Hoe het ook zij, gevechten tussen kunstmatige intelligenties zullen de oorlogsvoering totaal veranderen, misschien met minder doden, maar ook met nieuwe risico’s. Naar het voorbeeld van bliksemsnelle beurscrises veroorzaakt door interacties van algoritmische traders, zouden we geconfronteerd kunnen worden met zeer plotselinge ongecontroleerde oorlogshandelingen tussen gerobotiseerde legers waarbij menselijk ingrijpen onmogelijk is.

Op dit moment pleit de meerderheid van de landen nog voor het handhaven van menselijke controle voordat het vuur op de tegenstander geopend wordt, maar het staat voor vrijwel alle experts vast dat onvermijdelijk in de nabije toekomst de dodelijke autonome wapens in welke vorm ook de dienst uit gaan maken.