Internationaal recht is opgesteld met het oog op besluitvormende mensen. AI heeft zojuist die keten doorbroken en niemand weet wie er nu verantwoordelijk is

Het landschap van internationaal recht en militaire ethiek staat voor een diepgaande uitdaging met de komst van kunstmatige intelligentie in autonome wapensystemen. Er is een cruciaal vraagstuk ontstaan met betrekking tot aansprakelijkheid wanneer een AI-systeem, in plaats van een mens, de beslissing neemt om dodelijk geweld te gebruiken. Deze situatie roept complexe vragen op over wie de verantwoordelijkheid draagt bij een illegale order of een oorlogsmisdaad die is begaan door een AI-gestuurd wapen. Huidige wettelijke kaders zijn gebaseerd op menselijke besluitvorming, waarbij individuen in staat zijn om onrechtmatige bevelen te onderscheiden en te negeren. Autonome AI-systemen missen echter deze capaciteit voor oordeel en moreel redeneren, wat een leemte creëert in de traditionele commandostructuur en verantwoordelijkheid. Dit laat rechtsgeleerden en beleidsmakers worstelen met de vraag hoe schuld toe te wijzen, hetzij aan de ontwikkelaars van de AI, de militaire commandanten die het inzetten, of de politieke leiders die het gebruik ervan autoriseren. De implicaties reiken verder dan het slagveld en raken bredere zorgen over surveillance en burgerlijke vrijheden. Het vermogen van AI om enorme hoeveelheden gegevens in realtime te verwerken, kan de bescherming tegen ongerechtvaardigde huiszoekingen en interventies uithollen, aangezien de technische beperkingen die massasurveillance voorheen onhaalbaar maakten, worden overwonnen. Deze verschuiving noodzaakt een herbeoordeling van bestaande wettelijke waarborgen om ervoor te zorgen dat deze effectief blijven in een tijdperk van steeds geavanceerdere AI-capaciteiten.