Meaningful Human Control of Autonomous Weapon Systems [Elektronisk resurs] Definitions and Key Elements in the Light of International Humanitarian Law and International Human Rights Law

• There is widespread agreement amongst states and civil society that the concept "meaningful human control" is useful in discussions on autonomous weapon systems. The concept has been defined differently in the debate, but there are common factors which can be systemised into the following key elements of meaningful human control: context-control, understanding the weapon system, understanding the environment, predictability and reliability, human supervision and the ability to intervene, accountability and ethical considerations. The discussions on autonomous weapon systems mainly focus on international humanitarian law aspects. However, a perspective on international human rights law is necessary when developing the concept of meaningful human control, for it to be useful also when human rights law is the governing legal framework. Analysing which requirements the right to life of the European Convention on Human Rights would place on a concept of meaningful human control reveals additional key elements such as expressing meaningful human control through national regulations, necessity- and proportionality assessments and procedural obligations. Since humanitarian law and human rights law differ regarding what use of force is lawful, an additional key element is the ability to assess what legal framework governs the use of force. There is disagreement on how the precise meaning of the key elements should be interpreted in specific contexts. Terms like "predictability" and "understanding" do not have a definitive meaning and must be interpreted in each specific application. Central actors do not agree on several questions. Can weapon systems that autonomously select and engage targets be allowed? Must operators always be able to cancel an operation? A challenge for the future debate is to precise what meaningful human control means in relation to specific questions like these, to ensure that the concept is rooted in the operational reality and that it does not become contradictory in relation to existing noncontroversial weapon systems. The conclusion of this report is that the concept of meaningful human control is still not sufficiently defined to form the basis of any regulation on autonomous weapon systems. However, the key elements are a useful starting point for continued discussions on what technology and use comply with humanitarian law and human rights law. 
• Det råder bred enighet mellan stater och civilsamhälle om att begreppet "meningsfull mänsklig kontroll" är användbart i diskussioner om autonoma vapensystem. Begreppet har definierats på olika sätt i debatten, med det förekommer dock vissa gemensamma och återkommande krav som kan brytas ner till möjliga huvudkomponenter av begreppet meningsfull mänsklig kontroll: kontroll av sammanhanget, förståelse för vapensystemet, förståelse för sammanhanget vapnet används i, krav på förutsebarhet och tillförlitlighet, möjligheten att övervaka vapenanvändningen samt att ingripa, möjligheten till ansvarstillskrivelse och etiska överväganden. Diskussionerna om autonoma vapensystem har huvudsakligen skett ur ett humanitärrättsligt perspektiv. Att även undersöka frågan utifrån mänskliga rättigheter är emellertid nödvändigt när begreppet meningsfull mänsklig kontroll utvecklas. Detta för att begreppet ska kunna användas även när de mänskliga rättigheterna utgör det ytterst gränssättande regelverket. Genom att analysera vilka krav som rätten till liv enligt Europakonventionen om skydd för de mänskliga rättigheterna skulle ställa på begreppet meningsfull mänsklig kontroll, uppenbaras ytterligare huvudkomponenter av begreppet. Exempelvis krav på att uttrycka meningsfull mänsklig kontroll genom nationella bestämmelser, nödvändighets- och proportionalitetsbedömningar, samt processuella skyldigheter. Eftersom humanitär rätt och mänskliga rättigheter skiljer sig åt gällande vilken våldsanvändning som är tillåten, kan ytterligare en huvudkomponent anses vara förmågan att avgöra vilket regelverk som är ytterst gränssättande för användandet av våld i den specifika situationen. Det kvarstår många frågor relaterade till hur varje huvudkomponent ska tolkas i specifika situationer, då begrepp som "förutsebarhet" och "förståelse" är ord som saknar en bestämd betydelse och måste tolkas vid varje konkret tillämpning. Centrala aktörer inom debatten är oense om flera frågor. Kan vapensystem med förmåga att autonomt göra målval och bekämpa mål tillåtas? Måste operatörer alltid ha möjlighet att avbryta en operation? En utmaning för den framtida debatten är att precisera vad meningsfull mänsklig kontroll innebär i förhållande till specifika frågor som dessa, och att tillse att begreppet förankras i den operativa verkligheten samt inte blir motsägelsefullt i relation till existerande icke-kontroversiella vapensystem. Slutsatsen av denna rapport är att begreppet meningsfull mänsklig kontroll fortfarande inte är tillräckligt väldefinierat för att ligga till grund för en reglering av autonoma vapensystem. Begreppets huvudkomponenter utgör emellertid en användbar utgångspunkt för fortsatta diskussioner om vilken teknik och användning som är förenlig med humanitär rätt och mänskliga rättigheter. 

Ämnesord

Social Sciences  (hsv)

Law  (hsv)

Samhällsvetenskap  (hsv)

Juridik  (hsv)

Law  (umu)

juridik  (umu)

human-computer interaction  (umu)

människa-datorinteraktion  (umu)

konstitutionell rätt  (umu)

constitutional law  (umu)

europarätt  (umu)

european law  (umu)

International Law  (umu)

folkrätt  (umu)

Genre

government publication  (marcgt)

Indexterm och SAB-rubrik

meaningful human control

human judgement

autonomous weapon systems

LAWS

international humanitarian law

international human rights law

human-machine interaction

artificial intelligence

United Nations Convention on Certain Conventional Weapons

CCW

meningsfull mänsklig kontroll

autonoma vapensystem

LAWS

internationell humanitär rätt

internationella mänskliga rättigheter

människa– maskininteraktion

artificiell intelligens

FN:s konvention om vissa konventionella vapen

CCW