Nýlegar viðræður á vettvangi Sameinuðu þjóðanna hafa vakið mikla athygli á svokölluðum sjálfstýrðum vopnakerfum (e. Lethal autonomous weapons systems). Þetta eru vopn, knúin áfram af gervigreind, sem geta greint og valið skotmörk án nokkurrar mannlegrar aðkomu eftir að þau hafa verið gangsett. Við erum ef til vill ekki komin á þann stað að vélarnar hafi tekið fullkomin völd líkt og í vísindaskáldsögum, en línan milli manns og vélar í hernaði er ört að mást út. Sem betur fer kalla nú yfir 70 þjóðir eftir formlegum samningaviðræðum til að tryggja að menn, en ekki reiknirit, eigi alltaf síðasta orðið þegar kemur að ákvörðunum um líf og dauða.
Það sem áður þótti fjarlæg framtíðarsýn er nefnilega orðinn blákaldur raunveruleiki. Stríðið í Úkraínu hefur til að mynda breyst í nokkurs konar tilraunastofu fyrir dróna og vopnakerfi sem nýta gervigreind til að finna skotmörk í rauntíma. Þessi tækni er farin að sjá um flókið mynsturgreiningarferli, jafnvel á þéttbýlum svæðum. Hættan er augljós: Ein villa í forritun eða rangur lestur skynjara í hita leiksins getur leitt til skelfilegs mannfalls meðal almennra borgara. Ef vél tekur ranga ákvörðun á brotabroti úr sekúndu skapast hættulegt ábyrgðartómarúm — hver ber eiginlega ábyrgðina þegar enginn maður ýtti á gikkinn?
Þrátt fyrir þessa skuggalegu þróun er rík ástæða til bjartsýni. Sagan sýnir okkur að alþjóðasamfélagið getur tekið höndum saman um að setja tækninni siðferðileg mörk, líkt og áður hefur verið gert með banni við jarðsprengjum og samningum um takmörkun kjarnavopna. Með vaxandi þrýstingi frá almenningi og samstöðu fjölda ríkja er raunhæfur möguleiki á að ná fram bindandi alþjóðasáttmála fyrir árslok 2026. Slíkur samningur myndi banna algjörlega sjálfstýrð árásarvopn en leyfa áfram varnarkerfi sem bjarga mannslífum. Þannig gætum við fundið hið vandrataða jafnvægi milli tækninýjunga og mannúðar.