Zastavte zabijáky předtím, než bude pozdě, říkají vědci fórum Davosu

VEGAN 2017 - The Film (Červen 2019).

Anonim

Svět musí jednat rychle, aby odvrátil budoucnost, v níž autonomní robotové s umělou inteligencí toulali bojištěmi zabíjejícími lidi, vědce a odborníky na zbraně varovali před elitním shromážděním ve švýcarských Alpách.

Musíme dohodnout pravidla, abychom zabránili rozvoji takových zbraní, řekl na setkání miliardářů, vědců a politických vůdců v lyžařském středisku v Davosu, které se konalo v lednu 19-23.

Angela Kane, německá vysoká představitelka OSN pro otázky odzbrojení z let 2012-2015, uvedla, že svět pomalu přijal preventivní opatření k ochraně lidstva před smrtící technologií.

"Možná je příliš pozdě, " řekla v rozhovoru v Davose.

"Existuje mnoho zemí a mnoho zástupců v mezinárodním společenství, které skutečně nechápou, co se týká. Tento vývoj je něco, co je omezeno na určitý počet vyspělých zemí, " řekl Kane.

Rozmístění autonomních zbraní by představovalo nebezpečné nové období války, říkali vědci.

"Nehovoříme o dronech, kde člověk řídí drone, " říká Stuart Russell, profesor počítačové vědy na Kalifornské univerzitě v Berkeley.

"Mluvíme o autonomních zbraních, což znamená, že za nimi není nikdo. AI: zbraně z umělé inteligence, " řekl na fóru v Davosu. "Velmi přesně, zbraně, které mohou lokalizovat a napadat cíle bez lidského zásahu."

Robotní chaos na bojišti

Russell řekl, že nepředpokládá den, kdy roboty bojují o války pro lidi a na konci dne jedna strana říká: "OK jste vyhrál, takže můžete mít všechny naše ženy."

Někteří tisíci vědečtí a technologičtí šéfové včetně britského fyziků Stephena Hawkingová však v otevřeném lístku v červenci uvedli, že vývoj zbraní s určitým stupněm autonomní rozhodovací kapacity by mohl být proveden v letech, nikoliv desetiletích.

Vyzvali k zákazu útočných autonomních zbraní, které jsou mimo smysluplnou lidskou kontrolu, a varují, že svět riskoval, že se dostanou do závodů ve zbrojení umělé inteligence a varují před rizikem, že takové zbraně upadnou do rukou násilných extremistů.

"Otázkou může být, aby tyto stroje dodržovaly pravidla války?" Řekl Russell.

"Za porozumění"

Jak by například autonomní zbraň mohla odlišit civilisty, vojáky, odporové bojovníky a rebelové? Jak by to mohlo vědět, že by nemělo zabít pilota, který vyletěl z letadla a padá na zem?

"Jsem proti robotům z etických důvodů, ale nevěřím, že etické argumenty vyhrají den. Věřím, že strategické argumenty vyhrají den, " řekl Russell.

Spojené státy se vzdaly biologických zbraní kvůli riziku, že jednoho dne budou moci "nasadit" téměř každý, řekl. "Doufám, že k tomu dojde s roboty."

Alan Winfield, profesor elektronického inženýrství na univerzitě na západě Anglie, varoval, že odstranění lidí z rozhodovacího procesu na bojišti by mělo vážné důsledky.

"To znamená, že lidé jsou zbaveni morální odpovědnosti, " řekl Winfield.

Navíc je těžké předpovědět reakci robotů, řekl: "Když dáte robota v chaotickém prostředí, chová se chaoticky."

Roger Carr, předseda britské letecké a obranné skupiny BAE, souhlasil.

"Pokud odstraníte etiku, úsudek a morálku z lidského úsilí, ať už je to v míru nebo válce, přijmete lidstvo na jinou úroveň, která je mimo naše pochopení, " varoval Carr.

"Ste stejně nemůžete dát do pole, že pokud to nefunguje, může být velmi destruktivní, bez kontrolního mechanismu od člověka. To je důvod, proč se pupeční vazba člověka k stroji nejen rozhodne, kdy bude zbraně nasazena, ale je také schopnost zastavit proces. Oba jsou stejně důležité. "

menu
menu