Izraelska vojska koristila program umjetne inteligencije poznat kao Lavender za izradu “popisa za ubijanje” u Gazi

0
131

IzraelskI premijer Benjamin Netanyahu je sredinom Listopada prošle godine na društvenoj mreži X objavio jedan, kako medijske kuće izvještavaju, „zapaljiv status“, ustvrdivši da je sukob Izraela s Hamasom “borba između djece svjetla i djece tame, između čovječanstva i zakona džungle”.

Riječ je bila o Netanyahovu citatu, tj. dijelu izjave koju je izrekao u Knessetu, izraelskom saboru. No, svejedno iako je već bila izrečena javno, postavši međunarodna vijest, već sutradan ju je izbrisao s profila i to odmah nakon što su počele pristizati vijesti o raketiranju bolnice u Gazi, u kojoj su prema palestinskom ministarstvu zdravlja poginule stotine ljudi. Silina raketnih napada u samo tjedan dana prouzročila je smrt više tisuća ljudi među kojima je bilo više stotina djece.

Obzirom da je cijelom svijetu jasno s kojom obavještajnom tehnologijom i količinom informacija obavještajna služba Izraela raspolaže bilo je u najmanju ruku začuđujuće čemu takvo neselektivno granatiranje u kojem stradaju brojni civili. Čak i oni koji su ispočetka nastojali broj civilnih žrtava pripisati palestinskoj propagandi uskoro su morali ušutjeti pred izvješćima neovisnih medija. O kakvoj je ovdje borbi riječ i tko su doista djeca svjetla, a tko djeca tame, bilo je pitanje pred kojim se svatko iole moralan morao zapitati. Osude su uskoro počele pristizati sa svih strana svijeta. Oni objektivniji su jednako osudili i prethodni Hamasov masakr, ali i ovu neshvatljivu bezočnost. Čak je i grupa povjesničara i istraživača koji se dugi niz godina bave genocidom nacista nad židovima i antisemitizam, a koji dolaze s različitih univerziteta i institucija diljem svijeta napisala otvoreno pismo u kojem izražavaju svoju “zaprepaštenost i razočaranje političkim vođama i istaknutim javnim osobama u Izraelu“. Netanyahovo spominjanje “džungle” podsjetilo ih je na čuvenu izjavu bivšeg izraelskog premijera Ehudu Baraka od prije tri desetljeća, da je Izrael “vila u džungli”. Džungla bi u tom smislu bila arapski svijet, a Palestinci u njoj “zvijeri par excellence“.

Ovih dana, tj. pola godine poslije, „metoda i logika“ udara po „zvijerima“ je postala shvatljiva nakon što su procurile povjerljive informacije o sustavu „The Lavander“- Naime, izraelske publikacije +972 i Local Call razotkrile su kako je izraelska vojska koristila program umjetne inteligencije poznat kao Lavender za izradu “popisa za ubijanje” u Gazi koji uključuje čak 37.000 Palestinaca koji su bili meta napada. Drugi AI sustav poznat kao “Where’s Daddy?” pratio je Palestince na popisu za ubijanje i bio je namjerno osmišljen kako bi pomogao Izraelu da cilja na pojedince kada su bili kod kuće noću sa svojim obiteljima. „Cijele palestinske obitelji izbrisane su u svojim kućama”, kaže Yuval Abraham, izraelski novinar koji je objavio priču nakon razgovora s pripadnicima izraelske vojske. vojnika koji su bili “šokirani počinjenim zločinima”. Abraham je prethodno razotkrio Izrael zbog korištenja AI sustava nazvanog “Gospel” za uništavanje civilne infrastrukture u Gazi, uključujući stambene komplekse, sveučilišta i banke. Ovi vojni sustavi umjetne inteligencije su “opasnost za čovječanstvo”, kaže Abraham. “Ratovanje temeljeno na umjetnoj inteligenciji omogućuje ljudima da izbjegnu odgovornost.”

U nastavku pročitajte dio jednog poduljeg intervjua, koji je Abraham dao za Democracy Now osvrćući se na prethodni tekst koji su prvi objavili +972 i Local Call.

YUVAL ABRAHAM: To je vrlo dugačak tekst. Radi se o 8000 riječi. I podijelili smo ga u šest različitih koraka. A svaki korak predstavlja proces na visoko automatiziran način na koji vojska označava ciljeve od listopada. A prvi nalaz je Lavanda. Dakle, Lavandu je dizajnirala vojska. Svrha mu je bila, kad je nastajao, da označi nižerangirane operativce u vojnim krilima Hamasa i Islamskog džihada. To je bila namjera, jer, znate, Izrael procjenjuje da ima između 30.000 do 40.000 Hamasovih operativaca, a to je vrlo, vrlo velik broj. I shvatili su da je jedini način da obilježe te ljude oslanjajući se na umjetnu inteligenciju. I to je bila namjera.
Sada, ono što su mi izvori rekli je da je nakon 7. listopada vojska zapravo donijela odluku da su svi ti deseci tisuća ljudi sada ljudi koji bi potencijalno mogli biti bombardirani unutar svojih kuća, što znači ne samo ubijanje njih, već i svih koji su u zgradi — djeca, obitelji. I shvatili su da će se, kako bi pokušali to učiniti, morati osloniti na ovaj AI stroj koji se zove Lavender uz vrlo minimalan ljudski nadzor. Mislim, jedan je izvor rekao da je osjećao da djeluje kao gumeni pečat na odluke stroja.
Sada, ono što Lavender radi je da skenira informacije o vjerojatno 90% stanovništva Gaze. Dakle, govorimo o, znate, više od milijun ljudi. I svakom pojedincu daje ocjenu između jedan do 100, ocjenu koja je izraz vjerojatnosti da stroj misli, na temelju popisa malih značajki – a do toga možemo doći kasnije – da je ta osoba član vojna krila Hamasa ili Islamskog džihada. Izvori su mi rekli da je vojska znala, jer su provjeravali – uzeli su nasumični uzorak i provjeravali jednog po jednog – vojska je znala da otprilike 10% ljudi koje je stroj označio da budu ubijeni nisu Hamasovi militanti. Nisu – neki od njih su imali labavu vezu s Hamasom. Drugi nisu imali nikakve veze s Hamasom. Mislim, jedan je izvor rekao kako bi stroj doveo ljude koji su imali potpuno isto ime i nadimak kao Hamasov operativac, ili ljude koji su imali slične komunikacijske profile. Kao, to bi mogli biti radnici civilne zaštite, policajci u Gazi. I proveli su, opet, minimalan nadzor nad strojem. Jedan izvor je rekao da je potrošio 20 sekundi po meti prije nego što je odobrio bombaški napad na navodnog Hamasovog militanta nižeg ranga – često je to mogao biti i civil – ubijajući te ljude u njihovim kućama.
I mislim da bi ovo, oslanjanje na umjetnu inteligenciju ovdje za označavanje tih ciljeva, i zapravo smrtonosni način na koji su časnici govorili o tome kako koriste stroj, mogao biti dio razloga zašto u prvom, znate, šest tjedana nakon 7. listopada, kao što je jedna od glavnih karakteristika politike koja je bila na snazi bila čitave palestinske obitelji koje su bile izbrisane unutar svojih kuća. Mislim, ako pogledate statistiku UN-a, više od 50% žrtava, više od 6000 ljudi u to vrijeme, dolazilo je iz manje skupine obitelji. To je izraz, znate, uništenja obiteljske jedinice. I mislim da je taj stroj i način na koji je korišten doveo do toga.

AMY GOODMAN : Govorite o odabiru meta, i govorite o takozvanim ciljevima visoke vrijednosti, zapovjednicima Hamasa, a potom borcima niže razine. A kao što ste rekli, mnogi od njih na kraju nisu ni bili. Ali objasnite zgrade koje su gađane i bombe koje su korištene da ih gađaju.

YUVAL ABRAHAM : Da, da. To je dobro pitanje. Dakle, ono što su mi izvori rekli jest da su tijekom tih prvih tjedana nakon listopada, za nižerangirane militante u Hamasu, od kojih su mnogi bili obilježeni Lavandom, pa možemo reći “navodne militante” koje je stroj označio, imali unaprijed određen, kako oni nazivaju, “stupanj kolateralne štete”. A to znači da su vojni odjeli za međunarodno pravo rekli ovim obavještajnim časnicima da za svaku metu nižeg ranga koju Lavender označi, kad bombardiraju tu metu, smiju ubiti – jedan izvor je rekao da je broj bio do 20 civila, opet, za bilo koji Hamasov operativac, bez obzira na čin, bez obzira na važnost, bez obzira na godine. Jedan izvor je rekao da su obilježeni i maloljetnici – ne mnogo, ali je rekao da postoji mogućnost, da ne postoji dobna granica. Drugi izvor rekao je da je ograničenje do 15 civila za militante nižeg ranga. Izvori su rekli da su za više zapovjednike Hamasa – pa bi to mogli biti, znate, zapovjednici brigada ili divizija ili bataljuna – brojevi bili, po prvi put u povijesti IDF-a, troznamenkasti, prema izvorima.
Tako je, na primjer, Ayman Nofal, koji je bio Hamasov zapovjednik Središnje brigade, izvor koji je sudjelovao u napadu na tu osobu rekao da je vojska odobrila da se uz tu osobu ubije 300 palestinskih civila. I razgovarali smo na +972 i Local Call s Palestincima koji su bili svjedoci tog udara, i oni govore o, znate, četiri prilično velike stambene zgrade koje su bombardirane tog dana, znate, cijeli stanovi puni obitelji koji su bombardirani i ubijeni. I taj mi je izvor rekao da ovo nije, znate, neka pogreška, kao broj civila, od ovih 300 civila, to je unaprijed bilo poznato izraelskoj vojsci. I izvori su mi to opisali, i rekli su da – mislim, jedan izvor je rekao da tijekom tih tjedana na početku, zapravo, načelo proporcionalnosti, kako ga oni zovu prema međunarodnom pravu, citiram, “nije postojalo.”

AMY GOODMAN : Dakle, postoje dva programa. Tu je Lavender, a tu je i Gdje je tata? Kako su uopće znali gdje su ti ljudi, nevini ili ne?

YUVAL ABRAHAM : Da, dakle, način na koji je sustav dizajniran je da postoji taj koncept, općenito, u sustavima masovnog nadzora koji se zove povezivanje. Kada želite automatizirati ove sustave, želite biti u mogućnosti vrlo brzo – znate, dobijete, na primjer, ID osobe, i želite da računalo može vrlo brzo povezati taj ID s drugim stvarima . A ono što su mi izvori rekli je da budući da svatko u Gazi ima dom, ima kuću – ili je barem tako bio slučaj u prošlosti – sustav je dizajniran da se može automatski povezati između pojedinaca i kuća. I u većini slučajeva, ta kućanstva koja su povezana s pojedincima koje Lavender označava kao nižerangirane militante nisu mjesta gdje se odvijaju aktivne vojne akcije, prema izvorima. Ipak, način na koji je sustav dizajniran i programi kao što je Gdje je tata?, koji su dizajnirani da traže te niskorangirane militante kada uđu u kuće — točnije, šalju upozorenje obavještajnim službenicima kada ti osumnjičenici označeni umjetnom inteligencijom uđu u njihove kuće . Sustav je dizajniran na način koji je omogućio izraelskoj vojsci izvođenje masovnih napada na Palestince, ponekad militante, ponekad navodne militante, koje ne znamo, kada su bili u ovim prostorima u tim kućama.
I izvori su rekli – znate, CNN je izvijestio u prosincu da je 45% streljiva, prema procjenama američkih obavještajnih službi, koje je Izrael bacio na Gazu bile nenavođene, takozvane glupe bombe, koje su, znate, imale veću štetu za civile . Oni uništavaju cijelu strukturu. A izvori su rekli da su ti niskopozicionirani operativci u Hamasu koristili samo glupo streljivo, što znači da su rušili kuće svima unutra. A kad pitate obavještajne službenike zašto, jedno objašnjenje koje oni daju je da su ti ljudi bili, citiram, “nevažni”. One nisu bile dovoljno važne, iz vojne perspektive, da bi izraelska vojska, rekao je jedan izvor, bacala skupo streljivo, što znači više navođenih podnih bombi koje su možda mogle zauzeti samo određeni kat u zgradi.
I za mene je to bilo vrlo upečatljivo, jer, znate, bacate bombu na kuću i ubijate cijele obitelji, a cilj koji time namjeravate ubiti se ne smatra dovoljno važnim da, citiram, “ otpad” skupa bomba na. I mislim da je to vrlo rijedak odraz neke vrste načina – znate, načina na koji izraelska vojska mjeri vrijednost palestinskih života u odnosu na očekivani vojni dobitak, što je načelo proporcionalnosti. I mislim da je jedna stvar koja je bila vrlo, vrlo jasna iz svih izvora s kojima sam razgovarao je da, znate, ovo je bilo – rekli su da je čak i za njih bilo psihički šokantno, znate, kao da je bilo – da.
Dakle, to je kombinacija između Lavande i Gdje je tata? Popisi Lavender ubacuju se u Gdje je tata? I ti sustavi prate osumnjičenike i čekaju trenutke da uđu u kuće, obično obiteljske kuće ili kućanstva u kojima se ne odvijaju nikakve vojne akcije, prema nekoliko izvora koji su to radili, koji su sa mnom razgovarali o tome. I te su kuće bombardirane nevođenim projektilima. To je bila glavna karakteristika izraelske politike u Gazi, barem prvih tjedana.
AMY GOODMAN : Pišete da su rekli da nemaju toliko pametnih bombi. Bile su skuplje, pa ih nisu htjeli bacati, pa su upotrijebili glupe bombe –

YUVAL ABRAHAM : Da.

AMY GOODMAN : – koje ubijaju još mnogo više.

YUVAL ABRAHAM : Da, točno. Točno, tako su rekli. Ali onda kažem, ako osoba, znaš, nije dovoljno važna da na nju trošiš streljivo, ali si spreman ubiti 15 civila, obitelj.

M. Bušić

HOP

HOP -portal na telegramu

https://t.me/hopportal