Impactul devastator al sistemului AI „Lavanda” în Fâșia Gaza

Bombardamentele din Fâșia Gaza au fost „conduse” de un sistem de inteligență artificială botezat „Lavanda”. Cu drept de viață și de moarte, AI-ul a identificat 37.000 de potenţiale ţinte pe baza legăturilor lor aparente cu Hamas.

Lavanda a adus la cunoștința serviciilor și armatei israeliene, cu o bază de date nedezvăluită până acum, care la un moment dat a identificat 37.000 de potenţiale ţinte în Fâșia Gaza pe baza legăturilor lor aparente cu Hamas. Pe lângă faptul că au vorbit despre utilizarea sistemului de inteligenţă artificială Lavanda, sursele mai susţin că oficialii militari israelieni au permis uciderea unui număr mare de civili palestinieni, în special în primele săptămâni şi luni ale conflictului.

Mărturia lor neobişnuit de sinceră oferă o perspectivă rară asupra experienţei directe a oficialilor israelieni din domeniul informaţiilor, care au folosit sisteme de învăţare automată pentru a ajuta la identificarea ţintelor în timpul celor şase luni de război. Utilizarea de către Israel a unor sisteme puternice de inteligenţă artificială în războiul împotriva Hamas reprezintă un teritoriu încă neexplorat al războiului avansat, ridicând o serie de întrebări juridice şi morale şi transformând relaţia dintre personalul militar şi maşini

Un ofiţer de informaţii care a folosit Lavanda a declarat: „Acest lucru este fără precedent, din câte îmi amintesc. Toţi cei de acolo, inclusiv eu, au pierdut oameni pe 7 octombrie. Maşina a făcut (selecţia – n.r.) fără sentimente. Şi asta a făcut să fie mai uşor”. Un alt utilizator al sistemului Lavanda a confirmat că rolul oamenilor în procesul de selecţie este nesemnificativ. „Investesc 20 de secunde pentru fiecare ţintă în acest stadiu şi fac zeci de astfel de selecţii în fiecare zi. Am zero valoare adăugată ca om, în afară de a fi o ştampilă de aprobare. Economiseşte foarte mult timp”, a mărturisit el.

Mărturiile a şase ofiţeri de informaţii, toţi implicaţi în utilizarea sistemelor de inteligenţă artificială pentru a identifica ţinte Hamas şi din Jihadul Islamic Palestinian (PIJ) în timpul războiului, au fost consemnate de jurnalistul Yuval Abraham pentru publicaţia israeliano-palestiniană +972 Magazine şi publicaţia de limbă ebraică Local Call. Relatările lor au fost împărtăşite în exclusivitate cu The Guardian înainte de publicare.

Pe măsură ce bombardamentele IDF asupra Gaza se intensificau, comandanţii au cerut un flux continuu de ţinte. „Am fost presaţi în mod constant: Aduceţi-ne mai multe ţinte. Chiar ţipau la noi”. Pentru a satisface această cerere, IDF a ajuns să se bazeze foarte mult pe sistemul Lavanda pentru a genera o bază de date cu persoanele considerate a avea caracteristicile unui militant PIJ sau Hamas.

Detaliile privind tipurile specifice de date utilizate pentru a antrena algoritmul lui Lavanda sau modul în care programul a ajuns la concluziile sale nu sunt incluse în relatările publicate de +972 sau Local Call. Cu toate acestea, sursele au declarat că, în timpul primelor săptămâni de război, Unitatea 8200 a perfecţionat algoritmul lui Lavanda şi a ajustat parametrii de căutare.

După eşantionare aleatorie şi verificarea încrucişată a predicţiilor sale, unitatea a concluzionat că Lavanda a atins o rată de acurateţe de 90%, au declarat sursele, ceea ce a determinat IDF să aprobe utilizarea sa generalizată ca instrument de recomandare a ţintelor.

Lavender a creat o bază de date cu zeci de mii de persoane care au fost marcate ca fiind predominant membri de rang inferior ai aripii militare a Hamas. Aceasta a fost utilizată alături de un alt sistem de sprijin decizional bazat pe inteligenţă artificială, numit Gospel, care recomanda clădiri şi structuri ca ţinte, mai degrabă decât persoane.

Indiferent de justificarea legală sau morală a strategiei de bombardament a Israelului, unii dintre ofiţerii săi de informaţii par să pună acum la îndoială abordarea stabilită de comandanţii lor.