Sirene, o frână scurtă pe marginea trotuarului și o comandă tăioasă: jos, cu mâinile la vedere. Taki Allen, 16 ani, nu avea nimic periculos asupra lui. Tocmai își terminase o pungă de Doritos și o vârâse în buzunar.

Un sistem de detecție bazat pe inteligență artificială îl semnalase însă ca posibil purtător de armă. Polițiștii din Baltimore County au intervenit în forță, l-au pus la pământ și l-au încătușat. Nu a fost arestat.

După verificări, cazul s-a încheiat fără consecințe, pentru că nu exista nicio amenințare, informează BBC. Cum s-a ajuns aici? O alertă generată de un algoritm a „identificat” o armă într-o imagine. Semnalarea a mers apoi către o echipă de verificatori umani. Aceștia nu au confirmat amenințarea.

Concluzia lor, însă, nu a fost preluată corect în fluxul intern. Directoarea școlii a contactat echipa de siguranță. Echipa a chemat poliția. Într

-o scrisoare către părinți, directoarea a precizat că alerta a fost revizuită rapid, anulată după confirmarea faptului că nu există armă, dar că procedurile au dus totuși la intervenția forțelor de ordine și la percheționarea elevului.

Furnizorul tehnologiei, Omnilert, a transmis că „regretă” incidentul. Compania susține că sistemul a funcționat „conform proiectării”: a existat o verificare umană rapidă, iar cazul a fost transmis mai departe către echipa de siguranță a școlii.

Potrivit Omnilert, rolul său s-a încheiat în clipa în care incidentul a fost marcat drept „rezolvat” în sistemul intern. Pentru Taki, episodul a lăsat urme invizibile. A spus că, după antrenamentele de fotbal, preferă să aștepte în interior.

Nu se mai simte în siguranță să iasă afară mâncând o pungă de chipsuri. Incidentul a reaprins întrebările legate de acuratețea și procedurile în jurul tehnologiilor de detecție din școli.

Un consilier local a cerut oficialilor din Baltimore County Public Schools să reevalueze modul în care alertele generate de IA sunt procesate, verificate și comunicate către poliție. În practică, detecția în lumea reală este neordonată.

Umbrele, obiectele cotidiene sau ambalajele pot păcăli sistemele și pot declanșa alerte false. Efectele, însă, sunt cât se poate de reale pentru cei vizați. Unii furnizori insistă că astfel de instrumente sporesc siguranța.

Criticii atrag atenția asupra riscului de supraveghere excesivă și al erorilor care pot escalada rapid în intervenții armate.

Cazul din Baltimore arată că, dincolo de algoritmi, esențială este veriga umană: o verificare robustă, o comunicare limpede și prudență înainte ca o alertă să se transforme în acțiune în forță — mai ales când „arma” se dovedește a fi o pungă de chipsuri.

SURSE: https://foxbaltimore.com/news/local/teen-detained-after-ai-system-mistakes-chips-for-weapon-outside-kenwood-high-school , BBC, Omnilert, Incredibilia.ro