Az iskola mesterséges intelligenciája fegyverként azonosította a Doritost.
Az Egyesült Államokban, Baltimore megye Kenwood High School középiskolája mellett történt az incidens, amely jól mutatja, mennyire kiszámíthatatlan következményei lehetnek a fegyverfelismerő algoritmusok hibáinak. A 16 éves Taki Allen barátaival töltötte az időt egy fociedzés után, amikor több rendőrautó szirénázva érkezett a helyszínre. A járőrök fegyvert szegeztek a tinédzserre, felszólították, hogy feküdjön a földre, majd megbilincselték és átkutatták.
Néhány perccel később világossá vált, hogy Allen nem vitt magával semmiféle fegyvert - csupán egy zacskó Doritos chipset. A fiú elmondása szerint a rendőrök később megmutatták neki a biztonsági kamera felvételét, amelyen az Omnilert nevű mesterséges intelligencia "fegyver" jelenlétét észlelte. Azonban a képen egyértelműen látszott, hogy valójában csupán egy chipses zacskó tűnt fel.
Az Omnilert rendszert tavaly vezették be a Baltimore környéki iskolák biztonságának növelése érdekében. A rendszer célja az volt, hogy automatikusan azonosítsa a biztonsági kamerák által rögzített lőfegyvereket, és azonnali riasztást küldjön a rendőrségnek. A vállalat elismerte, hogy történt egy tévedés, ugyanakkor hangsúlyozta, hogy a szoftver "pont úgy működött, ahogyan azt megálmodták". Ez azt jelenti, hogy az algoritmus sikeresen észlelt egy gyanús tárgyat, amelyet az emberi operátorok komolyan vettek, így a rendszer valóban teljesítette a rá bízott feladatot.
A Baltimore megyei iskolák vezetősége a szülők felé azt a tájékoztatást adta, hogy a rendszer "zökkenőmentesen üzemelt", és hogy nem merült fel hibás eljárás. Ezzel szemben a 16 éves diák az esemény óta retteg a visszatéréstől az iskolába, és családja szerint nehezen birkózik meg azzal a ténnyel, hogy egy algoritmus hibája révén majdnem tragikus kimenetelű helyzet alakult ki.
