A drón feladata az volt, hogy semmisítse meg az ellenség légvédelmi rendszerét, és mindenkit támadjon meg, aki akadályozni próbálja a misszió végrehajtásában.
Az amerikai hadsereg egyik szimulációs gyakorlata során a légierő mesterséges intelligencia által vezérelt drónja meggyilkolta az irányítóját, mert csak ezzel tudta biztosítani a misszió végrehajtását.
Az erről szóló információt Tucker ‘Cinco’ Hamilton ezredes, az amerikai légierő AI-tesztelésért és bevetésért felelős vezetője osztotta még májusban egy londoni szakmai konferencián.
Hamilton elmondása szerint a drón feladata az volt, hogy semmisítse meg az ellenség légvédelmi rendszerét, és támadjon meg bárkit, aki ezt megpróbálná megakadályozni.
A rendszert eredetileg úgy alakították ki, hogy az emberi kezelőé volt a döntő szó, a megerősítéses tanulás során a mesterséges intelligencia a megerősítést jelentő pontokat az ellenséges célpontok megsemmisítéséért kapta, amit az emberi kezelő többször is megakadályozott.
Hamilton az eset ismertetésével arra szerette volna felhívni a figyelmet, hogy nem szabad túlzottan az MI-re bízni a gépeket a légierőnél.
