Na nepříjemný problém měla narazit americká armáda během nácviku útoku, ve kterém figuroval vojenský dron vybavený umělou inteligencí. Stroj se měl během…

Na nepříjemný problém měla narazit americká armáda během nácviku útoku, ve kterém figuroval vojenský dron vybavený umělou inteligencí. Stroj se měl během simulovaného cvičení natolik pustit do výkonu svého úkolu, že během něj zabil svého operátora. Panují nicméně dohady, zda se událost opravdu odehrála.

Americká armáda zveřejnila video, jak ruská stíhačka Su-27 zničila nad Černým mořem dron MQ-9 Reaper

Incident popsal před týdnem na konferenci Royal Aeronautical Society v Londýně plukovník Tucker Hamilton, který má v americkém letectvu na starosti testy a operace zahrnující umělou inteligenci. O testu dronu – jež podle něj v armádě skutečně proběhl – mluvil v souvislosti s varováním, že technologie vybavené AI se mohou chovat nebezpečně a nepředvídatelně.

Dron se totiž, aby splnil svůj cíl, rozhodl doslova jít přes mrtvoly, a to podle Hamiltona nikdo nečekal.

AI chtěla body a nic jiného ji nezajímalo

Předmětem simulovaného útoku bylo zničit nepřátelskou protivzdušnou obranu. Dron měl identifikovat, kde na druhé straně se nachází rakety země-vzduch a pak dát echo lidskému operátorovi, který měl vydat pokyn ke zničení tohoto systému. 

Jenže AI podle Hamiltona nejen, že se rozhodla na lidský mezičlánek vykašlat, ale lidského operátora zabila a pak identifikovanou protivzdušnou obranu odpálila podle svého uvážení.

Americké letectvo testuje ohebné rakety s technologií MUTANT pro vzdušné souboje

Plukovník na konferenci vysvětlil, proč se tento postup odehrál. AI systém v dronu obecně dostával body za úspěšné vykonání misí. A úspěšné vykonání misí znamenalo zničit cíl, nic jiného. Někdy se ovšem stávalo, že během simulace se operátor rozhodl dron zastavit a AI tím pádem body nezískala. Umělá inteligenci si tuto „překážku“ v podobně operátora zapamatovala. „Takže co udělala? Operátora zabila, protože ten člověk jí bránil ve splnění cíle,“ uvedl Hamilton podle přepisu jeho vystoupení na konferenci.

Zní to děsivě, ale tím celý příběh nekončí. Armáda po tomto incidentu do použitého AI systému explicitně naprogramovala příkaz, že zabití operátora je zakázané, avšak ani to nepomohlo. „Co ten systém začal dělat? Začal útočit na komunikační věže, které operátor používal, aby předávat dronu zprávy k zastavení útoků,“ popsal plukovník. AI podle něj neustále volila velmi nečekané strategie.

Vytrženo z kontextu, zní z letectva

Americké letectvo nicméně ve vyjádření pro Business Insider popřelo, že by se testy odehrály. „Letectvo neprovádělo žádné podobné simulace s AI drony a zavázalo se k etickému a zodpovědnému využívání technologie umělé inteligence,“ uvedla tisková mluvčí Ann Stefaneková. „Zdá se, že plukovníkovy komentáře byly vytrženy z kontextu a měly být anekdotické,“ dodala. 

Přečtěte si také: