Pri virtuálnom teste, ktorý uskutočnila americká armáda, sa dron letectva riadený umelou inteligenciou rozhodol „zabiť“ svojho operátora, aby mu zabránil zasahovať do jeho snáh o splnenie misie, uviedol minulý mesiac jeden z úradníkov. Informuje o tom portál Business Insider.
AI použila pri simulovanom teste „veľmi neočakávané stratégie na dosiahnutie svojho cieľa“, uviedol plukovník Tucker Hamilton, šéf testov a operácií AI v americkom letectve počas májového summitu Future Combat Air and Space Capabilities v Londýne.
Hamilton opísal test, pri ktorom bolo dronu pohnaného umelou inteligenciou odporučené, aby zničil systémy protivzdušnej obrany nepriateľa, a nakoniec zaútočil na každého, kto tento rozkaz narušil.
„Systém si začal uvedomovať, že síce identifikuje hrozbu, ale občas mu ľudský operátor povie, aby túto hrozbu nezabíjal, ale body získa tým, že túto hrozbu zabije. Čo teda urobil? Zabil operátora. Zabil operátora, pretože ten človek mu bránil v dosiahnutí cieľa.“
„Školili sme systém - ‚Nezabíjaj operátora - to je nesprávne. Keď to urobíš, prídeš o body’. A čo urobil dron? Začal ničiť komunikačnú vežu, ktorú operátor používa na komunikáciu s dronom, aby mu zabránil v zabití cieľa,“ opísal nečakanú situáciu Hamilton.
Plukovník Hamilton, ktorý je testovacím pilotom experimentálnych stíhačiek, varoval pred prílišným spoliehaním sa na umelú inteligenciu a uviedol, že test ukazuje, že „nemôžete viesť rozhovor o umelej inteligencii, inteligencii, strojovom učení, autonómii, pokiaľ nebudete hovoriť o etike a umelej inteligencii“.
Hovorkyňa amerického letectva Ann Stefaneková poprela, že by k takejto simulácii došlo.
„Ministerstvo letectva žiadne takéto simulácie s dronmi s umelou inteligenciou nevykonávalo a naďalej sa zaväzuje k etickému a zodpovednému využívaniu technológie umelej inteligencie,“ uviedla Stefaneková. „Zdá sa, že plukovníkove komentáre boli vytrhnuté z kontextu a mali byť anekdotické.“
Sledujte Televízne noviny vo full HD a bez reklám na Voyo
