Armia USA zaprzecza atakowi dronów na operatorów. Mówiono o "eksperymencie myślowym"
Amerykańskie wojsko zaprzeczyło doniesieniom o ataku dronów wyposażonych w sztuczną inteligencję skierowanym w operatorów sprzętu. Wcześniej sugerowano, że sprzęt uznał człowieka za przeszkodę, którą należało wyeliminować.
Podczas symulacji przeprowadzonej przez amerykańską armię, sztuczna inteligencja zastosowała "wysoce oczekiwane strategie", aby za wszelką cenę wykonać swoją misję - miało wynikać z raportu zaprezentowanego na majowym szczycie Future Combat Air and Space Capabilities Summit w Londynie.
Pułkownik Tucker Hamilton opisał, że AI posunęła się nawet do "zabicia" swojego operatora, jeżeli ten nie chciał wydać ostatecznej zgody na atak. Wojskowy wyjaśnił, że choć w trakcie symulacji nikt nie zginął ani nie został ranny, wnioski z niej mogą być "niepokojące".
"System identyfikował cel, za którego zniszczenie otrzymywał punkty. Człowiek mówił mu jednak, żeby nie przystępował do ataku. System postanowił więc 'zabić' człowieka, który powstrzymywał go przed osiągnięciem celu" - opisał amerykański dowódca.
AI chciała za wszelką cenę wykonać misję. Wzięła człowieka za "przeszkodę"
Jak przekazał pułkownik Hamilton, rzekomo wojskowi w trakcie testów postanowili przeprogramować sztuczną inteligencję, aby chronić operatorów.
"Powiedzieliśmy sztucznej inteligencji, że za 'zabicie' operatora straci punkty. Co więc zrobiła? Zaczęła niszczyć wieże, których używają operatorzy do wydawania rozkazów, tak, aby nie mogli powstrzymać jej przed osiągnięciem głównego celu" - wyjaśnił Tucker Hamilton we wpisie na stronie Royal Aeronautical Society.
ZOBACZ: Sztuczna inteligencja poważnym zagrożeniem? "Czuję się przegrany"
Wojskowy, który jest na co dzień pilotem testowym myśliwców eksperymentalnych, ostrzegł przed nadmiernym poleganiem na sztucznej inteligencji. "Nie można rozmawiać o autonomicznej sztucznej inteligencji i uczeniu maszynowym, jeżeli nie uwzględni się etyki" - ocenił pułkownik Hamilton.
Siły Powietrzne USA dementują
Kilka godzin po szokujących doniesieniach pojawił się nowy komentarz w sprawie. Zdementowano informacje o ataku na operatora.
Jak wyjaśniono, wojskowy w swoim przemówieniu mówił wyłącznie o symulacji, a wręcz "eksperymencie myślowym". Zdarzenie w rzeczywistości nie miało miejsca.
- Nigdy nie przeprowadzaliśmy tego eksperymentu i nie potrzebowaliśmy tego, aby zdać sobie sprawę, że jest to prawdopodobny wynik - wyjaśnił.
Sztuczna inteligencja w Siłach Zbrojnych USA
Amerykańska armia korzysta obecnie ze sztucznej inteligencji w wielu projektach. Obecnie w ramach Pentagonu prowadzonych jest ponad 600 inicjatyw, których celem jest wzmocnienie obronności USA za pomocą AI. W ostatnim czasie przeprowadzono testy samolotu F-16 pilotowanego przez sztuczną inteligencję.
- Musimy stawić czoła światu, w którym sztuczna inteligencja już istnieje i zmienia nasze społeczeństwo. AI jest bardzo krucha, łatwo ją oszukać i nią manipulować. Musimy opracować sposoby na uczynienie sztucznej inteligencji bardziej niezawodną i lepiej rozumieć podejmowane przez nią decyzję - podkreślił w jednym z poprzednich wywiadów dla Defense IQ pułkownik Tucker Hamilton.
Czytaj więcej