Докато САЩ търсят да разработят оръжия с изкуствен интелект (ИИ), за да бъдат в крак с Русия и Китай, Пентагонът прие набор от насоки, за които казва, че ще държат неговите андроиди убийци под човешки контрол.
Министерството на отбраната прие набор от „Етични принципи за изкуствен интелект" в понеделник, следвайки препоръките на Съвета за иновации в отбраната от миналия октомври.
"ИИ технологията ще промени много бойното поле на бъдещето, но нищо няма да промени непоколебимия ангажимент на Америка към отговорно и законно поведение", заяви в изявление министърът на отбраната Марк Еспер.
Според Пентагона бъдещите му проекти за ИИ ще бъдат „отговорни, справедливи, проследими, надеждни и управляеми", както препоръча Съветът за иновации в отбраната. Някои от тези пет принципа са ясни (при успешно дешифриране говоренето на Пентагона); „Управляемо" например означава, че хората трябва да могат да щракнат изключващото устройство на „системи, които демонстрират непредвидено поведение". Но другите са по-нееднозначни.
Какво точно ще направи отделът, за да „минимизира непреднамерените пристрастия към възможностите на ИИ", като казва, че ще направи тези системи „справедливи", е напълно неясно и може да доведе до проблеми, ако не бъде дефинирано правилно. Доверяването на машина за сканиране на въздушни изображения в търсене на цели е законово и етично минно поле и Google вече се оттегли от проект на Пентагона през 2018 г., който ще използва машинно обучение за подобряване на насочването на ударите с дронове.
По подобен начин обещанието на Пентагона, че неговият персонал ще „упражнява подходящи нива на преценка и грижа" при разработването и поставянето на тези нови оръжия, е обещание напълно безсмислено.
Приемането на свободен набор от етични принципи вместо пряка забрана ще остави много хора незадоволени. Много водещи пионери на ИИ - като Демис Хасабис в Google DeepMind и Илон Мъск в SpaceX - са сред повече от 2400 подписали обещанието, което категорично се противопоставя на развитието на автономни оръжия. Множество други открити писма и петиции срещу военния ИИ са били подадени по целия свят през последните години.
Съпротивата от страна на технологичната индустрия представя пред Пентагона практическа, както и етична дилема. Въпреки изпомпването на увеличаващите се суми пари в разработването на системи за ИИ, САЩ вярват, че Русия и Китай са напред и ще разширят своята лидерска позиция в тази област, ако Министерството на отбраната не успее да набере талантите, необходими за съревнованието.
За да се противопостави на изтичането на мозъци, предложеният от администрацията на Тръмп бюджет за 2021 г. би увеличил финансирането на Агенцията за напреднали научни проекти (DARPA) за изследвания, свързани с ИИ от 50 милиона на 249 милиона долара, а финансирането на Националната научна фондация от 500 милиона на 850 долара милиона, като 50 милиона долара са заделени специално за ИИ.
Каквито и устройства да се появят в DARPA, ако се спазва този набор от насоки, поне те ще имат „превключвател за изключване".
