Пентагонът ще комбинира общностите на разработчиците на Изкуствен интелект и на дронове, за да се опита да изгради самонасочващ се рояк дронове с активиран ИИ, способен да разпознава и проследява цел - привидно за търсене и спасяване, но потенциално за търсене и унищожаване.
Съвместният център за изкуствено разузнаване (JAIC) пусна заявка (RFI) в края на декември, търсейки най-новото и най-доброто в техниките на ИИ и на дронове, за да открие умни идеи как да комбинира двете. Полученият разумен рояк, каза агенцията, трябва да се самонасочва, да може самостоятелно да намира и проследява хора („и създадени от човека обекти", уточнява RFI), да предава видео за своите дейности и да информира създателите си (въпреки че ще е воден предимно от ИИ). Роякът ще трябва да може да се движи поне с 93 км / ч, да стои във въздуха поне 2 часа и да покрива 100 квадратни морски мили (343 квадратни км).
Официалната цел на „интелигентния рояк" е търсене и спасяване, обяснява RFI, като програмата JAIC включва четири мисии - „предсказваща поддръжка, хуманитарна помощ и помощ при бедствия и автоматизация на киберпространството и на роботизирани процеси".
А къде е мисия номер четири? RFI не казва, но можем да спекулираме въз основа на това, което е известно. Специализираният отдел за ИИ, който дебютира едва през 2018 г., завърши Project Maven, инициативата за въоръжаване на машинно обучение и Big Data, която уж беше отхвърлена от Google, след като служителите получиха масова критика за подпомагане на Пентагона да убива хора.
Project Maven не само подобри качеството на видео входа от тактически дронове, използва изчислителна сила за организиране на планините от данни, получени чрез наблюдение, но и научи участниците как да "използват алгоритми за война."
Дали един умен рояк, способен да ловува хора с минимална външно насочване, ще следва правилата и ще се придържа към „търсене и спасяване", или ИИ ще го обърка с „търсене и унищожаване"? Ако хората от Пентагона не могат да различат цивилен от терорист, как се предполага, че неговите рояци ще могат? И дори ако алгоритмите работят отлично, какво ще попречи на хората, отговорни за това, да използват новите си играчки за убиване?
Този филм сме гледали и преди, буквално. Епизодът „Омразата в нацията" на телевизионното предаване - технодистопията „Черно огледало", представи рояк от автономни дронове „изкуствени пчели", които заемат мястото на истинските след масовото им измиране. Този цифров кошер се оказва подложен на хакване и всеки ден един самотен дрон-убиец се насочва, за да убие събралия май-много омраза от обществената медия.
Военното шифроване е толкова добро, колкото това, което е инсталирано в него, а главният прокурор Уилям Бар и цялата разузнавателна мрежа Five Eyes възнамеряват да инсталират достатъчно, за да надничат през личните ви данни до края на живота. След като направят това, всеки рояк от дронове - буквално и образно - принадлежи на всички останали.
Ако някога би имало време, в което да не бързаме да изработваме апокалиптична технология, щеше да е точно сега. Сега е вече и крайно време да се наложат правила за развитието на ИИ, които да го обуздаят, преди да е станало необратимо късно!
