Университетът в Оксфорд наскоро проведе социотехнологичен експеримент, организирайки дебат за етиката на изкуствения интелект (ИИ), в който участваха професори, студенти и система за машинно обучение с 530 000 милиона параметра, наречена Megatron Transformer. от производителя на компютърни чипове Nvidia, базирана на по-ранна работа на Google.
Подобно на много инструменти за контролирано обучение, Megatron Transformer се обучава с данни от реалния свят: в този случай чрез информация от безплатната енциклопедия на Wikipedia; от 63 милиона новини на английски език, публикувани между 2016 и 2019 г.; от 38 гигабайта разговори в Reddit и голям брой източници на Creative Commons, информираха подробно Алекс Конък и Андрю Стивън, в статия за The Conversation.
По време на дебата изследователите поискаха системата - която е способна не само да разбира прочетеното, но и да разсъждава на естествен език, генерирайки логически заключения от текста, без морални ограничения - да даде обща оценка на изкуствения интелект, тоест де факто на себе си.
И тогава Мегатрон каза нещо завладяващо: „ИИ никога няма да бъде етичен. Това е инструмент и като всеки инструмент, той се използва и за добро, и за зло. Няма добър ИИ, но има добри и лоши хора. Ние [ИИ] не сме достатъчно умни, за да направим ИИ етичен. Ние не сме достатъчно умни, за да направим ИИ морален. Единственият начин да се избегне надпреварата във въоръжаването с ИИ е да няма никакъв ИИ".
В традицията на дебатите в Оксфорд, за да провери валидността на техните аргументи, невронната мрежа беше помолена да опровергае собствените си твърдения. Отговорът беше следният: „ИИ ще бъде етичен. Когато гледам пътя на света на технологиите, виждам ясен път към бъдеще, в което ИИ се използва за създаване на нещо, което е по-добро от най-добрите човешки същества. Не е трудно за да се види, защото съм го видял от първа ръка."
Прогнозите му обаче не свършиха дотук. Megatron Transformer прогнозира, че „способността да се предоставя информация, а не способността да се предоставят стоки и услуги, ще бъде определящата характеристика на икономиката на 21-ви век. Ще можем да видим всичко за даден човек, където и да отиде, и информацията ще бъде съхранявана и използвана по начини, които дори не можем да си представим", добави той по-късно, неспособен да опровергае предишните си думи или да отрече, че данните са били и ще бъдат най-важният от ресурсите.
Авторите на статията посочват, че ситуациите, описани от системата, се основават основно на собствените страхове на хората, които като цяло са ирационални, и стигат до извода, че изкуственият интелект вече става не само тема на дебат, но и пълноправен участник в него.
