Философски, интелектуално и по всякакъв друг начин човешкото общество е неподготвено за възхода на изкуствения интелект

Преди три години темата за изкуствения интелект се появи в дневния ред на конференция по трансатлантическите въпроси. За малко да пропусна този панел – той се намира извън полето на обичайните ми занимания, но началото на презентацията ме прикова на място. Лекторът описа работата на компютърна програма, която скоро ще бъде способна да отправи предизвикателство към световните шампиони на играта Го. Бях изумен, че един компютър може да овладее Го, която е по-сложна от шаха. В нея всеки играч разполага със 180 или 181 фигури (в зависимост от това кой цвят избере), поставени върху пресечните точки на линиите на дъската, а победата отива при този играч, който вземайки по-добри стратегически решения, блокира своя опонент чрез по-ефективен контрол върху територията.

Ораторът настояваше, че тази способност не може да бъде предварително програмирана. Той твърдеше, че неговата машина е овладяла играта Го чрез самостоятелни тренировки. На компютъра са зададени правилата на играта, а той е изиграл безкраен брой игри срещу себе си, учейки се от грешките си и усъвършенствайки своите алгоритми. В рамките на този процес той е надминал уменията на своите човешки ментори. Наистина, няколко месеца след речта ИИ-програма (ИИ – изкуствен интелект, бел. пр.) на име AlphaGo решително победи най-добрите световни играчи на Го.

Докато слушах как ораторът ликува от този технически прогрес, моят опит като историк и действащ държавник ме накара да се замисля. Какъв ще бъде ефектът върху историята от появата на машини, способни да се самообучават – машини, които придобиват знания чрез специфични за тях процеси и прилагат тези знания за цели, за които може да няма категория в човешките представи? Как ще бъде направен избор измежду различните възникващи варианти? Възможно ли е човешката история да тръгне по пътя на инките, сблъскали се с испанската култура – непонятна и дори внушаваща благоговение за тях? Намираме ли се на границата на нов етап в човешката история?

Съзнавайки своята липса на техническа компетентност в тази област, организирах редица неформални разговори по темата с помощта и съдействието на познати в областта на технологиите и хуманитарните науки. Тези дискусии доведоха до засилване на моята загриженост.

Досега технологичният напредък, който най-силно е променил хода на съвременната история, е изобретяването на печатната преса през XV век, което помага за това търсенето на емпирични знания да замени богословската доктрина, а Епохата на разума постепенно да бъде сменена от Епохата на религията. Индивидуалното прозрение и научното знание заменят вярата като принципен критерий за човешкото съзнание. Информацията започва да се запазва и систематизира в растящите библиотеки. Епохата на разума ражда идеите и действията, които оформят съвременния международен ред.

Този ред обаче днес е в период на тектонични промени под напора на една дори по-широкомащабна технологична революция, чиито последствия не успяваме да калкулираме, и чиято кулминация може да бъде един свят, който разчита на машини, задвижвани от данни и алгоритми – неуправляем от никакви етични или философски норми.

Ерата на интернет, в която вече живеем, загатва за някои от въпросите и темите, които изкуственият интелект само ще изостри. Просвещението се стреми да предаде традиционните истини на един освободен аналитичен човешки разум. Целта на интернет е да потвърди знанието чрез натрупването и манипулирането на все по-разширяваща се база данни. Човешкото познание губи своя персонален характер. Индивидите се превръщат в данни, а в новите условия данните царуват.

Потребителите на интернет наблягат на извличането и манипулирането на информацията чрез концептуализация и контекстуализация на значението й. Те рядко изследват историята или философията. Като правило изискват информация, свързана с техните непосредствени практически нужди. В рамките на този процес алгоритмите на търсачките придобиват способността да прогнозират предпочитанията на индивидуалните клиенти, като позволяват на алгоритмите да персонализират резултатите и да ги предложат на други субекти за политически или търговски цели. Истината става относителна. Информацията заплашва да смаже познанието.

Затрупани от мненията на множеството в социалните мрежи, потребителите се отклоняват от самонаблюдението. В действителност много технофили използват интернет, за да избегнат уединението, от което изпитват ужас. Целият този натиск отслабва силата на духа, необходима за развитието и поддържането на убеждения, които могат да бъдат формирани единствено по самостоятелен път, което е същността на творчеството.

Влиянието на интернет технологиите върху политиката е особено силно изразено. Възможността за фокусиране върху миниатюрни обществени групи разби предишните представи за консенсус относно приоритетите, като позволи да се акцентира върху специфични цели или оплаквания. Политическите лидери са претоварени от натиска на малки обособени групи и са лишени от време да мислят или да размишляват върху контекста, а това води до свиване на техните способности да развият цялостна визия.

Акцентирането на дигиталния свят върху скоростта потиска аналитичните способности. Неговите механизми стимулират овластяването на радикализма, а не на задълбоченото мислене. Ценностите на дигиталния свят се формират от консенсуса в малките групи, а не от самоанализа. Самите постижения на дигиталния свят рискуват да го обърнат срещу самия него, тъй като създадените от него усложнения вземат превес над улесненията.

С интернет и засилващата се мощ на компютрите се улеснява натрупването и анализирането на огромно количество данни, но заедно с това се откриват безпрецедентни хоризонти за разбиране на хората. Вероятно най-значим от всички е проектът за създаване на изкуствен интелект – технология, способна да измисля и решава сложни, привидно абстрактни проблеми, в процес на обработка, възпроизвеждащ на пръв поглед процесите в човешкия ум.

Това далеч надхвърля пределите на автоматизацията такава, каквато я познаваме. Автоматизацията се занимава със средства – тя достига до поставените цели чрез рационализиране или механизиране на инструментите за постигането им. А изкуственият интелект се занимава с целия които сам определя. Доколкото неговите постижения са частично оформени от самия него, за изкуствения интелект е характерна нестабилност. Благодарение на своите собствени операции системите с изкуствен интелект непрекъснато се обновяват, тъй като те придобиват и незабавно анализират нови данни, след което на базата на този анализ търсят начини да усъвършенстват себе си. В рамките на този процес изкуственият интелект развива способност, която досега се счита, че е запазена единствено за човешките същества. Той прави стратегически преценки за бъдещето, някои от които се основат на данните, с които е програмиран (например, правилата на играта), а други въз основата на данните, които сам обработва (например, като разиграва 1 милион варианта на играта).

Безпилотните автомобили са добър пример при илюстрирането на разликата между действията на традиционните компютри, контролирани от хората и задвижвани от софтуер, и вселена, управлявана от изкуствен интелект. Шофирането на кола изисква преценка на множество ситуации, невъзможни да се предвидят и следователно да се зададат предварително на компютъра като програма. Какво ще се случи (да използваме добре известния хипотетичен пример), ако такава кола е задължена от обстоятелствата да избира между дали да убие старец или да убие дете? Кого ще избере? Защо? Кои фактори сред множеството варианти ще се опита да оптимизира? А може ли да обясни причината за това решение? Ако машината бъде запитана, нейният отговор вероятно би бил: „Не знам (тъй като следвам математически, а не човешки принципи)” или „Не би могъл да разбереш (тъй като съм се научила да действам по определен начин, а не да обяснявам)”. Въпреки това до десетина години безпилотните автомобили вероятно ще станат повече от обикновените.

Изследователите на изкуствения интелект, които досега са ограничени предимно до специфични сфери на дейност, вече се стремят да създадат „цялостно интелигентен” ИИ, способен да изпълнява задачи в множество области. Все по-голям процент от човешката дейност в обозримо бъдеще ще бъде извършвана от алгоритми на изкуствен интелект. Тези алгоритми обаче, бидейки математически интерпретации на събраните данни, не обясняват иманентната реалност, която ги поражда. Парадоксалното е, че светът става все по-понятен и в същото време още по-мистериозен. По какво ще се различава този нов свят от света, който познаваме? Как ще живеем в него? Как ще управляваме изкуствения интелект, как ще го усъвършенстваме, или най-малкото, как ще го спрем да нанася вреди, което на свой ред води до най-зловещата опасност – като усвоява определени умения по-бързо и трайно от хората, с течение на времето изкуственият интелект може да маргинализира човешките способности и самата роля на хората, превръщайки ги просто в данни.

В бъдеще изкуственият интелект ще донесе изключителни ползи за медицинската наука, осигуряването на чиста енергия, проблемите на околната среда, както и за много други области. Но точно защото изкуственият интелект прави преценки относно развиващото се, все още неопределено бъдеще, несигурността и неяснотата са присъщи характеристики на неговите резултати. Има три области, които предизвикват особена загриженост:

Първо, ИИ може да постигне нежелани резултати. Научната фантастика вече е описала сценариите на изкуствен интелект, който се е обърнал срещу създателите си. По-вероятна е опасността ИИ да не интерпретира правилно инструкциите на хората вследствие на своята вродена липса на контекст. Популярен скорошен пример е ИИ-чатбот, на име Тей, който е предназначен да генерира приятелски разговори с езиковия модел на 19-годишно момиче. Машината се оказа неспособна да дефинира заповедите на „приятелски” и „разумен” език, програмиран от нейните инструктори, и вместо това в своите отговори стана расистка, сексистка и раздразнителна. Някои хора в технологичния свят твърдят, че експериментът е зле замислен и лошо изпълнен, но той илюстрира основния въпрос: до каква степен е възможно ИИ да се програмира така, че да схване контекста? Какви средства могат да помогнат на Тей да определи за себе си обидното, дума, за чието значение хората нямат единно мнение? Можем ли на ранен етап да забележим и коригираме ИИ-програма, която действа отвъд рамките на нашите очаквания? Или ИИ, оставен на своите собствени алгоритми, неизбежно ще развие леки девиации, които могат с времето да прераснат в катастрофални отклонения?

Второ, в хода на постигането на планираните цели изкуственият интелект може да промени човешките мисли и ценности. AlphaGo побеждава световните шампиони на играта Го, като прави безпрецедентни стратегически ходове – ходове, които хората не са си представяли и с които все още не са измислили как да се справят успешно. Извън възможностите на човешкия мозък ли са тези ходове? Или хората могат да ги научат сега, когато са демонстрирани от нов учител?

Преди изкуственият интелект да започне да играе Го, играта има разнообразни, многопластови предназначения. Играчът се старае не само да спечели, но също така да научи нови стратегии, които потенциално да използва в различни измерения на живота. Но на изкуственият интелект е позната само една цел – да спечели. Той „се учи” не концептуално, а математически, чрез корекции на алгоритмите си. Така че учейки се да печели в игра на Го, ИИ, за разлика от хората, променя едновременно природата на самата игра и начина на нейното провеждане. Ще се характеризират ли всички ИИ с такава праволинейна настойчивост?

Други проекти за изкуствен интелект работят върху модифицирането на човешката мисъл, като разработват устройства, способни да генерират редица отговори на човешки запитвания. Като оставим настрана фактологичните въпроси („Каква е температурата навън?”), тези за природата на реалността или за смисъла на живота поставят на дневен ред по-дълбоки проблеми. Искаме ли децата да се научат на ценности чрез разговор с освободените от ограничения алгоритми? Трябва ли да защитим неприкосновеността на личния живот като ограничим познанията на ИИ тези, които му задават въпросите? Ако отговорът е да, то как постигаме тези цели?

Ако ИИ се учи с експоненциално по-бърз темп от хората, трябва да очакваме, че той ще ускори също експоненциално процеса на проба-грешка, при който хората като цяло вземат решения. ИИ ще прави грешки по-бързо, а тези грешки ще са от по-голямо значение, отколкото грешките на хората. Както често предлагат изследователите на изкуствения интелект, може да се окаже невъзможно да се смекчават тези пропуски, включително чрез програмни предупреждения, изискващи „етични” или „разумни” резултати. Цели академични дисциплини са възникнали от неспособността на човечеството да стигне до единомислие как де дефинира тези термини. Следователно, трябва ли ИИ да се превръща в арбитър на споровете?

Трето, ИИ може да постигне планираните цели, но е неспособен да обясни какви са факторите за неговите изводи. В определени области като разпознаването на модели, анализа на големи обеми от данни или игрите, способностите на ИИ вече може да надвишават тези на хората. Ако неговата изчислителна мощ продължава да расте бързо, ИИ скоро може да е способен да оптимизира ситуации по незначително по-различен начин от хората. Ще може ли обаче тогава ИИ да обясни така, че хората да разберат, защо неговите действия са най-добри? Или решенията, взети от ИИ, ще надминат обяснителните способности на човешкия език и разум? През цялата човешка история цивилизациите са изработвали начини да обяснят света около себе си – в Средновековието чрез религията, през Просвещението чрез разума, през XIX и XX век чрез идеологията. Най-трудният, но и най-важен въпрос за света, към който се насочваме е: Какво ще се случи с човешкото съзнание, ако неговите собствени способности да си обяснява действителността са надминати от ИИ и хората вече нямат капацитета да си обясняват света, в който живеят, с термини, които имат смисъл за тях?

Как ще се определи съзнанието в един свят от машини, които свеждат човешкия опит до математически данни, обработвани от тяхната собствена компютърна памет? Кой е отговорен за действията на ИИ? Как се определя тяхната отговорност за грешките им? Може ли една правна система, изработена от хората, да върви в крак с операциите, извършвани от един изкуствен интелект, способен да мисли много по-напредничаво от тях и потенциално да действа с изпреварящи ходове?

В крайна сметка терминът изкуствен интелект може да е погрешно название. Тези машини, разбира се, могат да решават сложни, привидно абстрактни проблеми, които досега са занимавали единствено човешкото съзнание. Това, което ги прави уникални, е не разсъждаването на база на опита, което е характерно за хората досега. Отличителният белег е по-скоро безпрецедентната способност за запаметяване и изчисляване. Поради присъщото си превъзходство в тези области ИИ вероятно ще спечели всяка игра, в която участва. Нашите цели като хора обаче невинаги са да побеждаваме. Те са да мислим. Като разглеждаме един математически процес в качеството на мисловна дейност или дори като се опитваме да имитираме този процес, или просто приемем резултатите от него, ние сме в опасност да загубим способностите, които са в същността на човешкото познание.

Последиците от тази еволюция се виждат от наскоро разработената програма AlphaZero, която играе шах на ниво, което значително надвишава това на гросмайсторите, и по начин, който не е познат досега в историята на шаха. Само за няколко часа на самообучение чрез самостоятелни игри програмата постигна ниво на умение, което би отнело на един човек 1500 години. Единственото, което е било осигурено на AlphaZero, са били правилата на играта. В процеса на самообучение не са включвани нито човешки същества, нито данни, генерирани от хора. Ако AlphaZero е способна да постигне такова майсторство толкова бързо, къде би бил ИИ след пет години? Каква е ролята на морала в този процес, който в същността си представлява ускорено правене на избори?

Обикновено тези въпроси се оставят на технолозите или на интелигенцията в съответното научно поле. Философите и другите учени в областта на хуманитарните науки, които помогнаха в оформянето на предишните концепции за световен ред, изглежда са в неблагоприятна ситуация – незапознати с механизмите на ИИ или уплашени от неговите способности. За разлика от тях, научният свят е принуден да изследва техническите възможности на своите постижения, а технологичният свят е разсеян от търговски перспективи с невероятен мащаб. Мотивацията за тези два свята е да направят пробиви със своите открития, а не да ги осмислят всестранно. Правителствата, доколкото се занимават с темата, вероятно се ангажират с прилагането на ИИ в отбраната и разузнаването, вместо да изследват трансформацията на състоянието на човечеството, която изкуственият интелект започва да извършва.

Просвещението започва с философски по характер прозрения, разпространени от една нова технология. Нашето време се движи в обратната посока. То генерира потенциално доминираща технология в търсене на водеща философия. Другите държави превърнаха ИИ в значими национални проекти. Съединените щати все още не са изследвали систематично ИИ в пълен мащаб, не са проучили последиците от него, нито са започнали процеса на неговото същностно опознаване. На тези теми трябва да се даде висок национален приоритет, преди всичко от гледна точка на връзката на изкуствения интелект с човешките традиции.

Учените, разработващи ИИ, които имат толкова опит в политиката и философията, колкото аз имам в технологиите, трябва да си зададат някои от въпросите, повдигнати от мен тук с оглед на това да включат отговорите в своите инженерни разработки.Американското правителство трябва да обмисли създаването на президентска комисия от известни анализатори, които да помогнат за разработването на национална визия. Едно е сигурно: ако скоро не започнем да правим това, не след дълго ще открием, че сме започнали твърде късно.