Nexus. Кратка история на информационните мрежи от каменната епоха до ерата на изкуствения интелект, Ювал Ноа Харари, превод Росен Люцканов, издателство „Изток-Запад“, 2024 г.
В първата десетдневка на февруари в Париж ще се проведе поредна „Международна среща на върха, посветена на изкуствения интелект“[1]. Тя има за задача да постави за дискутиране на световно равнище актуални проблеми, възникващи във връзка с бурното развитие на изкуствения интелект (ИИ), което мнозина смятат, че ще доведе до революционни промени в човешкия живот[2]. На форума ще бъдат обсъдени широк кръг въпроси относно влиянието от навлизането на ИИ в различни сфери на живота: стопанска, финансова, политическа, здравна, научна, технологическа, образователна, културна и пр. По време на Парижката среща ще продължи воденият от няколко години дебат върху разнообразните последици от широкото навлизане на ИИ в живота на хората.
Ювал Ноа Харари
По-долу ще се опитам да представя отчасти и да анализирам някои аспекти в позицията на един от разпознаваемите участници в този открит дебат – световноизвестния съвременен мислител Ювал Ноа Харари, на базата на наскоро появилия се на българския книжен пазар превод на последната му книга – Nexus. Кратка история на информационните мрежи от каменната епоха до ерата на изкуствения интелект[3]. Спирам се на нея както заради репутацията на автора ѝ – „един от най-влиятелните интелектуалци на нашето време“ – според оценката на издателя на неговите книги у нас, така и поради значителното влияние на идеите му върху хора от различни краища на света. В това произведение се предлагат отговори на редица ключови проблеми по темата за разширяващото се въздействие на информационните технологии и особено на ИИ върху битието на съвременниците и още повече на бъдещите поколения. То може да послужи като добра отправна точка за навлизане в интересуващата ни тук тема за взаимодействието между ИИ и хората, с акцент върху отговорността на последните за неговото създаване, управление и контрол.
Книгата е написана в характерния за Харари предизвикателен стил, на моменти забавен и ироничен маниер, отличаващ се с простота на изложението, лекота на възприятието и ясно формулиране на тезите. Увлекателното и разбираемо за неспециалисти обяснение на значими мисловни позиции (например деонтология и утилитаризъм) е предимство при решаване на поставената задача: провокиране на размисъл у редовия гражданин върху екзистенциално значими проблеми, свързани с навлизането на ИИ в човешкия живот. Пренебрежителното и високомерно отношение към научнопопулярната литература от вида „ширпотреба“, към който жанр някои коментатори отнасят произведенията на израелския историк, в случая е неуместно. Достъпният стил на изложение е подходящ, с оглед привличане вниманието на максимално широк кръг читатели към разглежданите в книгата важни теми. За нейната привлекателност допринасят приведените множество конкретни примери от миналото и съвременността. Сръчното боравене с факти от близки и далечни исторически епохи на различни народи и цивилизации свидетелстват за огромната ерудиция на Харари, който притежава разнообразни знания от различни области. Израелският автор умело „сърфира във времето“, като прескача от едни места и времена към други с подбор на подходящи явления от различни житейски сфери, с които илюстрира и обоснова собствените си тези. Той предлага така важния превод за лаиците на резултатите от многобройни съвременни развития в областта на технонауката, като дава правдива оценка за човешкия им смисъл. Харари демонстрира високо самочувствие на борец срещу митове и предразсъдъци, разкриващ загадки и разбулващ тайни.
Перспективи, предпоставки и постановки
Що се отнася до възможните критики към начина на мислене и писане на Харари, то такива могат да бъдат отправени с основание за използвания от него инструментариум. Например нестрогата употреба на понятия като митология, религия и идеология в качеството им на синоними (240) или поставянето под общ знаменател на разнородни явления: „интерсубективни реалности – религии, нации, валути“ (243). Упрек заслужава и липсата на дефиниции или неясното съдържание, влагано в основните понятия, с които той борави: а) информация – съзнателен и деклариран отказ от определение с ударение основно върху способността ѝ да умножава силата на хората; б) мрежа – смята, че нейният характер се разбира от само себе си; в) информационна мрежа – набор от разнородни средства за пренасяне на информация, използвани през различни исторически епохи – устни разкази, писмени документи, печатни книги, масмедии и др.
Спорни са и редица идейни предпоставки, върху които стъпва Харари. Такъв е случаят със схващането му за липсата на ясен човешки субект на историята, доколкото според него революциите в живота на хората, вкл. информационните, просто се случват. Според него хората се намират в страдателна позиция, доколкото търпят въздействието им върху себе си. За израелския автор историята има обективен ход, върху който представителите на човешкия род не могат да влияят – те са само негови агенти (статисти). Той установява наличието на еволюция, но не обяснява причината за нея, а отбелязва само, че тя е движещата сила на историята: „Еволюцията облагодетелства онези, които могат да формират стабилни социални връзки“[4].
Харари прокарва половинчат исторически детерминизъм, доколкото отказва да прави прогнози за бъдещето, но реконструира единен ход на събитията от миналото, водещ по необходимост до съвременността. Харари приписва двойствен характер на технологията, вкл. на информационната – тя „рядко е детерминистична и може да бъде използвана по различен начин“ (323). Макар и леко, той все пак открехва вратата за детерминистично тълкуване на случващото се в човешкия живот, а с това и за снемане от хората на отговорността за направените от тях избори.
Във възприетата от Харари мисловна рамка ИИ се разглежда като личност. Той говори за съществуването на „човешка и нечовешка идентичност“ (312). Застъпва екзотичната теза, че нечовешките „идентичности“ имат самосъзнание за собствено „аз“. В тази връзка може да се постави въпросът дали този нов тип „аз“ ще има права и свободи, подобни на човешките си първообрази. Според автора ИИ има способността да се самоусъвършенства чрез „машинно обучение“, което изисква набиране на огромно количество информация, събирано от целия свят. Ала не казва в каква посока ще върви това саморазвитие и дали тя е резултат от негов избор, или все пак става дума за заложена от създателите на ИИ перспектива.
Харари не е ясен и последователен при описанието на ИИ. На различни места в книгата си той го характеризира по различен начин: „лишен от съзнание“ (327); „извънземен, нежив интелект“ (327); „мощен и непроницаем“ (294); не е егоист и алчен; манипулира хората; стреми се към власт; не е безпогрешен и всесилен, но може да излезе „извън контрол“, да „поробва или да унищожи човечеството“ (295) и следователно е нужна „защита на човечеството“ срещу него (пак там). Израелският автор дава некохерентно обяснение на мотивите за действие на ИИ, доколкото едновременно твърди, че той може да се самоусъвършенства („учи“) по собствена инициатива и същевременно, че винаги хора „формулират задачата“ пред ИИ (297). Мисля, че в това отношение е правилно да се поддържа втората позиция, според която в основата на всяко действие на ИИ стоят хора със свое целеполагане. Друг е въпросът, че пребивавайки в два вида пространство – физическо и дигитално – човек се раздвоява, като във второто е представляван от свои аватари, за които не е ясно дали могат сами да вземат решения.
В текста се срещат и логически противоречия. Така например Харари прави множество аналогии между „новата компютърна мрежа“ и човека, като същевременно твърди, че тя „няма да прилича на нас“ (252). Спорна е и използваната от него обратна реконструкция на историята на информационните мрежи, при която той тръгва от съвременните средства за предаване на информация и върви към способите за нейното предаване в миналото. По такъв начин той привижда постъпателно развитие в средствата за предаване на информация.
Въпреки тези забележки към начина му на мислене и изразяване, а със сигурност могат да се отправят и други такива, книгата на Харари съдържа множество будещи размисъл тези относно безспорно твърде актуална тема – последиците от навлизането на ИИ в живота на хората. Харари е прав в констатацията си, че съществува нужда от дебат около ИИ с максимално широк кръг участници. Според него този дебат е „неотложен“ (324), тъй като решенията относно ИИ са стратегически и имат огромни последици за човечеството днес и още повече за бъдещето му. Израелският автор констатира, че човешкият род се намира в „ключов етап от канонизирането на ИИ“ (324). Според него е налице опасност хората да бъдат „манипулирани от собствените си творения“ – има предвид най-вече ИИ, – но докато осъзнаят заплахата, „вече може да е прекалено късно“ (326).
При изложението си Харари изхожда от общочовешка гледна точка. Той говори за „ние“ (хората) в кавички (287) и апелира към съвременниците да мислят себе си като част от човечеството. Според него днешните хора следва да изградят у себе си самосъзнание на представители на целия човешки род, тъй като им предстои съвместно да вземат съдбоносни решения за себе си и своите наследници. Израелският автор разсъждава както в огромен пространствен мащаб – планетата Земя и дори Вселената, така и в максимално широк времеви хоризонт – световната история. Заема се с грандиозно начинание: реконструкция на обща за човешкия род история по отношение на способите за създаване и предаване на информация, в която открива единна посока чрез издирване на явления, преследващи общи цели: търсене на истината и осигуряване на социален порядък (111). Поставя си амбициозна задача: да направи равносметка в днешно време на резултатите от изминатия досега път от човечеството. Целта му е да проследи поредицата от технологични революции при боравенето с информация, като покаже, че днес преживяваме не просто поредната от тях, а такава с потенциално повратна роля в живота не само на човечеството, но и на света като цяло.
В своя разказ Харари използва няколко подхода, сред които се откроява процесуалният, поставящ акцент върху революционните промени, предизвиквани от въвеждането на нови информационни технологии. Освен него израелският автор прибягва до типологичния и редукционисткия подход, като при първия често борави с аналогии, а чрез втория приравнява различните видове информационни източници, респ. типове информация. Съзнателно или не, той пропагандира пробиващия си път напоследък нов технонаучен светоглед – неоинтелектуализма[5].
Харари говори, че вече съществува нов битиен пласт – „инфосфера“ (283), която е интерсубективна, явява се пресечна точка на другите измерения на битието: физическо, химическо, биологическо, социално, културно, персонално, духовно, като същевременно има свои уникални характеристики. Според него в съвременната инфосфера оперират освен хора, още и „интеркомпютърни същности“ (286), т.е. електронни устройства, които при своите взаимодействия не се нуждаят от човешки същества. Израелският автор все пак смята, че засега „компютрите“ – той използва този термин редом с алгоритмите и ИИ като синоними – не притежават достатъчно мощ, за да преодолеят човешкия контрол (297).
Опасения, тревоги и предупреждения
Основен патос на книгата на Харари придават неговите притеснения за бъдещите взаимоотношения между ИИ и хората. Макар да не отрича множеството благотворни ефекти – настоящи или очаквани – от въздействията на ИИ върху човешкия живот, той акцентира върху възможните опасности от различните употреби на ИИ. Той алармира за разнородни по вид рискове, възникващи пред човечеството от развитието на тази мощна технология. Според него съвременниците е нужно да си дадат сметка и за нейните потенциално застрашаващи хората следствия.
Едно от ключовите подозрения на Харари е свързано с възможни неблагоприятни въздействия на ИИ върху преразпределението на човешки, финансови и природни ресурси на глобално ниво. Той е прав, че „многото данни“ водят до „много власт“ (301), и много вероятно до концентрация на „едно място“ на богатството и властта (306). Според него усъвършенстването на ИИ от страна на тесен кръг от агенти (най-вече корпорации и държави) ще доведе до „нарушаване глобалния баланс на силата“ (306) и до процес на тяхното потенциално „световно господство“ и „хегемония“ (303). Съсредоточаването на толкова информационна мощ в малко ръце ще предизвика загуба на суверенитет на редица държави и налагане на „информационен колониализъм“ (304), при който тези държави ще се превърнат в суровинни придатъци – като източници на данни – за новите „информационни империи“ (305). За да се избегне установяването на тотално господство чрез силата на информацията върху мнозинството от хората от малцина техни събратя, е нужен споделен и съгласуван подход за справяне с този проблем на ниво човечество, а за това следва да се формира обща „воля“ и споделена „предвидливост“ (300). В противен случай концентрацията на информация и нейното централизирано управление (събиране, обработка, ползване) от ръководителите „визионери“ на няколко частни компании (300–301) или от диктатори в мощни държави лесно може да доведе до злоупотреби с нея с меркантилна или управленска цел.
Не по-малко опасни според Харари са някои от възможностите за промяна на наличния политически ред в резултат от внедряването на новите информационни технологии. Активното използване на ИИ от злонамерени държавни ръководители им дава възможности за създаване на „дигитални диктатури“. Налице е и заплаха от формиране на „дигитални анархии“ при загуба на контрол от централните власти. Харари отделя голямо внимание върху особеностите на демократическите и диктаторските режими, като ги разглежда в качеството им на различни типове информационни мрежи (163). Той пише: „За да разберем дали една мрежа е по-скоро демократична, или по-скоро диктаторска, трябва да разберем как тече информацията през нея и как тя формира обликът на политическите разговори“ (125). Израелският автор свързва възхода или упадъка на тези политически системи с начина им на боравене с информацията. Според него демокрациите могат да умрат „не само тогава, когато хората нямат правото да говорят, а и когато не искат или не могат да слушат“ (126). Той задава ключовия според него въпрос: „Как да узнаем дали демокрациите рухват, защото са подкопани от автократи, или поради по-дълбоки структурни и технологични причини?“ (130). И набляга върху влиянието на промените в технологиите – особено на информационните – за възможния крах на демокрацията, ако се злоупотреби с тези технологии. Смята, че днешната поредна информационна революция „подготвя почвата за нов рунд в надпреварата между демокрацията и тоталитаризма“ (166). Струва си да се замислим върху това възможно развитие.
Особено внимание Харари отделя на новата ситуация, която вече е възникнала във връзка с употребата на информационните технологии в публичния дебат. От една страна, новопоявилите се средства за широко участие в него го демократизират. Откритостта и лесният достъп осигуряват на всеки човек възможност за включване в обществения дебат. Въвличането на хора, досега лишени от способи за влияние при изработване на решения относно важни социални проблеми, го обогатяват. Изразяването на разнообразни позиции и интереси, предоставят потенциал за използване на многобройни ракурси към обсъжданите въпроси. От друга страна, липсата на „сито“ за включване в дискусията, води до участие в нея на лица, които я разрушават, тъй като не са готови да спазват каквито и да е изисквания за нейното цивилизовано водене. Отсъствието на контрол на достъпа има за резултат лесна манипулация на дискусията, чрез насочването ѝ от злонамерени хора в определена посока.
Според Харари с внедряването на съвременните информационни технологии нараства потенциалът за хаотичност и разпадане структурата на публичния разговор. В ситуация на надвикване и какофония от гласове самият дебат лесно върви в посока на истеризиране и употреба на персонални нападки, т.е. лично уязвяване на участниците в него, а не към спор чрез рационални аргументи и установени факти. При тези условия е трудно постигането на съгласие около съвместно взети от мнозинството граждани решения. Дори ако до такива се стигне, неуспелите да убедят в правотата си членове на малцинството не се чувстват обвързани с взетите решения и проявяват склонност към саботиране на тяхното изпълнение. Често се достига до неспособност за разговор, а следователно както до невъзможност за сътрудничество, така и за споразумяване относно правилата за съвместния живот на хората.
Харари с основание обръща внимание върху съществените ефекти, които широкото използване на съвременните информационни технологии оказва върху човешката социална практика. Така например в социалните мрежи нищо налично не се приема за безспорно, т.е. всяка идея, ценност, принцип или начинание са подложени на критика и отхвърляне. Нещо повече, голяма част от техните потребители не проявяват готовност да влизат в дебат помежду си. Те застъпват тези, които смятат за абсолютно валидни, като по този начин способстват за налагане на дигитален догматизъм, дори фанатизъм в мисленето. Никакви аргументи не са в състояние да ги накарат да променят възгледите си.
В условията на нетърпимост към различното от собственото мнение е много лесно да се разтрогват налични съгласия, да се отхвърлят трудно постигнати компромиси. Постоянно се появяват призиви за предоговаряне на вече взети решения, което прави несигурно изпълнението на поети ангажименти и поражда съмнения за спазването на сключени договори. В социалните мрежи е почти невъзможно да се прокарва балансиран подход и да се устои на тягата към крайности. Към това Харари добавя и „анархистичния потенциал на ИИ“ (282), чрез който в публичния дебат се включват освен хора и „нечовешки гласове“. Според него последното поколение ботове не са просто ретранслатори и мегафони за разпространение на създадени от хора идеи, а сами произвеждат такива. Нещо повече, израелският автор говори за целенасочено създаване на дезинформация от тези нечовешки същества. В тази връзка обаче възниква питане как ИИ, който „не се интересува от политика“ и няма съзнание (282), върши това.
Човешката отговорност при употребата на ИИ
Харари е прав, когато констатира, че ИИ е „най-мощната информационна технология в историята“, на която мнозина днес възлагат огромни надежди, че „ще реши веднъж и завинаги всички проблеми на човечеството“ (14). Той обаче предупреждава, че внедряването му невинаги води до благоприятни резултати за хората. ИИ „може да усили вече съществуващите конфликти, да противопостави хората едни на други“ (15). ИИ е способен да породи нов вид робство – „можем да се окажем оплетени в мрежа от непроницаеми алгоритми, които ръководят живота ни, променят политиката и културата, дори собствените ни тела и умове, при положение че вече не можем да проумеем силите, които ни контролират, нито да ги спрем“ (пак там). Израелският автор установява, че „всички хора заедно сме заплашени от тоталитарния потенциал на нечовешкия интелект“ (пак там).
У мен обаче някои от приписваните от Харари способности на ИИ будят съмнение: „Това е първата технология в историята, която може да взема решения и сама да формулира нови идеи“ (15). Смятам, че ИИ не е и няма да бъде в състояние самостоятелно да прави избори, съобразно човешки ценности, и да си поставя цели, които да не са заложени в него от хора. Убеден съм, че и тази технология – както и всички други творения от този тип, създадени в миналото – използва човешки „решения“. Не споделям тезата на Харари, че ИИ „не е инструмент, а активен фактор“, който „може да замести хората в процеса на вземане на решения“ (пак там). Според мен ИИ не се е еманципирало от майстора си средство, което притежава човешки способности „да създава изкуство и да прави научни открития“ (15). Силно съмнително ми изглежда схващането на Харари, че ИИ е в състояние да ражда непознати „идеи“, след като се знае, че идеите съществуват извън пространството и времето, т.е. са нематериални и „вечни“, а и отдавна най-важните сред тях – истина, добро, красота, свобода, справедливост – са познати на хората. Иначе казано, творческият потенциал на ИИ се свежда в най-добрия случай до неизвестна преди комбинаторика между налични човешки изобретения[6].
Напълно неприемливо за мен е схващането на Харари за наличието на собствена зла умисъл в някои действия на ИИ – например, че той сее „омраза“ (284). Не виждам как израелският автор ще обясни тази способност на ИИ при липсата на нравствено чувство и практически разум у него. Колкото и мощна да е тази технология тя не е в състояние да прави разлика между добро и зло, респ. да следва или пренебрегва морални изисквания. А следователно тя не може да носи отговорност за базираните върху ценности „свои избори“. Тук моята теза принципно се различава от тази на израелския автор – реални избори правят само хората със свободна воля, респ. само те носят отговорност за своите и на рожбите си дела. Те не бива да се крият зад изкуствените си чеда, а открито и честно да приемат последиците от употребата на заложения в тях потенциал да извършват някои от присъщите на човека дейности.
Принципното ми несъгласие с възгледа на Харари за субекта на отговорността се основава на неприемане на лансираната от него теза – в най-известното му произведение „Homo Deus: кратка история на бъдещето“ – за природата на човека. Според израелския автор „през последното столетие учените отварят черната кутия на Sapiens и установяват, че там няма нито душа, нито свободна воля, нито Аз – само гени, хормони и неврони, които се подчиняват на същите физически и химически закони като всичко друго в действителността“[7]. Той приема безкритично схващанията на част от съвременните учени – природоизследователите, които виждат само материални обекти и свеждат духовния пласт на битието до такива. Харари споделя природонаучния, в частност биологичния детерминизъм, според застъпниците на който човешката духовна дейност представлява „серия от електрохимични процеси в мозъка, резултат от конкретна генетична комбинация, която на свой ред е отражение на древни еволюционни въздействия и случайни мутации“ (пак там). Той твърди, че „електрохимическите мозъчни процеси, които водят до убийство, са или детерминистични, или произволни, или съчетание от двете – но те никога не са свободни“ (пак там). Според него материалните процеси в телесните органи могат да имат само вътрешен източник, като не допуска те да са породени от външен духовен източник и да отварят поле за свободен избор на хората. Харари говори от името на цялата съвременна наука и твърди, че според нея „детерминизмът и случайността си поделят цялата торта и не оставят дори трохичка за „свободата“. Оказва се, че свещената дума „свобода“ – също като „душа“ – е кух термин, лишен от какъвто и да е конкретен смисъл. Свободната воля съществува единствено в историите, които ние, хората, сме си измислили“ (пак там). Харари очевидно не смята, че създадените от хората „истории“ са отделен вид реалност, при това често по-важна за тях от материалната. И това го пише историк на човешката цивилизация!? Явно за него е чуждо разбирането на човека като хетерогенно същество, съдържащо в себе си различни начала и способности, сред които нематериалните дават най-важните подтици за поведението му. Същевременно израелският автор твърди, че „наред с алчност, високомерие и жестокост хората са способни на любов, състрадание, смирение и радост“ (8–9), т.е. у тях са налице различни душевни заложби. Нещо повече, той констатира, че „при най-лошите представители на нашия вид алчността и жестокостта излизат на преден план и ги карат да злоупотребяват със своята сила“ (9), като се поддават на подтици, идващи от злите демони в човешкия дух.
Харари е прав, когато се противопоставя на „циничното разбиране на историята“ (325), според което властта е единствената смислена житейска цел, информацията се разглежда като оръжие за осигуряване на надмощие, а истината не е важна. Той апелира към установяване на съвместен общочовешки контрол върху съвременните технологии и особено върху ИИ. Той смята, че без самоконтрол на човечеството една „свръхсила от Силициевата епоха“ може да се превърне в заплаха за оцеляването на нашия вид и на много други форми на живот“ (326), т.е. да доведе до глобална екзистенциална катастрофа не само на човешката цивилизация. Израелският автор твърди, че регулацията на ИИ „налага безпрецедентно ниво на доверие (между нациите, държавите, корпорациите, гражданите – мое, Д.Т.) и самодисциплина“ (316). За да се постигне то, е нужно да бъде изградена „обща рамка за мислене и действие“ (314), върху която да бъдат създадени „набор от глобални правила“, които „регулират взаимоотношенията между различните нации“ (315) във връзка с употребата на ИИ. Споделям разбирането на Харари, че „върху всички нас тежи бремето на отговорността да направим правилния избор“ относно бъдещето на ИИ, който избор предполага да бъдат направени съвместни усилия от съвременниците и така „да създадем един по-добър свят“ (320). Провежданият в Париж форум може да направи важна стъпка към осъществяване на съдбоносен за човечеството избор относно развитието занапред на ИИ, а и на останалите съвременни технологии.
––––
[1] Тя ще бъде третата по ред, след проведените във Великобритания (2023) и Южна Корея (2024).
[2] Повече информация за форума виж в интервюто на посланика на Франция в България н.пр. Жоел Мейер, „Бъдещето на изкуствения интелект ще бъде начертано през февруари в Париж“ //Капитал, бр. 2, 17–23.01.2025.
[3] Вж. Харари, Ювал Ноа 2024, Nexus. Кратка история на информационните мрежи от каменната епоха до ерата на изкуствения интелект, София: „Изток-Запад“. По-нататък в текста цитатите са по това издание, освен ако не се цитират други негови произведения.[4]Харари, Ювал Ноа 2016, Sapiens: кратка история на човечеството, София: „Изток-Запад“, с. 15.
[5] Повече за него виж в текста ми Фаталистичен неоинтелектуализъм //Портал Култура, 12.07.2021, а за някои от другите подобни картини на света книгата ми Технонаучните „светогледи“ и кризата на хуманизма, София: „Парадигма“, 2023.
[6] По темата виж моя текст (Не)актуална апология на човешкия дух //Портал Култура, 22.12.2023.
[7]Харари, Ювал Ноа 2018, Homo Deus: кратка история на бъдещето, София: „Изток-Запад“, с. 228.
Автор: Добрин Тодоров
