Какъв дисинхрон в интонациите, а, Господи! Абсолютен!

През 1964 г. Станислав Лем пише в „Сума на технологията“: „Антихомункулусите“ са убедени, че отричайки възможността за създаване на синтетична психика, те защитават превъзходството на човека над създанията му, на които, по тяхно мнение, никога няма да им се удаде да превъзхождат човешкия гений. Подобна защита би имала смисъл, ако някой наистина би искал да замени човека с машината, при това не за конкретен вид работа, а в мащабите на цялата цивилизация. Но за това никой не си и помисля. Въпросът е не да се конструира синтетично човечество, а да се открие нова глава на Технологията, главата за системи с колкото е възможно по-голяма сложност“; през 2024 г., 60 години по-късно, Ювал Ноа Харари пише в „Nexus. Кратка история на електронните мрежи от каменната епоха до ерата на изкуствения интелект“ (превод Росен Люцканов, „Изток-Запад“, 2024): „Възможно е компютрите да станат по-силни звена в мрежата от хората. В продължение на десетки хиляди години свръхсилата на Sapiens е в уникалната способност да използва езика, за да създаде интерсубективни реалности като закони и пари, а след това да ги използва, за да установява връзка между хората. Компютрите обаче може да наклонят везните срещу нас. Ако силата зависи от това колко звена във веригата ти сътрудничат, колко добре разбираш от закони и финанси, доколко си способен да измисляш нови закони и нови финансови инструменти, то компютрите имат способността да станат далеч по-силни“. Гласът на Лем е изпълнен с надежда за по-добре бъдеще, на което ще се радваме, ако усъвършенстваме Технологията (същата тази технология, която той изписва с главна буква); този на Харари е изпълнен с предупреждение, че ако като човечество не се вземем в ръце и не предприемем нещо в творчески изненадваща посока, компютрите (същите тези компютри, които той изписва с малка буква) ще го сторят преди нас и ще ни превърнат едва ли не в свои роби. Робо-крепостни. Ако във визията на Лем машините са инструменти в ръцете на хората, то във визията на Харари хората са инструменти в чиповете на компютрите. Които ще ги манипулират както си щат…

Бенхамин Лабатут, писателят от Чили, роден в Ротердам (1980), е склонен сякаш повече да се съгласи с израелеца, отколкото с поляка. На българския пазар той нахлу взривно с „Кога престанахме да разбираме света“ (превод Захари Омайников, „Лабиринт“, 2024), чието оригинално заглавие е „Un verdor terrible“ („Ужасна зеленина“) – книга, с която влиза в късия списък на „Букър“ през 2021 г. Първото му публикувано томче е сборник с разкази (2009), „Атлантида започва оттук“ („La Antártica empieza aquí“), с което печели голяма награда в Мексико и в Сантяго. Големият пробив обаче настъпва с „Кога престанахме да разбираме света“, за който роман Джон Банвил – също великолепен, но и той като Лабатут особен автор, казва в „Гардиън“, че е „гениален, заплетен и дълбоко смущаващ“, давайки му и жанрово определение – „нехудожествен роман“. Бенхабин Лабатут със сигурност би се съгласил с Джон Банвил за дълбокия смут, тъй като както „Кога престанахме…“, така и „МАНИАК“ (превод Юлия Гешакова, „Лабиринт“, 2025) той завършва с една и съща уговорка: „Тази книга е плод на въображението и се основава на факти“. В първата героите са много и всеки от тях е „светъл ум“. Светли умове, ала с тъмни последствия: Шиничи Мочидзуки, Фриц Хабер, Александър Гротендик, Вернер Хайзенберг, Ервин Шрьодингер, Карл Шварцшилд… В „МАНИАК“ героите са само трима (или четирима, ако броим компютъра „Алфа Го“): Паул Еренфаст, наричан „съвестта на физиката“, Джон фон Нойман, „най-умният човек на ХХ век“, и Ли Седол, „Силният камък“, с „мозък колкото планета“. И тримата са необикновени личности, и тримата имат незавидна съдба: Еренфаст се самоубива като преди това убива сина си, със синдром на Даун; Фон Нойман, унгарски евреин, който умира само на 53 г. от рак; и Ли Седол, южнокореец, шампион по го, отказал се от играта, след като бива победен от компютър, създаден от англичанина Демис Хасабис. Именно тази драматична схватка проследява в третата последна част в „МАНИАК“ Бенхабин Лабатут, за да потвърди – наглед привидно неутрално, безпокойствата на Ювал Ноа Харари за изкуствения интелект, заплаха за човечеството:

Хасабис и екипът от „Дийп Майнд“ предприемат крайна стъпка: изчистват „Мастърс“, следващото поколение „Алфа Го“, от всички човешки познания – от онези милиони игри, въз основа на които се е учил да играе и които са крайъгълният камък на неговия здрав разум, уникалната му способност да преценява стойността на всяка позиция, да оценява шансовете си за победа и да гледа на дъската така, както я виждат хората. Оставят само голия скелет. Целта им е да създадат по-мощен и много по-универсален изкуствен интелект, чиито способности за самообучение не се изчерпват с го и който при първите си стъпки в обучението не се подпира като патерица на човешкото разбиране и знания. Взимат своя алгоритъм, отстраняват всички човешки данни, от които би могъл да се учи, и разкъсват единствената му пряка връзка с човечеството. // Резултатите са ужасяващи. // Новата програма побеждава със 100:0 версията на „Алфа Го“, заради която Ли Седол се отказва от професионалната кариера.

Оказва се подир това, че компютърният „виртуоз“ се справя по същия невъобразим начин с всички игри, изискващи интензивна умствена работа: шахмат, сьоги (японски шах, по-сложен от индийския), за да се превърне в „най-силният играч, който светът е познавал, в го, шахмата и сьоги“. Наричат го „Алфа Зеро“. И този „Алфа Зеро“ сякаш е сбъднатият кошмар на Ювал Ноа Харари: „Създали сме лишен от съзнание, но изключително могъщ „извънземен“ интелект. Ако не го използваме правилно, той може да сложи край не само на човешкото господство върху планетата, но и да загаси пламъка на съзнанието, в резултат от което над вселената ще се спусне непроницаем мрак. Наша е отговорността да не позволим това да се случи“.

Плашеща перспектива, направо смразяваща. Макар че зад неговите вопли на една простмодерна Касандра на ХХІ век не всеки е готов да застане. Проф. Добрин Тодоров, преподавател по история на философията в Минно-геоложкия университет „Св. Йоан Рилски“, привежда свои възражения в коментара за „Nexsus“ в Портал Култура:

У мен обаче някои от приписваните от Харари способности на ИИ будят съмнение: „Това е първата технология в историята, която може да взема решения и сама да формулира нови идеи“ (15). Смятам, че ИИ не е и няма да бъде в състояние самостоятелно да прави избори, съобразно човешки ценности, и да си поставя цели, които да не са заложени в него от хора. Убеден съм, че и тази технология – както и всички други творения от този тип, създадени в миналото – използва човешки „решения“. Не споделям тезата на Харари, че ИИ „не е инструмент, а активен фактор“, който „може да замести хората в процеса на вземане на решения“ (пак там). Според мен ИИ не е еманципирало се от майстора си средство, което притежава човешки способности „да създава изкуство и да прави научни открития“ (15). Силно съмнително ми изглежда схващането на Харари, че ИИ е в състояние да ражда непознати „идеи“, след като се знае, че идеите съществуват извън пространството и времето, т.е. са нематериални и „вечни“, а и отдавна най-важните сред тях – истина, добро, красота, свобода, справедливост – са познати на хората. Иначе казано, творческият потенциал на ИИ се свежда в най-добрия случай до неизвестна преди комбинаторика между налични човешки изобретения.

Ако се върнем от проф. Тодоров към фантаста-футуролог Лем, също ще открием изпреварващи опасенията на Харари аргументи, вдъхващи ни упование и надежда:

[…] Ние имаме пред себе си не „електронен бог“ и не такъв властелин, а единствено системи, които в началото са призвани да наблюдават обособени процеси от изключителна важност или сложност, които постепенно – в хода на своеобразна еволюция – обхващат цялата обществена динамика. Тези системи няма да се опитват да „овладеят човека“ в каквото и да е антропоморфическо определение на думата, тъй като – не бидейки личности, те не проявяват черти на какъвто и да е егоизъм или жажда за власт, които могат да се припишат само на „личности“.

Перифразирайки изреченото от Лем, човекът е в безопасност от изкуствения интелект, тъй като той, изкуственият интелект, за разлика от него, човека, не ламти за власт, за подчинение, за командорене. Командаджийството е присъщо само на човека и със същото убеждение в известен смисъл ни успокоява и проф. Добрин Тодоров: „Тази технология използва човешки „решения“. Бенхамин Лабатут, струва ми се, отново акцентира върху това, макар и не толкова ясно (вероятно съвсем съзнателно), когато пише в края на своя роман: „Хасабис и екипът от „Дийп Майнд“ изчистват „Мастърс“ от всички човешки познания“. „Мастърс“, тоест, не се изчиства сам: въпреки огромния си потенциал по отношение на „дехуманизирането“ си той е безпомощен, ако с това не се заемат човекът Хасабис и неговият екип. Тоест ИИ може и да е могъщ, но той не е самостоятелно могъщ, той е могъщ единствено, когато е в мрежа, „nexus“, с човека… 

MANIAC – компютърът, изобретен от Джон фон Нойман, е маниак не сам по себе си и сам за себе си, той е маниак заедно с човека. И това какъв точно MANIAC ще бъде – съзидателен или разрушителен, зависи единствено и само от човека. От никой друг…

„Алфа Зеро“ играе го, шахмат и сього – непобедимо, неизразимо…

Човекът обаче играе го, шахмат и сього заедно с всичко останало на земята и във вселената творчески и перманентно, без прекъсване…

Какъв дисинхрон в способностите, а, ChatGPT! Абсолютен!…