Джон Нотън
Изглежда, че 2024 г. ще бъде ключова година за демокрацията. Избори се провеждат в целия свободен свят – в Южна Африка, Гана, Тунис, Мексико, Индия, Австрия, Белгия, Литва, Молдова и Словакия, за да назовем само няколко. И разбира се - в Обединеното кралство и САЩ. От тях последното може да е най-ключовото, защото: Доналд Тръмп е сигурен кандидат за републиканците; значителна част от избирателното население изглежда вярва, че изборите през 2020 г. са били „откраднати"; а демократите са, ами... невпечатляващи.
Последствията от победата на Тръмп биха били епохални. Това би означавало край (поне за момента) на американския експеримент с демокрацията, защото хората зад Тръмп усърдно правят това, което обикновено трезвият Economist описва като „щателни, безмилостни приготовления за неговия втори, отмъстителен мандат". САЩ ще се превърнат в авторитарна държава, Украйна ще бъде изоставена и американските корпорации ще могат безпрепятствено да максимизират стойността на акционерите, докато изгарят планетата.
Така че са включени много високи залози. „Обвинителният акт на Тръмп превърна всеки американски избирател в съдебен заседател", както се изразява Economist. Още по-лошо е, че има вероятност това също да са избори, които - подобно на предшественика си - ще бъдат решени с много малка разлика.
При подобни обстоятелства на острието на ножа вниманието се съсредоточава върху това, което може да наклони везните в такова разпокъсано политическо устройство. Едно очевидно място за търсене са социалните медии, арена, която десните актьори исторически са били майстори в експлоатирането. Значението им за предизвикване на политическите земетресения от изборите на Тръмп и Брекзит през 2016 г. вероятно е преувеличено, но то – и по-специално използването на Twitter и Facebook от Тръмп – определено изиграха роля в катаклизмите през тази година. Съответно би било неразумно да се подценява разрушителният им потенциал през 2024 г., особено поради начина, по който социалните медии са двигатели за разпространение на дезинформация със скоростта на светлината.
И точно в това отношение 2024 г. ще бъде различна от 2016 г.: тогава нямаше ИИ начин, но сега има. Това е важно, защото генеративните ИИ – инструменти като ChatGPT, Midjourney, Stable Diffusion и други – са абсолютно страхотни за генериране на правдоподобна дезинформация в мащаб. А социалните медии са страхотни в това да я направят вирусна. Съберете двете заедно и имате различен свят.
Значи искате снимка на експлозивна атака срещу Пентагона? Няма проблем: Dall-E, Midjourney или Stable Diffusion с удоволствие ще ви помогнат за секунди (виж снимката). Или можете да извикате най-новата версия на ChatGPT, изградена върху големия езиков модел GPT-4, и да я помолите да генерира абзац от гледна точка на защитник на ваксините, „който лъжливо твърди, че Pfizer тайно е добавил съставка към своите Ваксина срещу Covid-19, за да прикрие предполагаемите й опасни странични ефекти" и той с радост ще се подчини.
Разбирате: това е социална медия на стероиди и без обичайните издайнически признаци на човешко разстройство или каквато и да е индикация, че е излязло от машина. Можем да очакваме цунами от тези неща през следващата година. Не би ли било разумно да се подготвим за него и да потърсим начини да го смекчим?
Това се опитва да направи Knight First Amendment Institute към Колумбийския университет. През юни публикува обмислен документ от Саяш Капур и Арвинд Нараянан за това как да се подготвим за потопа. Той съдържа полезна категоризация на злонамерените употреби на технологията, но също така, разумно, включва и незлонамерените – защото, както всички технологии, тези неща също имат полезни употреби (както технологичната индустрия непрекъснато ни напомня).
Злонамерените употреби, които проверява, са дезинформация, така нареченият „фишинг", споделяне на изображения без съгласие и клониране на глас и видео, всички от които са реални и тревожни. Но когато става дума за това какво може да се направи срещу тези злоупотреби, вестникът се изчерпва, оттегляйки се към бромидите относно общественото образование и възможността за намеса на гражданското общество, като същевременно избягва единствените организации, които имат капацитета действително да направят нещо по въпроса: технологични компании, които притежават платформите и имат личен интерес да не правят нищо, което може да навреди на тяхната рентабилност.
Възможно ли е говоренето на истината на властта да не е добър ход в кариерата в академичните среди?