Джон Нотън
В началото беше интернет, който беше пуснат за първи път през януари 1983 г. и проектиран от самото начало като платформа за това, което стана известно като „иновация без разрешение". Ако имате добра идея, която може да бъде реализирана с помощта на мрежата – и сте достатъчно умни да напишете софтуера, за да работи – тогава интернет ще го направи вместо вас, без въпроси.
В началото на 90-те години на миналия век физикът Тим Бърнърс-Лий го използва като основа, върху която да изгради нова платформа за иновации без разрешение, наречена „световната мрежа". Нетехническият свят откри тази нова платформа през 1993 г. и прекара следващите 30 години, използвайки я като основа, върху която да изгради много нови неща – онлайн пазаруване, социални медии, Amazon, Google, блогове и т.н. и т.н. Мрежата също създаде възможност за Уикипедия, невероятен проект за енциклопедия, в която всеки, ама всеки, може да допринесе и редактира, и който сега е едно от чудесата на мрежовия свят.
През 2023 г. същият този свят се събуди, за да открие, че мрежата (особено невъобразимите количества данни, които е произвела) е позволила създаването на друг нов вид платформа за иновации без разрешения. Луксозното име за него е „генеративен ИИ", термин, който използва големи езикови модели (LLM) и свързаните с тях чатботове, плюс други системи, които могат да генерират правдоподобни изображения, видеоклипове и други творчески резултати в отговор на текстови подкани.
Нетехническият свят сега е в ранните етапи на истерично вълнение, тревога и ирационално изобилие от тази нова платформа. Има много философстване за това дали технологията представлява екзистенциален риск за човечеството. Вероятно не; но може да бъде сериозна заплаха за демокрацията по причини, които ще разгледаме скоро. Технологичната индустрия, както винаги незагрижена за демокрацията, сега е разкъсана от различни опасения. Това предизвика „Камбрийска експлозия", в която хиляди стартиращи фирми (подтикнати от финансиращите ги рискови капитали) се надпреварват да изградят нови неща върху основата, осигурена от генеративните ИИ модели, създадени от големите технологични компании със значителни разходи за околната среда.
Като се има предвид, че екзистенциалните рискове са над степента на заплащане на журналистите във вестниците, нека вместо това се съсредоточим върху по-непосредствените проблеми, породени от LLM. Главният сред тях е фактът, че понякога си измислят нещата. Още по-лошо, те винаги звучат авторитетно, дори когато грешат напълно. За лошите актьори, които се интересуват от подвеждане на хората онлайн, това е истински бонус. Въпреки че в днешно време много хора са свикнали да бъдат бомбардирани с пропаганда в социалните медии, поне част от нея преминава през всякакви филтри, които използват, за да отделят истината от измислицата. Но това, което предлагат чатботовете, не е бомбардиране, а взаимодействие един на един с видимо ангажиран и знаещ бот. С други думи, социални медии на стероиди. И с избори през следващата година в най-малко две поляризирани демокрации, това може да бъде значително.
Другото нещо за чатботовете е, че позволяват безпроблемното създаване на огромни количества „съдържание" в изключителен мащаб. Както казва Джеймс Винсент от Verge, „Имайки пари и изчисления, системите с изкуствен интелект – особено генеративните модели, които са на мода в момента – се мащабират без усилие. Те произвеждат текст и изображения в изобилие, а скоро и музика и видео. Техният резултат може потенциално да надмине или да изпревари платформите, на които разчитаме за новини, информация и забавление. Но качеството на тези системи често е лошо и те са изградени по начин, който е паразитен в мрежата днес. Тези модели се обучават върху слоеве от данни, заложени през последната уеб епоха, които те пресъздават несъвършено".
Скоро обаче мрежата може да се състои не само от това, което е имало в ерата преди ИИ, но и от всички неща, създадени от настоящи и бъдещи чатботове. Което повдига интригуващата възможност за онлайн свят, населен от ботове, вдишващи текстовите изгорели газове на своите механични връстници, и последваща спирала в безкрайната рекурсия, която програмистите наричат „препълване на стека"!
При такива обстоятелства какво трябва да направят институциите, търсещи истината?
Отговорът е: вижте какво правят в Уикипедия. Едно от най-невероятните неща за този проект е колко далновидна е била неговата общност относно задачата да отделя когнитивното зърно от плявата. В първите си дни наблюдателите се чудеха защо Wikipedia изгражда толкова сложен набор от процеси и инструменти за оценка на качеството на изпратените материали. Сега знаем: те виждаха какво идва по пистата. Сега можем да научим едно или две неща от тях.