Джон Нотън
Онези, които са забравили историята, са осъдени да я повторят. За тези от нас с дълги спомени, сегашната суматоха – дори истерия – около ChatGPT (и „генеративния ИИ" като цяло) бие камбаната.
Имали сме това и преди: през януари 1966 г., за да бъдем точни. Това беше моментът, в който Джоузеф Вайзенбаум, компютърен учен от Масачузетския технологичен институт, разкри Eliza, която щеше да бъде наречена първият чатбот в света, ако този термин съществуваше по това време. Вайзенбаум написа софтуера (на език за програмиране, интригуващо наречен MAD-SLIP), за да демонстрира, че комуникацията между хора и компютри неизбежно е повърхностна. Той направи това, като предостави текстово поле, в което човек може да обменя въведени комуникации с машината. Вътре в програмата имаше сценарий (кръстен ДОКТОР от Вайзенбаум), който пародира обмена, който пациент може да има с психотерапевт. (Името на програмата идва от Елайза Дулитъл, говорещо кокни момиче, научено да „говори правилно" в пиесата на Шоу „Пигмалион").
Начинът, по който това работи, е, че програмата приема това, което сте въвели, и го обработва, за да произведе отговор. Да предположим, че напишете: „Малко съм депресиран от политиката на Обединеното кралство." Елайза: „Мислиш ли, че идването тук ще ти помогне да не изпадаш в депресия?" Аз: "Надявам се." Елайза: „Казваш ли, че се надяваш на това поради някаква специална причина?" Разбирате идеята – но можете да опитате сами: просто отидете на masswerk.at/elizabot/.
Вайзенбаум написа програмата, за да покаже, че докато машините очевидно могат да копират човешкото поведение, всъщност това е точно като магьосник да извади заек от шапка: илюзия. И след като разберете как е направен трикът, помисли си Вайзенбаум, той престана да бъде илюзия. Нямаше нищо тайно за Елайза: ако прочетете кода, можете да разберете как работи. Това, което изненада създателя й, беше, че дори хората да знаеха, че това е просто програма, те изглежда я приемаха сериозно. Има история за неговата секретарка, която го моли да напусне стаята, докато тя води своя „разговор" с Елайза. Хората бяха напълно очаровани от това. (Лично видях това, когато веднъж го пуснах на компютъра в деня на отворените врати на моя университет и трябваше да гоня хората от машината, така че другите на опашката да могат да го пробват.
След публикуването на статията на Вайзенбаум за Елайза, не отне много време някои хора (включително някои практикуващи психиатри) да започнат да казват, че ако една машина може да прави такива неща, кой има нужда от психотерапевти? Вайзенбаум беше ужасен от това, точно както днешните образователни работници и художници са ужасени от съвременното робуване на инструментите на генеративния ИИ.
Интригуващият отзвук от Елайза в мисленето за ChatGPT е, че хората го смятат за магически, въпреки че знаят как работи – като „стохастичен папагал" (по думите на Тимнит Гебру) или като „машина за високотехнологично плагиатство" (Ноам Чомски). Но всъщност все още не знаем и половината за него – нито емисиите на CO2, възникнали при обучението на неговия основен езиков модел, нито въглеродния отпечатък от всички онези възхитени взаимодействия, които хората имат с него.
Или, по-добре по Чомски, че технологията, която току-що се е появила в мрежата, съществува само поради неоторизираното си присвояване на творческата работа на милиони хора?
Какъв е бизнес моделът зад тези инструменти? Отговорът е: Не знаем!
В една от лекциите си Вайзенбаум изтъкна, че ние непрекъснато сключваме фаустовски сделки с тази технология. В такива договори и двете страни получават нещо: дяволът получава човешката душа; хората получават услугите, които ни радват. Понякога компромисът работи за нас, но с тези неща, ако в крайна сметка решим, че не е така, ще бъде твърде късно.
Това е сделката, която генеративният ИИ сега поставя на масата. Готови ли сме за това?