Икономистът Брайън Каплан беше сигурен, че изкуственият интелект, вграден в ChatGPT, не е толкова умен, колкото се смяташе. Въпросът: може ли изкуственият интелект да се справи с междинния изпит през 2022 г.?
Каплан от университета Джордж Мейсън във Вирджиния изглеждаше в добра позиция да прецени. Той си създаде име, като залагаше на редица теми, заслужаващи новини, от изборните шансове на Доналд Тръмп през 2016 г. до бъдещите нива на посещаемост в колежа в САЩ. И почти винаги печели, често като залага срещу прогнози, които смята за хиперболични.
Такъв беше случаят с дивите твърдения за ChatGPT, ИИ чатботът, който се превърна в световен феномен. Но в този случай изглежда, че Каплан – професор-либертарианец, чиито аргументи варират от призиви за отворени граници до критика на феминисткото мислене – ще загуби залога си.
След като оригиналният ChatGPT получи D на теста си, той се обзаложи, че „никой ИИ няма да може да получи A на 5 от 6 от моите изпити до януари 2029 г. Но за моя изненада и голямо безпокойство, новата версия на системата, GPT-4, получи A само няколко месеца по-късно, отбелязвайки 73/100, което, ако беше студент , щеше да бъде четвъртият най-висок резултат в класа. Предвид зашеметяващата скорост на подобрение, шансовете ми за победа изглеждат малки" написа той в своя блог.
The Guardian разговаря с Каплан за това как може да изглежда бъдещето на ИИ и как той е станал запален залагащ. Разговорът е редактиран и съкратен за яснота.
G.Обзалагахте се, че нито един изкуствен интелект не може да получи оценка на пет от шест от вашите изпити до януари 2029 г. – а сега един го направи. Колко заложихте?
K.Пробвах за 500 долара. Мисля разумната прогноза в този момент е, че ще загубя залога. Просто се надявам да имам късмет.
G.И така, какво мислите, че означава това за бъдещето на ИИ? Трябва ли да сме развълнувани или притеснени или и двете?
K.Бих казал развълнуван като цяло. Всеки напредък е лош за някого. Ваксините са лоши за погребалните бюра. Общото правило е, че всичко, което увеличава човешкото производство, е добро за човешкия жизнен стандарт. Някои хора губят, но ако отидете и кажете, че искаме само напредък, който е от полза за всички, тогава не може да има напредък.
Имам друг ИИ залог с Eliezer Yudkowsky – той е най-големият и вероятно най-крайният песимист, в смисъл, че смята, че ИИ ще проработи и след това ще ни унищожи. Затова се обзалагам с него, че благодарение на ИИ ще бъдем изтрити от повърхността на Земята до 1 януари 2030 г. И ако се чудите как е възможно да имате такъв залог, след като сте един от хора, които ще бъдат унищожени – отговорът е, че просто му предплатих. Просто му дадох парите предварително и ако светът не свърши, той ми е длъжник.
G.Как можем теоретично да бъдем унищожени?
K.Това, което считам за странен аргумент [в по-широк план] е, че след като ИИ стане достатъчно интелигентен, за да увеличи собствената си интелигентност, тогава той ще премине в безкраен интелект за миг и това ще бъде всичко за нас. [Този възглед се подкрепя от] много умни, много артикулирани хора. Не изглеждат луди, но просто мисля, че са.
Те някак си са се заговорили в ъгъла. Започвате с това определение на: представете си, че има безкрайно интелигентен ИИ. Как можем да го спрем да прави каквото иска? Е, щом просто го изразихте така, не бихме могли. Но защо трябва да мислите, че това нещо ще съществува? Нищо друго никога не е било безкрайно. Защо някога би имало някакво безкрайно нещо?
G.Какво ви хрумва, когато решите: струва ли си това да заложите?
K.Залозите, които предизвикват интереса ми, са тези, при които някой просто изглежда прави хиперболични преувеличени твърдения, преструвайки се, че има много повече увереност в бъдещето, отколкото си мисля, че може да има. Досега ми служи перфектно. Имах 23 залога, които се реализираха; Спечелих всичките 23.
Имах много други случаи на хора, които ми казваха колко страхотен е ИИ, а след това проверих сам и те очевидно силно преувеличаваха. И така просто реших, че преувеличението продължава и понякога грешите. Понякога някой казва нещо, което изглежда абсурдно преувеличено и е точно така, както казва.
G.С други думи, вие сте склонни да отхвърляте най-драматичните възможни резултати.
K.Почти винаги залагам срещу драмата. Защото привлича човешката психика да казва вълнуващи неща и моето мнение е, че светът обикновено не е толкова вълнуващ всъщност. Светът обикновено продължава да бъде такъв, какъвто е бил. „Най-добрият предсказател на бъдещето е миналото" е поговорка, която според мен е толкова мъдра и неоспорима.
G.Така че, ако загубите залога на ИИ, това индикатор ли е, че хиперболата е оправдана?
K.Мисля, че това показва за този конкретен случай, че GPT-4 напредна много по-бързо, отколкото очаквах. Мисля, че това означава, че икономическите ефекти ще бъдат много по-големи, отколкото очаквах. Тъй като очаквах много малък ефект, той може да бъде 10 пъти по-голям, отколкото си мислех, че ще бъде и пак да не е огромен. Но определено по този въпрос, сякаш преосмислих мнението си.
Единствената история, за която можех да се сетя и която би изкупила първоначалния ми скептицизъм, би била, ако те просто добавят моята публикация в блога към данните за обучението и след това просто плюят моите собствени отговори към мен. Но ето нещо: всъщност имам нова публикация, в която дадох на GPT-4 напълно нов тест, който никога не съм обсъждал в интернет, и той получи високия резултат, така че мисля, че е истински.
G.И какво се случва след това?
K.Има общо правило, че дори когато една технология изглежда страхотна, обикновено отнема много повече време отколкото бихте очаквали, за да има големи икономически ефекти.
Първите телефони са през 1870 г.; отнема около 80 години, преди тази технология дори да ни осигури надеждни телефонни разговори с Европа. Електричеството изглеждаше като че ли са отнели няколко десетилетия, за да бъде широко разпространено, а на интернет също изглеждаше, че отне повече време, отколкото би трябвало.
Спомням си няколко години, когато backspace не работеше на имейл. Не знам на колко години си, но както си спомням, когато не можеше да върнеш имейл. И така продължи години наред. Може би си мислите, че това ще бъде решено за три минути. Но винаги, когато човешки същества участват в приемането на технологията, има просто куп различни проблеми, различни пречки. Така че що се отнася до това дали GPT наистина ще трансформира икономиката след няколко години, аз все още смятам това за доста невероятно. Това е почти безпрецедентно.
