Джон Нотън
Тази история започва на 27 август 2019 г., когато Роберто Мата е бил пътник на полет 670 на Avianca от Ел Салвадор до Ню Йорк и метална количка за храна и напитки е наранила коляното му. Както е в американския стил, Мата надлежно съди Avianca. Авиокомпанията отговори, като поиска делото да бъде прекратено, тъй като „давността е изтекла".
Адвокатите на Мата твърдяха на 25 април, че съдебният процес трябва да бъде продължен и да се добави списък от над половин дузина предишни съдебни дела, които очевидно създават прецеденти в подкрепа на техния аргумент.
Адвокатите на Avianca и съдия Кевин Кастел след това прилежно се впуснаха в проверка на тези „прецеденти", само за да открият, че нито едно от решенията или правните цитати, цитирани и обобщени в кратката информация, не съществуват.
Защо? Защото ChatGPT ги беше измислил. При което, както се казва в доклада на New York Times, „адвокатът, който е създал резюме на информацията, Стивън А. Шварц от фирмата Levidow, Levidow & Oberman, се е оставил на милостта на съда... казвайки в клетвена декларация, че е използвал ИИ програма, за да направи правното си проучване – източник, който се оказал ненадежден.
Шварц, между другото, не е новобранец веднага след юридическия факултет. Той практикува право в змийската яма, която е Ню Йорк в продължение на три десетилетия. Но той очевидно никога преди не е използвал ChatGPT и „следователно не е знаел за възможността съдържанието му да е невярно". Той дори беше помолил програмата да провери дали случаите са реални и тя каза „да". О, по дяволите.
Човек си спомня онази стара история за момчето, което след като застреляло баща си и майка си, след това се оставя на милостта на съда с мотива, че сега е сирак. Но случаят с Мата е просто още една илюстрация на лудостта около ИИ, която цари в момента. Изгубих броя на очевидно разумните хора, които са излезли омагьосани от разговори с „чатботове" – учтивият термин за „стохастични папагали", които не правят нищо друго, освен да правят статистически прогнози за най-вероятната дума, която да бъде добавена към изречението, което в този момент те съставят. Но ако смятате, че спектакълът на привидно интелигентни хора, погълнати от роботизирани папагали, е странен, тогава отделете малко време, за да помислите върху положително сюрреалистичните събития, които се случват в други части на ИИ гората. Тази седмица, например, голям брой технологични светила подписаха декларация, че „Намаляването на риска от изчезване от ИИ трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война". Много от тези хора са видни изследователи в областта на машинното обучение, включително доста служители на големи технологични компании. Известно време преди пускането, трима от подписалите – Сам Алтман от OpenИИ, Демис Хасабис от Google DeepMind и Дарио Амоди от Anthropic (компания, създадена от „отпадналите") на OpenИИ – бяха поканени в Белия дом, за да споделят с президента и вице -президента техните страхове относно опасностите от изкуствения интелект, след което Алтман направи представяне пред Сената на САЩ, като каза, че „регулаторната намеса от страна на правителствата ще бъде от решаващо значение за смекчаване на рисковете от все по-мощните модели".
Направете крачка назад от това за момент. Тук имаме високопоставени представители на мощна и безсъвестно богата индустрия – плюс техните поддръжници и колеги в елитни изследователски лаборатории по целия свят – които от една страна са хипнотизирани от техническите предизвикателства на изграждането на технология, която според тях може да бъде екзистенциална заплаха за човечеството, като в същото време призовава правителствата да го регулират. Но мисълта, която изглежда никога не влиза в това, което може да се нарече техните умове, е въпросът, който всяко дете би задало: ако е толкова опасно, защо продължавате да го изграждате? Защо не спрете и не направите нещо друго? Или най-малкото, спрете да пускате тези продукти в дивата природа?
Празните погледи, които човек получава от технологичната тълпа, когато се задават тези прости въпроси, разкриват неудобната истина за тези неща. Никой от тях – колкото и старши да е – не може да го спре, защото всички те са слуги на ИИ, които са дори по-мощни от технологията: корпорациите, за които работят. Това са истински свръхинтелигентни машини, под чието господство всички сега живеем, работим и съществуваме. Подобно на демоничния ИИ на Ник Бостром, създаващ кламери, такива суперинтелигентности съществуват, за да постигнат само една цел: максимизиране на стойността на акционерите; ако дребнавите хуманистични скрупули пречат на тази цел, толкова по-зле за човечеството.
Наистина не можете да го измислите. ChatGPT обаче може.