Група водещи технологични експерти от цял свят предупредиха, че технологията за изкуствен интелект трябва да се счита за обществен риск и да се приоритизира в същия клас като пандемиите и ядрените войни.
Изявлението, подписано от стотици ръководители и академици, беше публикувано от Центъра за безопасност на ИИ във вторник на фона на нарастваща загриженост относно регулирането и рисковете, които технологията представлява за човечеството.
„Намаляването на риска за унищожение от ИИ трябва да бъде глобален приоритет наред с други рискове от обществен мащаб като пандемии и ядрена война", се казва в изявлението. Подписалите го включват главните изпълнителни директори на DeepMind на Google, ChatGPT на OpenИИ и стартиращия ИИ Anthropic.
Глобални лидери и експерти от индустрията отправиха призиви за регулиране на технологията поради екзистенциални страхове, че тя може значително да засегне пазарите на труда, да навреди на здравето на милиони и да използва дезинформация, дискриминация и представяне като оръжие.
Този месец рекламираният като кръстник на ИИ – Джефри Хинтън, също подписал – напусна Google, позовавайки се на неговия „екзистенциален риск". Рискът беше повторен и признат от Даунинг стрийт 10 за първи път – бърза промяна на тактиката в правителството, която дойде два месеца след публикуването на Бяла книга за ИИ, а от индустрията предупредиха, че цифрите вече са остарели.
Въпреки че писмото, публикувано във вторник, не е първото, то е потенциално най-въздействащото, предвид по-широкия кръг от подписали и основната му екзистенциална загриженост, според Майкъл Озбърн, професор по машинно обучение в Оксфордския университет. „Наистина е забележително, че толкова много хора се подписаха под това писмо. Това наистина показва, че има нарастващо осъзнаване сред работещите в ИИ, че екзистенциалните рискове предизвикват истинска загриженост." каза той.
Озбърн каза още: „Тъй като не разбираме много добре изкуствения интелект, има перспектива той да играе ролята на вид нов конкурентен организъм на планетата, един инвазивен вид, който сме проектирали и който може да играе опустошителна в нашето оцеляване като вид."