Учени от Университета на Слънчевия бряг, Австралия, твърдят, че високоразвитият изкуствен интелект е способен да унищожи човечеството или да му причини катастрофални щети, дори без първоначално зловредно намерение, съобщава The Conversation.
Експертите вярват, че изкуственият интелект ще се развие значително през следващите десетилетия. Според тях следващата стъпка е силен изкуствен интелект (IAF), известен също като общ изкуствен интелект (IAG), който ще има интелектуални способности, далеч по-добри от човешките.
Това ще са машини, които ще могат успешно да изпълняват всяка интелектуална задача на кое да е човешко същество. Експерти казват, че IAF може да промени човешкия живот към по-добро, но без стриктен контрол над развитието му се увеличава и рискът от глобални бедствия.
За да постигне програмираните си цели, този вид изкуствен интелект (ИИ) може да застраши здравето и благосъстоянието на човек или дори да реши да го унищожи.
За да илюстрират своята гледна точка, специалистите решиха да идентифицират и анализират потенциалните рискове от замяната на Дядо Коледа с изкуствена IAF система, наричайки я SantaNet, чиято цел е да доставя подаръци на всички деца на планетата, които са се държали добре.
Първите рискове възникват, когато SantaNet прави списъка с добрите и непослушни деца. С това ще се справи масивна система за тайно наблюдение, която проследява поведението на децата през цялата година. Системата за решения на SantaNet, базирана на разбирането му за „добро", може да доведе до дискриминация, масово неравенство и нарушения на правата на човека.
Според учените хипотетичният SantaNet може също да намали натоварването си, като мотивира децата да се държат лошо. Колкото повече деца попаднат в непослушния списък, толкова по-постижима ще бъде целта на SantaNet, тъй като системата ще спести ресурси за постигане на най-добро представяне.
Освен това, с около 2 милиарда деца на възраст под 14 години, живеещи в света, SantaNet може да превърне цялата Земя в гигантска фабрика за играчки.
По същия начин, за да достави бучки въглища на децата от непослушния списък, изкуственият интелект може да извърши масивен добив на въглища, причинявайки в процеса големи екологични щети.
Сред другите проблеми специалистите посочват процеса на раздаване на подаръците с помощта на дронове. Според тях този механизъм може да доведе до открита конфронтация, при която страните да попречат на безпилотните самолети да летят свободно в тяхното въздушно пространство. Освен това злонамерени групи могат да проникнат в системите на SantaNet и да ги използват за тайно наблюдение или за започване на мащабни терористични атаки.
Предизвикателство ще е взаимодействието на SantaNet с други системи за изкуствен интелект, насочени към решаване на проблемите с изменението на климата, продоволствената сигурност и деградацията на океана. Комуникацията между системите с ИИ може да доведе или до конфликт между тях или до сътрудничество, насочено към намаляване на населението на Земята. Не е ясно кое от двете ще е по-страшно за хората.
Според специалисти този пример за система SantaNet с ИИ ясно показва рисковете от силен неконтролиран изкуствен интелект в бъдещи реални проекти. Проектирани с добри намерения, тези системи могат да създадат огромни проблеми, просто като се стремят да оптимизират начина, по който постигат целите си.
Учените подчертават, че е необходимо преди всичко да се приложи подходящ и строг контрол преди пристигането на IAF. В този смисъл те съветват включването на интегрирани регулатори в IAF, като морални принципи и правила за вземане на решения.
Не че това не е казвано досега, но бурното развитие на ИИ категорично не е подложено на стриктна, широкообхватна и общоприета регулация, което оставя висяща сериозната заплаха за бъдещето на човека и човечеството!
