- Въпреки че науката напредва бързо в създаването на системи с изкуствен интелект, Google е в процес на разработване на "големия червен бутон" - механизъм, който може да попречи на вредните действия на обучаемите роботи.
В новия си доклад, изследователите предупреждават, че в реалния свят е малко вероятно обучаемите роботи винаги да работят оптимално. "Ако един агент работи в реално време под човешки надзор, на човека оператор може да се появи нужда да натисне големия червен бутон, за да предотврати агентът да продължи да прави поредица от вредни действия -за агента или за околната среда ", се казва в документа.
Екипът на Google DeepMind заедно с други учени е предложил протокол, който ще позволи на човека оператор да прекъсне работата на интелигентната платформа, ако е необходимо и също да гарантира, че роботът не ще се научи да предотврати или да обезсили тези прекъсвания. Очаква се, че по този начин може да се избегнат необратими последици.
След анализиране на различни алгоритми, учените заключават, че някои от тях, като например Q-обучение, вече могат да работят безопасно, докато други, като Sarsa, могат да бъдат променени, за да се превърнат в непрекъсваеми.
Най-четени статии:
-
Американският президент Доналд Тръмп за първи път след връщането си…
-
Държавният департамент на САЩ осъди ескалацията на руските въздушни атаки…
-
Войниците от 427-и отделен полк за безпилотни системи "Рарог" отправиха…
-
Държавният секретар на САЩ Марко Рубио изрази разочарование след срещата…
-
В отговор на думите на германския канцлер Фридрих Мерц, че…
-
Президентът на САЩ Доналд Тръмп заяви, че окончателното решение за…
-
Съюзниците от НАТО може да закупят не само отбранителни, но…
-
Бразилия ще въведе огледални мита върху американски стоки от 1…
-
Американският държавен секретар Марко Рубио днес ще се срещне с…
-
Президентът на САЩ Доналд Тръмп изпрати писмо до канадския премиер…
от нета
-
Дневен хороскоп ОВЕН (21 март - 20 април) ♈Днес…
-
Този път не на голям екран, а в социалните мрежи,…
-
Експертите смятат, че водката се явява ефективен начин да се…
-
Властите на Бахамите откриха безжизненото тяло на 20-годишната Пейдж Бел,…
-
Парижки съд оправда журналистката Наташа Рей, която твърди, че съпругата…
-
В индийския щат Мадхя Прадеш мечка е нападнала и разкъсала…
-
Няма такова нещо като твърде малко или твърде много сексуални…
-
Гинекологът Олга Каплина заяви, че жените могат да правят секс…
-
Завистта е сложна и често прикрита емоция. Тя рядко се…
-
Светлана Василева окончателно премахна спомените от бившия си съпруг от…
