- Въпреки че науката напредва бързо в създаването на системи с изкуствен интелект, Google е в процес на разработване на "големия червен бутон" - механизъм, който може да попречи на вредните действия на обучаемите роботи.
В новия си доклад, изследователите предупреждават, че в реалния свят е малко вероятно обучаемите роботи винаги да работят оптимално. "Ако един агент работи в реално време под човешки надзор, на човека оператор може да се появи нужда да натисне големия червен бутон, за да предотврати агентът да продължи да прави поредица от вредни действия -за агента или за околната среда ", се казва в документа.
Екипът на Google DeepMind заедно с други учени е предложил протокол, който ще позволи на човека оператор да прекъсне работата на интелигентната платформа, ако е необходимо и също да гарантира, че роботът не ще се научи да предотврати или да обезсили тези прекъсвания. Очаква се, че по този начин може да се избегнат необратими последици.
След анализиране на различни алгоритми, учените заключават, че някои от тях, като например Q-обучение, вече могат да работят безопасно, докато други, като Sarsa, могат да бъдат променени, за да се превърнат в непрекъсваеми.
Най-четени статии:
-
От пролетта Русия извършва тестове за изстрелване на далекобойни дронове…
-
"ОАЕ приветстват одобрението на Европейския парламент за решението на Европейската…
-
Русия открито игнорира призивите на Доналд Тръмп за прекратяване на…
-
Мисията на ООН в Либия призова всички страни от конфликта…
-
Русия ступва войски до още една държава, а в Европа…
-
Германия разполага с всичко необходимо, за да се сдобие с…
-
Германският канцлер Фридрих Мерц заяви днес, че дипломатическите средства за…
-
Конфликтът между Израел и Иран е само привидно приключил и…
-
Украински партизани съобщиха, че са успели да се сдобият с…
-
Посланиците на ЕС не успяха да постигнат съгласие по 18-ия…
от нета
-
Дневен хороскоп ОВЕН (21 март - 20 април)…
-
Акрисата Памела Андерсън смята, че е намерила „приятел за цял…
-
Ако сте гледали петте филма от поредицата на Disney "Карибски…
-
За всеки производител на автомобили днес е важно не само…
-
Звездата от OnlyFans Лили Филипс обяви, че е подобрила световния…
-
Лятото дойде, а и с него голямото пътуване по плажовете.…
-
Apxeoлoзи oт Kитaй ca нaпpaвили oтĸpитиe, ĸoeтo мoжe дa пpoмeни…
-
Британски учени от университета в Лестър са разработили прост, но…
-
Пловдивчанин изрази сериозна загриженост относно проблема с изоставените стари автомобили,…
-
Снимка на убита змия, публикувана в социалните мрежи, разпали емоции…
