Google работи върху "червен бутон", за да се предотврати бунт на роботите

  • Въпреки че науката напредва бързо в създаването на системи с изкуствен интелект, Google е в процес на разработване на "големия червен бутон" - механизъм, който може да попречи на вредните действия на обучаемите роботи.

    В новия си доклад, изследователите предупреждават, че в реалния свят е малко вероятно обучаемите роботи винаги да работят оптимално. "Ако един агент работи в реално време под човешки надзор, на човека оператор може да се появи нужда да натисне големия червен бутон, за да предотврати агентът да продължи да прави поредица от вредни действия -за агента или за околната среда ", се казва в документа.

    Екипът на Google DeepMind заедно с други учени е предложил протокол, който ще позволи на човека оператор да прекъсне работата на интелигентната платформа, ако е необходимо и също да гарантира, че роботът не ще се научи да предотврати или да обезсили тези прекъсвания. Очаква се, че по този начин може да се избегнат необратими последици.

    След анализиране на различни алгоритми, учените заключават, че някои от тях, като например Q-обучение, вече могат да работят безопасно, докато други, като Sarsa, могат да бъдат променени, за да се превърнат в непрекъсваеми.

Станете почитател на Класа