Психотерапевтът Нина Джейн Пател влезе в Horizon Venues във Facebook за по-малко от минута, когато аватарът й беше нападнат от група мъже. Нападателите „на практика групово изнасилваха" нейния герой, щраквайки снимки за спомен. Пател замръзна от шок, преди отчаяно да се опита да освободи виртуалното си аз – оформено така, че да прилича на нейните руса коса, лунички и бизнес небрежно облекло в реалния живот.

Метавселената – неясно дефинираният термин за следващото поколение технологии за потапяне във виртуална реалност – все още е в начален стадий. Но дори и с груба графика и понякога бъглив софтуер, изживяване като това може да предизвика дълбоко вкоренена реакция на паника. Ако нещо е възможно, някой ще го направи. Хората могат да бъдат креативни в начина, по който използват технологията, както и по който злоупотребяват с нея.

Появяващите се доклади изобразяват метавселена, по-близка до беззаконните чат стаи, които доминираха в ранния интернет, отколкото до модерираните и алгоритмично подрязани дигитални градини от днес. Скорошно разследване на Channel 4 Dispatches документира метавселени, изобилстващи от реч на омразата, сексуален тормоз, педофилия и аватари, симулиращи секс в пространства, достъпни за децата. Проучване от 2018 г. на агенцията за изследване на виртуална реалност The Extended Mind установи, че 36% от мъжете и 49% от жените, които редовно използват VR технологии, съобщават, че са преживели сексуален тормоз.

Facebook, който промени името си на Meta за да сигнализира за инвестицията си в това пространство, публикува решението си да въведе функция за „лична граница" в своите метавселенски продукти малко след като опитът на Пател попадна в заглавията. Това е функция за виртуално социално разстояние, силово поле, което героите могат да задействат, за да държат другите на една ръка разстояние.

„Искаме всеки, който използва нашите продукти, да има добро изживяване и лесно да намира инструментите, които могат да помогнат в ситуации като тези, за да можем да разследваме и да предприемем действия", каза Бил Стилуел, продуктов мениджър, VR интегритет в Meta.

В метавселената се казва, че един ден ще взаимодействаме с интернет предимно чрез слушалки за виртуална реалност, където рязко изобразените и убедително 3D среди ще размият границите на физическия и виртуалния свят. Виртуалните концерти и модни ревюта вече привлякоха стада от цифрови посетители, а марки и знаменитости изкупуват парцели земя в метавселената, като единичните продажби достигат милиони долари, което предизвиква притеснения от появата на балон с недвижими имоти в метавселената.

Технологичните компании работят върху това един ден тези светове да се чувстват възможно най-реални. Facebook обяви миналия ноември, че разработва вибрираща ръкавица, която да подпомогне имитирането на усещането за боравене с предмети; Испанската стартираща компания OWO създаде яке със сензори, което позволява на потребителите да усещат прегръдки и изстрели в играта; японската технологична компания H2L работи върху симулирането на болка в метавселената, включително усещането за птица, която кълве ръката ви. Инвестиционната банка на CitiGroup прогнозира, че икономиката на метавселенната ще нарасне до 13 трилиона долара до 2030 г.

С този смел нов свят идват възникващи етични, правни и философски въпроси. Как трябва да се развива регулаторната среда, за да се справи с метавселената? Могат ли платформите за метавселена да разчитат на протоколите за безопасност на своите предшественици или на изцяло нови подходи? И дали виртуалните наказания ще бъдат достатъчни, за да сдържат лошите актьори?

Преминаването от платформа за социални медии като Facebook в метавселената означава преминаване от модериране на съдържание към модериране на поведение. Правенето на последното „в какъвто и да е значим мащаб е практически невъзможно", признава главният технологичен директор на Facebook Андрю Босуърт в изтекла вътрешна бележка. Бележката на Босуърт предполага, че лошите актьори, изгонени от метавселената, могат да бъдат блокирани във всички платформи, собственост на Facebook, дори ако използват множество виртуални аватари. Но за да бъде наистина ефективен, този подход ще разчита на акаунти, изискващи настройване на ID.

Facebook каза миналата година, че проучва как да приложи модерирането с ИИ към метавселената, но все още не е изградила нищо. ИИ все още не е достатъчно умен, за да прихваща аудио потоци в реално време и да определи с точност дали някой е обиден. И макар че може да има някаква възможност за човешка модерация, наблюдението на всички онлайн пространства в реално време би било невъзможно ресурсоемко.

Въпреки това, има хора, които се надяват, че метавселената може да предложи възможност да се премине отвъд реактивния модел на прилагане, който доминира в настоящите онлайн социални пространства.

Никой не иска да живее във виртуална полицейска държава и има нарастващото усещане, че прилагането трябва да бъде балансирано чрез насърчаване на просоциално поведение. Някои предложения, представени от индустриалната организация XR Association, която включва Google, Microsoft, Oculus, Vive и Sony Interactive Entertainment, включват възнаграждаване на алтруизъм и съпричастност и празнуване на положителното колективно поведение.

Въпросът е – след като не успяхме да изградим морален свят в реалността, ще може ли да го създадем във виртуалната реалност на Метавселената?