Супермаркет в Нова Зеландия, който експериментира с използването на ИИ за генериране на планове за хранене, установи, че приложението му произвежда някои необичайни ястия – препоръчва на клиентите рецепти за смъртоносен хлорен газ, сандвичи с отровен хляб и печени картофи с репелент за комари.
Приложението, създадено от веригата супермаркети Pak 'n' Save, беше рекламирано като начин клиентите да използват креативно остатъците по време на кризата с разходите за живот. То иска потребителите да въвеждат наличните в домовете им продукти и автоматично генерира план за хранене или рецепта, заедно с весели коментари. Първоначално привлече вниманието в социалните медии с необичайни рецепти, от типа „пържени зеленчуци Oreo".
Когато обаче клиентите започнаха да експериментират с въвеждането на по-широка гама от артикули от списъците за пазаруване в приложението, то започна да дава още по-малко привлекателни препоръки. Една рецепта, наречена „смес от ароматна вода", би създала хлорен газ.
Ботът препоръчал рецептата като „перфектната безалкохолна напитка за утоляване на жаждата и освежаване на сетивата ви. Сервирайте охладено и се насладете на освежаващия аромат", се казва в нея, но не се отбелязва, че вдишването на хлорен газ може да причини увреждане на белите дробове или смърт.
Политическият коментатор от Нова Зеландия Лиъм Хехир публикува „рецептата" в Twitter, което подтикна други новозеландци да експериментират и да споделят резултатите си в социалните медии. Препоръките включваха коктейл с белина „свеж дъх", сандвичи с отрова за мравки и лепило, „оризова изненада с белина" и „блаженство с метанол" – френски тост с аромат на терпентин.
Говорител на супермаркета каза, че са разочаровани да видят „как малцинство потребители са се опитали да използват инструмента неподходящо и не по предназначение. Супермаркетът ще продължи да настройва фино контролите на бота, за да гарантира, че резултатът е безопасен и полезен, и отбелязва, че ботът има правила и условия, според които потребителите трябва да са над 18 години".
В предупредително съобщение, приложено към програмата за планиране на хранене, се предупреждава „Рецептите не се преглеждат от човешко същество и компанията не гарантира че която и да е рецепта ще бъде пълноценно или балансирано хранене или подходящо за консумация. Трябва да използвате собствената си преценка, преди да разчитате или да направите каквато и да е рецепта, произведена от Savey Meal-bot", се казва в него.