OpenAI изследователската лаборатория зад програмата ChatGPT с изкуствен интелект - ИИ, пусна инструмент, предназначен да открива дали текстът е написан от изкуствен интелект, но предупреди, че все още не е напълно надежден.
В публикация в блог OpenAI се свърза с нов инструмент - класификатор, който е обучен да прави разлика между текст, написан от човек, и този, написан от различни ИИ, не само от ChatGPT. Изследователите на лабораторията казаха, че „въпреки че е невъзможно надеждно да се открие всеки текст, написан от ИИ, добрите класификатори могат да уловят знаци, че текстът е написан от ИИ. Инструментът може да бъде полезен в случаите, когато ИИ е бил използван за „академична нечестност" и когато ИИ чатботовете са били позиционирани като хора", казаха те.
Но те признаха, че „класификаторът не е напълно надежден и правилно идентифицира само 26% от английските текстове, написани с ИИ. Той също така неправилно етикетира текстове, написани от хора, като вероятно написани от ИИ инструменти в 9% от случаите".
„Надеждността на нашия класификатор обикновено се подобрява с увеличаване на дължината на въведения текст. В сравнение с нашия предишен класификатор, този нов класификатор е значително по-надежден за текст от по-новите ИИ системи."
Откакто ChatGPT беше отворен за публичен достъп, той предизвика вълна от безпокойство сред образователните институции по целия свят, че може да доведе до измама на изпити или оценки.
Преподавателите в Обединеното кралство са призовани да преразгледат начина, по който са били оценявани техните курсове, докато някои университети забраниха изцяло технологията и се върнаха към изпитите с писалка и хартия, за да спрат студентите да използват ИИ.
Един преподавател в австралийския университет Deakin каза, че около един на всеки пет от оценките, които оценява през летния период в Австралия, е използвал помощ от ИИ.
Редица научни списания също забраниха използването на ChatGPT в текст за статии.
Open AI казаха, че инструментът класификатор има няколко ограничения, включително неговата ненадеждност при текст под 1000 знака, както и погрешното идентифициране на някои текстове, написани от хора, като написани от ИИ. Изследователите също така казаха, че трябва да се използва само за английски текст, тъй като се представя „значително по-лошо на други езици и е ненадежден при проверка на код". „Не трябва да се използва като основен инструмент за вземане на решения, а само като допълнение към други методи за определяне на източника на част от текст", казаха от Open AI.
Сега Open AI призова образователните институции да споделят своя опит с използването на ChatGPT в класните стаи. Докато повечето отговориха на ИИ със забрани, някои прегърнаха вълната на ИИ. Трите основни университета в Южна Австралия миналия месец актуализираха политиките си, за да кажат, че ИИ като ChatGPT е разрешено да се използва, стига да бъде декларирано.