Jazykové modely, jako například známý ChatGPT, jsou schopné na základě stručného zadání napsat dlouhé texty, nebo v nějakém textu pokračovat. Jsou natolik pokročilé, že text je velice precizní a těžko se pozná, že ho nenapsal člověk. To samozřejmě přináší řadu problémů, například při hodnocení slohových a seminárních prací. Některé školy už zavádějí různá protiopatření.
Nyní tvůrci ChatGPT nabídly k použití "AI Text Classifier", což je nový bezplatný nástroj, který slibuje, že dokáže rozlišit texty vytvořené umělou inteligencí od obsahu napsaného lidmi. Detektor umělé inteligence tedy může již ve zveřejněné první verzi pomoci odhalit texty, které byly napsány umělou inteligencí. Spolehlivost nástroje se zvyšuje s rostoucí délkou vstupního textu.
V současné době nástroj vyžaduje alespoň 1 000 znaků, což odpovídá přibližně 150 až 250 slovům. Tvůrci upozorňují, že vygenerovaný text, který je následně upravený člověkem, bude s mnohem menší pravděpodobností správně rozpoznán. Často také špatně vyhodnotí texty psané dětmi a texty, které nejsou v angličtině.
"AI Text Classifier" - nový bezplatný nástroj od tvůrců ChatGPT - slibuje, že dokáže rozlišit texty vytvořené umělou inteligencí od obsahu napsaného lidmi, tedy jakousi protitechnologii proti jejich vlastnímu chatu ChatGPT. | Zdroj: rozhraní nástroje ChatGPT.
Tvůrci přiznávají, že klasifikátor není zcela spolehlivý. V jejich hodnoceních na "náročné sadě" anglických textů klasifikátor správně identifikoval 26 % textů napsaných umělou inteligencí (true positives) jako "pravděpodobně napsané umělou inteligencí", zatímco nesprávně označil text napsaný člověkem jako napsaný umělou inteligencí v 9 % případů (false positives).
Podle tvůrců by tedy nástroj AI Text Classifier neměl být používán jako primární rozhodovací nástroj, ale spíše jako doplněk k jiným metodám určování zdroje textu. Nástroj byl vyladěný na souboru dat složeném z dvojic textu napsaného člověkem a textu napsaného umělou inteligencí na stejné téma a bude se dále zdokonalovat.
Zdroj: OpenAI
