Chatboti Novinky Umelá inteligencia

Problém pre študentov: Pre ChatGPT vyvinuli nástroj na detekciu AI textov

Muž PC a ChatGPT

Spoločnosť OpenAI údajne vyvinula nový nástroj, ktorý dokáže identifikovať texty vygenerované umelou inteligenciou, čo by mohlo zabrániť zneužívaniu tejto technológie študentmi.

„Technológia vodoznaku, ktorú vyvíjame, má potenciál, no prináša aj určité riziká. Je takmer isté, že by sa našli podvodníci, ktorí by dokázali vodoznak obísť. Problémom taktiež je, že by mohla znevýhodniť ľudí, ktorí nepoužívajú anglický jazyk,” uviedol hovorca OpenAI pre TechCrunch.

V nedávnej aktualizácii svojho výskumu OpenAI potvrdila, že vodoznaky textov sú účinným nástrojom na odhalenie obsahu vygenerovaného modelom ChatGPT, najmä pri jednoduchých úpravách. Avšak pri komplexnejších zmenách, ako je preklad do iného jazyka alebo použitie ďalších generatívnych modelov, sa účinnosť technológie výrazne znižuje.

„OpenAI by sa výlučne zamerala na detekciu písma vygenerovaného ChatGPT, nie na text ostatných modelov iných spoločností,” doplnil hovorca.

Doterajšie pokusy o rozpoznávanie textov vytvorených umelou inteligenciou väčšinou skončili neúspechom kvôli nízkej spoľahlivosti. To však neznamená, že by sa v budúcnosti nemohli objaviť nové a účinnejšie metódy.

Zdroje: techcrunch