Problém pre študentov: Pre ChatGPT vyvinuli nástroj na detekciu AI textov

Spoločnosť OpenAI údajne vyvinula nový nástroj, ktorý dokáže identifikovať texty vygenerované umelou inteligenciou, čo by mohlo zabrániť zneužívaniu tejto technológie študentmi.
„Technológia vodoznaku, ktorú vyvíjame, má potenciál, no prináša aj určité riziká. Je takmer isté, že by sa našli podvodníci, ktorí by dokázali vodoznak obísť. Problémom taktiež je, že by mohla znevýhodniť ľudí, ktorí nepoužívajú anglický jazyk,” uviedol hovorca OpenAI pre TechCrunch.
V nedávnej aktualizácii svojho výskumu OpenAI potvrdila, že vodoznaky textov sú účinným nástrojom na odhalenie obsahu vygenerovaného modelom ChatGPT, najmä pri jednoduchých úpravách. Avšak pri komplexnejších zmenách, ako je preklad do iného jazyka alebo použitie ďalších generatívnych modelov, sa účinnosť technológie výrazne znižuje.
OpenAI confirms it’s looking into text watermarking for ChatGPT that could expose cheating students https://t.co/IQiVXSfwwG
— STEMNASTICS LLC. (@stem_nastics) August 7, 2024
„OpenAI by sa výlučne zamerala na detekciu písma vygenerovaného ChatGPT, nie na text ostatných modelov iných spoločností,” doplnil hovorca.
Doterajšie pokusy o rozpoznávanie textov vytvorených umelou inteligenciou väčšinou skončili neúspechom kvôli nízkej spoľahlivosti. To však neznamená, že by sa v budúcnosti nemohli objaviť nové a účinnejšie metódy.
Zdroje: techcrunch
Najčítanejšie články
Sam Altman: OpenAI vie, ako vytvoriť umelú všeobecnú inteligenciu
10. januára 2025
Nvidia predstavuje osobný AI superpočítač za 3000 dolárov
10. januára 2025
ChatGPT v roku 2025: Čo nové nám Sam Altman sľubuje?
6. januára 2025
Od jednotlivcov po značky: Pika 2.0 formuje budúcnosť video obsahu
23. decembra 2024