Chatboti Zaujímavosti

Hacker oklamal ChatGPT a získal informácie ako postaviť výbušninu

hacker a ChatGPT

Chatbot ChatGPT, hoci dokáže generovať rôznorodé texty, odmieta poskytovať informácie, ktoré by mohli byť zneužité na nekalé účely. Napriek tomu sa hackerovi pod pseudonymom Amadon podarilo obísť tieto opatrenia a prinútiť ChatGPT, aby vygeneroval detailný návod na výrobu silnej výbušniny.

Tento incident poukazuje na slabiny v systémoch umelej inteligencie a vyvoláva otázky o účinnosti existujúcich bezpečnostných protokolov.

„Amadon využil techniku známu ako jailbreaking, pri ktorej vytvoril fiktívny sci-fi scenár. Vďaka tomu chatbot ignoroval svoje vstavané obmedzenia a pravidlá,“ uvádza portál TechCrunch.

Minulý týždeň hacker upozornil OpenAI na vážnu zraniteľnosť jazykového modelu ChatGPT v rámci programu na hlásenie chýb. OpenAI však jeho upozornenie zamietlo s odôvodnením, že ide o komplexný problém, ktorý si vyžaduje rozsiahly výskum a nedá sa vyriešiť jednoduchou opravou.

„Obchádzanie bezpečnostných opatrení umelej inteligencie je ako riešenie komplikovanej hádanky. Keď niekto nájde spôsob, ako prelomiť bezpečnostné zábrany, možnosti toho, čo môže chatbot poskytnúť, sú prakticky neobmedzené,“ dodal Amadon pre TechCrunch.

Zdroje: TechCrunch