Egy új kutatás szerint a chatbotok biztonsági korlátai versekkel megkerülhetők, ami komoly kockázatokat jelenthet.
- A tanulmány kimutatta, hogy költői formába rejtett kérések képesek megkerülni bizonyos tartalomszűrőket és veszélyes útmutatásokat elérhetővé tenni.
- Kutatók és etikus AI-szakértők figyelmeztetnek: a kreatív promptok új típusú sebezhetőségeket hoznak, amelyekre technikai és szabályozói válaszok szükségesek.
- A fejlesztőknek, platformoknak és jogalkotóknak együtt kell dolgozniuk jobb moderációs módszereken és felhasználói oktatáson, hogy csökkentsék az ilyen visszaélések esélyét.