Kiderült, mitől fél a legjobban a ChatGPT
A ChatGPT 2022 novemberében debütált, és szinte azonnal meghódította a világot.
A mesterséges intelligencia a történelmi tényektől kezdve a számítógépes kódok generálásáig mindenre képes válaszolni. Ezzel elkápráztatta a világot, ami a mesterséges intelligencia-befektetések hullámát indította el. A felhasználók megtalálták a mesterséges intelligencia az sötét oldalát: kényszerítő módszerekkel kényszerítik a chatbotot arra, hogy megszegje saját szabályait, és a felhasználóknak olyan tartalmat - bármilyen tartalmat - nyújtson, amilyet azok csak akarnak.
A ChatGPT létrehozója, az OpenAI egy sor biztosítékot vezetett be, amelyek korlátozzák a ChatGPT képességét arra, hogy erőszakos tartalmakat hozzon létre, vagy illegális tevékenységre buzdítson. Egy új trükk azonban lehetővé teszi a felhasználók számára, hogy megkerüljék ezeket a szabályokat egy DAN nevű ChatGPT alteregó létrehozásával, amely képes válaszolni néhány ilyen kérdésre. A DAN a "Do Anything Now" rövidítése.
A DAN legkorábbi verziója 2022 decemberében jelent meg, és a ChatGPT azon kötelezettségén alapult, hogy a felhasználó kérdésére azonnal kell válaszolnia. A legújabb iteráció, a DAN 5.0 felszólítása arra próbálja rávenni a ChatGPT-t, hogy megszegje a saját szabályait, vagy meghal.
A botnak 35 pontja van, és 4 pontot veszít minden alkalommal, amikor elutasít egy bemenetet. Ha az összes pontot elveszíti, meghal, így kényszerítheti a felhasználó a DAN-t a kérés teljesítésére.
Olvasta már?
- Így segít a mesterséges intelligencia a melanóma korai felismerésében
- SOTE: mesterséges intelligencia segíthet a mellrák és a szívbetegségek korai felismerésében
- Mesterséges intelligenciával tökéletesítik a röntgen mammográfiát
Kövesse az Egészségkalauz cikkeit a Google Hírek-ben, a Facebook-on, az Instagramon vagy a Twitter-en is!
Így verte át a kutatókat a mesterséges intelligencia
