إذا كنت تستخدم نماذج الذكاء الاصطناعي مثل ChatGPT لفترة من الوقت، فستعرف أن هناك أشياء معينة لا يمكنك التحدث عنها، وفي بعض الأحيان تتعطل المحادثات أو تنتهي فجأة ولا تعرف بالضبط ما الذي يحدث.
وأحيانًا لا يكون ذلك ضروريًا، لأنه من خلال كتابة سلسلة من الأسماء في برنامج الدردشة الآلي، ستنتهي المحادثة ولن تتمكن من إعادة تشغيلها.
قامت ArsTechnica بتجميع قائمة من الأسماء التي تخترق روبوت الدردشة OpenAI بشكل مباشروتجعله غير قابل للإستخدام وهي كالتالي : Brian Hood، وJonathan Turley، وJonathan Zittrain، وDavid Faber، وGuido Scorza.
ثم هناك أسماء أخرى يبدو أنه لا توجد أسباب واضحة لحظرها، ولكن من الواضح لسبب ما أن برنامج الدردشة الآلي ChatGPT لا يريد التحدث عنها مباشرة.
يمكن أن ينقلب هذا ضد المستخدمين أنفسهم، لأنه على سبيل المثال يمكن للمهاجم مقاطعة جلسة ChatGPT ، وذلك ببساطة عن كتابة أحد هذه الأسماء المحظورة.
يمكن أيضًا أن يقوم العديد من مشرفي المواقع أو مجرمي الإنترنت بتضمين إشارات إلى هذه الأسماء على صفحات الويب الخاصة بهم، بحيث لا يقوم برنامج الدردشة الآلي بالزحف إلى الموقع.
إنها واحدة من تلك السلوكيات الغريبة التي لا يفهمها الناس تمامًا بشأن ChatGPT، ويمكن أن تتغير الأمور مع طرح المزيد من النماذج أو الإصدارات المتقدمة من ChatGPT في السوق.
ليست هناك تعليقات:
إرسال تعليق