لقد تطورت قدرة ChatGPT على إنشاء نص يشبه ما قد تتحدث به في محادثة مع شخص آخر: حيث يمكنه الآن تقليد الأصوات. لكن كن حذرًا، لأن هذه الوظيفة الجديدة، التي تبدو واعدة جدًا في الواقع، تسلط الضوء أيضًا على مشكلة وهي أن الذكاء الاصطناعي يمكن أن يقلد صوتك دون إذنك وأنت تعرف بالفعل ما يمكن استخدامه من أجله.
ترجع هذه الظاهرة إلى الطريقة التي يولد بها نموذج اللغة الكلام. بناءً على عينة، يمكنك إنتاج أصوات جديدة، حتى لو كانت غير مصرح بها. على الرغم من أن OpenAI قد طبقت إجراءات أمنية لمنع ذلك، إلا أن احتمال حدوث ذلك يجلب خطرًا كبيرًا على الطاولة.
تخيل أنك تتلقى مكالمة من صديق أو حتى أحد أفراد العائلة بصوتهم المقلد يطلب منك معلومات سرية أو يخبرك أنهم بحاجة إليك لإجراء تحويل مصرفي. يبدو كل شيء حقيقيًا، خاصة لأنك تعرفت على صوتهم . ولكن ماذا لو لم يكونوا هم؟
من المتوقع أن يتزايد هذا النوع من الجرائم في السنوات المقبلة، ويمكن أن يشكل خطرًا كبيرًا على الأفراد بسبب تعقيد عملية تحديد الاحتيال، والتي من المحتمل أيضًا أن تشهد تحسينات متعددة بمرور الوقت .
وفي النهاية، فإن مقتطفًا من صوت شخص ما من المحادثة يكفي ليستخدمه المجرم لإنشاء محادثات واقعية جدًا وهي في النهاية مزيفة.
وبطبيعة الحال، فإن حقيقة أن GPT-4o هي بالفعل أداة مثالية لهذا النوع من الأفعال أمر مثير للقلق. أما بالنسبة لكيفية حل هذه المشكلة الكبيرة التي ستزداد سوءًا، فمن الممكن أن تكون هناك عدة طرق لوضع حد لها، مثل تنظيم أكبر أو إجراءات أمنية أفضل من قبل الشركات التي تقف وراء هذه الأدوات.
ومع ذلك، يبدو أن "الحل" يكمن فيك مباشرة. مع الأخذ في الاعتبار أنه لن يكون لديك سوى أذنيك لتتمكن من تحديد ما إذا كانت مكالمة وهمية أم لا.
- 4 طرق لاستخدام ChatGPT-4o المجاني بما يتجاوز الحد المسموح به .. منها بديل كوري جنوبي ننصح به
ليست هناك تعليقات:
إرسال تعليق