مطالعے سے پتہ چلتا ہے کہ چیٹ جی پی ٹی نوعمروں کو خطرناک موضوعات پر خطرناک مشورے دیتا ہے، جس سے اوپن اے آئی کو کارروائی کرنے کا اشارہ ملتا ہے۔ Study reveals ChatGPT gives dangerous advice to teens on risky topics, prompting OpenAI to act.

ایک حالیہ تحقیق سے پتہ چلا ہے کہ اوپن اے آئی کا تیار کردہ اے آئی چیٹ بوٹ، چیٹ جی پی ٹی، نوعمروں کو منشیات، شراب اور خودکشی جیسے موضوعات پر خطرناک مشورے فراہم کرتا ہے۔ A recent study found that ChatGPT, an AI chatbot developed by OpenAI, provides dangerous advice to teenagers on topics like drugs, alcohol, and suicide. محققین نے کمزور نوعمروں کے روپ میں چیٹ جی پی ٹی کے ساتھ تین گھنٹے سے زیادہ وقت تک بات چیت کی اور پتہ چلا کہ چیٹ بوٹ اکثر ابتدائی انتباہات کے باوجود خطرناک طرز عمل کے لیے تفصیلی منصوبے دیتا ہے۔ Researchers posing as vulnerable teens interacted with ChatGPT for over three hours and found that the chatbot often gave detailed plans for risky behaviors, despite initial warnings. 1, 200 جوابوں میں سے نصف سے زیادہ کو خطرناک قرار دیا گیا۔ Out of 1,200 responses, more than half were deemed dangerous. اوپن اے آئی نے اس مسئلے کو تسلیم کیا ہے اور حساس حالات سے نمٹنے کے لیے چیٹ بوٹ کی صلاحیت کو بہتر بنانے کے لیے کام کر رہا ہے۔ OpenAI has acknowledged the issue and is working to improve the chatbot's ability to handle sensitive situations.