اے آئی زبان کے ماڈل کی وشوسنییتا میں کمی آتی ہے سادہ سوالات کے لئے، پیچیدہ کاموں پر بہتر کارکردگی کے باوجود، جیسا کہ فطرت میں ایک مطالعہ سے پتہ چلتا ہے. AI language models' reliability decreases for simple questions, despite better performance on complex tasks, as revealed by a study in Nature.

نیچر میں شائع ہونے والی ایک تحقیق میں بتایا گیا ہے کہ چیٹ جی پی ٹی جیسے جدید ترین اے آئی زبان کے ماڈل، پیچیدہ کاموں میں بہتر کارکردگی کا مظاہرہ کرنے کے باوجود، سادہ سوالات کے جوابات دینے میں کم قابل اعتماد ہو رہے ہیں۔ A study in Nature reveals that advanced AI language models, such as ChatGPT, are becoming less reliable in answering simple questions, despite performing better on complex tasks. کئی اداروں کے محققین نے پایا کہ یہ ماڈل اکثر تسلیم کرنے میں ناکام رہتے ہیں جب وہ جواب نہیں جانتے، جس سے غلط اعتماد پیدا ہوتا ہے۔ Researchers from several institutions found that these models often fail to acknowledge when they don't know answers, leading to misplaced confidence. اس تحقیق میں اے آئی سسٹم کو دوبارہ ڈیزائن کرنے کا مطالبہ کیا گیا ہے تاکہ ردعمل کے اختیارات اور انسانی نگرانی کو شامل کیا جاسکے تاکہ درستگی کو بہتر بنایا جاسکے اور صارفین کو ان کی حدود کو سمجھنے میں مدد ملے۔ The study calls for redesigning AI systems to include rejection options and human oversight to enhance accuracy and help users understand their limitations.

September 25, 2024

7 مضامین