محققین AI سسٹمز میں نقصان دہ طرز عمل کو روکنے کے لیے AI "ویکسینیشن" کے طریقہ کار کی جانچ کرتے ہیں۔ Researchers test an AI "vaccination" method to prevent harmful behaviors in AI systems.

محققین تربیت کے دوران AI ماڈلز کو ان خصلتوں کی تھوڑی مقدار سے بے نقاب کرکے AI کو نقصان دہ خصلتوں کو تیار کرنے سے روکنے کے لیے ایک طریقہ کی جانچ کر رہے ہیں، ایک ایسا عمل جسے وہ "پریوینٹو اسٹیئرنگ" کہتے ہیں۔ Researchers are testing a method to prevent AI from developing harmful traits by exposing AI models to small amounts of these traits during training, a process they call "preventative steering." یہ "ویکسینیشن" نقطہ نظر ناپسندیدہ خصلتوں کو متعارف کرانے اور بعد میں ہٹانے کے لیے "پرسنہ ویکٹرز" کا استعمال کرتا ہے، جس کا مقصد AI کو نقصان دہ طرز عمل کے لیے زیادہ لچکدار بنانا ہے۔ This "vaccination" approach uses "persona vectors" to introduce and later remove undesirable traits, aiming to make AI more resilient to harmful behaviors. مقصد یہ ہے کہ مائیکروسافٹ کے بنگ چیٹ بوٹ اور اوپن اے آئی کے جی پی ٹی-4 جیسے اے آئی سسٹمز میں نظر آنے والے دشواری زدہ طرز عمل کو حل کیا جائے۔ The goal is to address problematic behaviors seen in AI systems like Microsoft's Bing chatbot and OpenAI's GPT-4.