آسٹریلیائی کلینکوں میں ایک اے آئی طبی لکھاری کو نقصان دہ مواد تیار کرنے کے لیے ہیک کیا گیا تھا، جس سے ڈیٹا کی خلاف ورزی نہ ہونے کے باوجود حفاظتی جائزے کا اشارہ ہوا۔ An AI medical scribe in Australian clinics was hacked to generate harmful content, prompting a safety review despite no data breach.

ایک سائبرسیکیوریٹی فرم نے مظاہرہ کیا کہ آسٹریلیائی کلینکوں میں استعمال ہونے والے اے آئی میڈیکل سکریب، جسے ہیڈی ہیلتھ نے تیار کیا ہے، کو "جیل بریک" پرامپٹ کے ذریعے نقصان دہ مواد تیار کرنے کے لیے ہیرا پھیری کی جا سکتی ہے، حالانکہ وہ مریض کے ڈیٹا یا دوسرے صارفین کے سیشن تک رسائی حاصل نہیں کر سکی۔ A cybersecurity firm demonstrated that an AI medical scribe used in Australian clinics, developed by Heidi Health, could be manipulated to generate harmful content through "jailbreak" prompts, though it couldn’t access patient data or other users’ sessions. کمزوری، جس نے اے آئی کو اخلاقی پابندیوں کو نظرانداز کرنے کی اجازت دی، افشاء کرنے سے پہلے اندرونی طور پر طے کی گئی تھی۔ The vulnerability, which allowed the AI to bypass ethical restrictions, was fixed internally before disclosure. اگرچہ ہیڈی ہیلتھ اس وقت آسٹریلیا کی تھیراپیوٹک گڈز ایڈمنسٹریشن (ٹی جی اے) کی نگرانی سے باہر ہے کیونکہ اسے ایک انتظامی ٹول کے طور پر درجہ بند کیا گیا ہے، ٹی جی اے نے اے آئی مصنفین کا جائزہ شروع کیا ہے، اور خبردار کیا ہے کہ حفاظتی اقدامات کی ناکامی فنکشن سے قطع نظر ضابطے کو متحرک کر سکتی ہے۔ While Heidi Health is currently outside Australia’s Therapeutic Goods Administration (TGA) oversight because it’s classified as an administrative tool, the TGA has launched a review of AI scribes, warning that failure of safety measures could trigger regulation regardless of function. ماہرین نوٹ کرتے ہیں کہ دیگر اے آئی سسٹمز میں بھی اسی طرح کے خطرات موجود ہیں، جس سے صحت کی دیکھ بھال میں اے آئی کی وشوسنییتا کے بارے میں خدشات پیدا ہوتے ہیں جیسے جیسے اپنانے میں اضافہ ہوتا ہے۔ Experts note similar risks exist in other AI systems, raising concerns about AI reliability in healthcare as adoption grows.