گوگل کے اے آئی نے ایک آسٹریلوی ڈیزائنر پر 1971 کے قتل کا جھوٹا الزام لگایا، ثبوت من گھڑت بنائے اور نقصان پہنچایا۔ Google's AI falsely accused an Australian designer of a 1971 murder, fabricating evidence and causing harm.

گوگل کے اے آئی موڈ نے ایک بے گناہ آسٹریلوی گرافک ڈیزائنر کی گمشدہ بچی شیرل گریمر کے قاتل کے طور پر غلط شناخت کی، یہ دعوی کرتے ہوئے کہ وہ "مرکری" کے نام سے جانا جاتا تھا اور اس نے 1971 میں اعتراف کیا تھا۔ Google’s AI Mode falsely identified an innocent Australian graphic designer as the murderer of missing toddler Cheryl Grimmer, claiming he was known as "Mercury" and had confessed in 1971. یہ غلطی اے آئی کی طرف سے 1970 کی دہائی کے مقدمے کی دستاویز کو دوبارہ ترتیب دینے اور ایک عکاسی بنانے میں ڈیزائنر کے کردار کی غلط تشریح، جعلی ذرائع اور پارلیمانی نام کے دعوے سمیت تفصیلات کو من گھڑت بنانے سے پیدا ہوئی۔ The error stemmed from the AI misinterpreting the designer’s role in redacting a 1970s case document and creating an illustration, fabricating details including false sources and a claim of parliamentary naming. اے آئی نے ایک تفصیلی لیکن مکمل طور پر افسانوی داستان تیار کی، جس سے پریشانی پیدا ہوئی اور قانونی خدشات بڑھے۔ The AI generated a detailed but entirely fictional narrative, causing distress and raising legal concerns. ماہرین کا کہنا ہے کہ مصنوعی ذہانت کے نظام اکثر سیاق و سباق کے بغیر ناموں کو جوڑ کر ہالوکینیٹ کرتے ہیں۔ Experts say AI systems often hallucinate by linking names without context. گوگل نے غلطی تسلیم کی، مواد کو ہٹا دیا، اور کہا کہ وہ اس واقعے کو اپنے سسٹم کو بہتر بنانے کے لیے استعمال کر رہا ہے، لیکن اس نے کوئی جوابدہی کے اقدامات پیش نہیں کیے۔ Google acknowledged the mistake, removed the content, and said it’s using the incident to improve its systems, but offered no accountability measures. اسی طرح کی AI غلطیوں نے صحافیوں پر جھوٹا الزام لگایا ہے اور ڈیٹا کو غلط انداز میں پیش کیا ہے، جس سے حساس معلومات کے لیے خودکار خلاصوں پر انحصار کرنے کے بڑھتے ہوئے خطرات کو اجاگر کیا گیا ہے۔ Similar AI errors have falsely accused journalists and misrepresented data, highlighting growing risks in relying on automated summaries for sensitive information.