ایلن مسک کی کمپنی ایکس اے.آئی کے آرٹیفیشل انٹیلی جنس چیٹ بوٹ ‘گروک’ کے ذریعے خواتین اور نابالغ بچوں کی قابل اعتراض اور فحش تصاویر بنانے کا معاملہ اب سنگین صورت اختیار کر گیا ہے۔ بھارت حکومت نے اس پر فوری اور سخت کارروائی کا اعلان کیا ہے۔
شیو سینا کی راجیہ سبھا رکن پرینکا چتُرویدی کی شکایت کے فوری بعد، مرکزی الیکٹرانکس و آئی ٹی وزارت نے سوشل میڈیا پلیٹ فارم ‘ایکس’ (سابقہ ٹویٹر) کو نوٹس جاری کیا۔ وزارت نے ایکس کو ہدایت دی کہ تین دن کے اندر اس معاملے پر کی گئی کارروائی کی رپورٹ پیش کرے۔
رپورٹس کے مطابق، دسمبر 2025 کے آخر میں گروک اے.آئی میں ایک نیا فیچر متعارف کرایا گیا، جس سے صارفین تصاویر میں ترمیم کر سکتے تھے۔ تاہم، یہ فیچر جلد ہی غلط استعمال کا شکار ہو گیا۔ متعدد صارفین نے شکایت کی کہ اس ٹول کا استعمال خواتین اور بچوں کی تصاویر کو ‘برہنہ’ یا فحش انداز میں پیش کرنے کے لیے کیا جا رہا ہے۔
رائٹرز کی رپورٹ کے مطابق، پلیٹ فارم پر 20 سے زائد ایسے کیسز سامنے آئے، جہاں اس اے.آئی ٹول کے ذریعے خواتین کی جعلی فحش تصاویر بنائی گئی ہیں۔ فرانس سمیت کئی ممالک میں تحقیقات شروع ہو چکی ہیں اور اسے صنفی تشدد اور جنسی ہراسانی کے زمرے میں رکھا گیا ہے۔
پرینکا چتُرودھی نے ایکس پلیٹ فارم پر لکھا “میں نے فوری طور پر آئی ٹی وزیر کا دھیان مبذول کرایا اور فوری مداخلت کی درخواست کی ہے۔ گروک جیسے اے.آئی فیچرز کے لیے حفاظتی اقدامات ضروری ہیں تاکہ خواتین کی عزت کا کوئی نقصان نہ ہو۔ بڑی ٹیک کمپنیوں کو اس کی ذمہ داری اٹھانی ہوگی۔”
انہوں نے مزید کہا کہ معاشرے میں مردانہ سوچ میں اصلاح کے بغیر ایسے ‘بیمار اور منحرف’ رویے بڑھتے رہیں گے۔
پرینکا کی شکایت کے بعد، آئی ٹی وزارت نے ایکس کی بھارتی شاخ کو نوٹس بھیجا اور واضح کیا کہ پلیٹ فارم گروک کے غلط استعمال کو روکنے میں ناکام رہا ہے۔ وزارت نے تین دن کے اندر کارروائی کی رپورٹ پیش کرنے کا حکم دیا۔
اس کارروائی کے بعد پرینکا چتُرویدی نے ٹویٹ کر کے شکریہ ادا کیا اور کہا کہ یہ قدم خواتین کی حفاظت اور عزت کی حفاظت کے لیے اہم ہے۔
بین الاقوامی دباؤ کے درمیان، گروک نے حفاظتی معیار میں خامیوں کو تسلیم کیا اور اصلاحات کرنے کا وعدہ کیا۔ تاہم، کچھ میڈیا سوالات پر کمپنی نے متنازع اور غیر منطقی بیانات دیے، جیسے اسے صرف ‘پکسل کا کھیل’ قرار دینا۔
یہ معاملہ اے.آئی کے بے قابو ترقی اور خواتین کی حفاظت کے درمیان بڑھتے تصادم کو بھی عیاں کرتا ہے۔ بھارت حکومت کی یہ کارروائی واضح پیغام دیتی ہے کہ تکنیکی ترقی کے نام پر خواتین کی عزت اور تحفظ سے سمجھوتہ نہیں کیا جائے گا۔
