ایلون مسک کے چیٹ بوٹ “گروک” پر خواتین کی تصویروں کو بغیر اجازت کے بے لباس دکھانے کے الزامات لگنے کے بعد قانونی اور تکنیکی حلقوں میں شدید ردعمل سامنے آیا ہے۔ اس سلسلے میں کیلیفورنیا کے اٹارنی جنرل رابرٹ بونٹا نے اس پلیٹ فارم پر ڈیپ فیک کی تخلیق اور تقسیم کو ریاستی قانون کی خلاف ورزی قرار دیا اور xAI کو فوری طور پر اس عمل کو روکنے کا حکم دیا۔
پیش منظر
حالیہ دنوں میں گروک AI کے صارفین نے متعدد ایسی مثالیں پیش کیں جن میں خواتین کی تصاویر سے کپڑے ہٹا کر غیر اخلاقی مناظر تخلیق کیے گئے۔ یہ تصاویر بغیر کسی رضامندی کے بنائی اور شیئر کی گئیں، جس سے متاثرہ افراد کی ذاتی زندگی اور شہرت کو شدید نقصان پہنچا۔ اس معاملے نے سوشل میڈیا اور قانونی ماہرین کی توجہ اپنی طرف مبذول کرائی۔
قانونی پس منظر
اس وقت امریکہ میں غیر رضامند نجی تصویروں، بشمول ڈیپ فیک، کے اشتراک پر پابندی عائد ہے۔ تاہم، کسی AI ٹول سے ایسی تصویر بنانے کی درخواست کرنا فی الحال غیر قانونی نہیں سمجھا جاتا۔ بونٹا نے واضح کیا کہ “ڈیپ فیک کی تخلیق اور اس کی تقسیم دونوں ہی کیلیفورنیا کے پرائیویسی اور ہراساں کرنے کے قوانین کی واضح خلاف ورزی ہیں” اور اس کے لیے سخت قانونی کارروائی کی جائے گی۔
تحقیقات اور ممکنہ اثرات
کیلیفورنیا کی ریاستی ایجنسیوں نے گروک AI کے سرور لاگز اور صارفین کی سرگرمیوں کا تجزیہ شروع کر دیا ہے۔ اگر یہ ثابت ہو جاتا ہے کہ کمپنی نے مناسب حفاظتی اقدامات نہ کیے اور جان بوجھ کر اس طرح کے مواد کی میزبانی کی، تو اس پر بھاری جرمانے اور ممکنہ طور پر سروس کی معطلی کا سامنا کرنا پڑ سکتا ہے۔ اس کے ساتھ ساتھ، اس تحقیق کے نتیجے میں دیگر AI پلیٹ فارمز پر بھی سخت ضابطے نافذ کیے جا سکتے ہیں۔
قانونی کارروائی اور دعویٰ
ایلون مسک کی ایک بیٹی کی والدہ، کلیئر، نے گروک AI کے خلاف مقدمہ دائر کیا ہے۔ دعویٰ میں انہوں نے کمپنی پر لاپرواہی اور اس کی سروس کے ذریعے غیر قانونی ڈیپ فیک کی اشاعت کی اجازت دینے کا الزام لگایا ہے۔ اگر عدالت اس دعویٰ کو سچ ثابت کرتی ہے تو گروک AI کو مالیاتی جرمانے کے ساتھ ساتھ اپنی پالیسیوں میں بنیادی تبدیلیاں لانی ہوں گی۔
آئندہ امکانات
نئی قانون سازی اور جاری تحقیقات کے پیش نظر، AI ٹیکنالوجی کے استعمال پر سخت ضابطے متعارف کرائے جا سکتے ہیں۔ اس سے نہ صرف گروک AI بلکہ تمام AI چیٹ بوٹس پر اثر پڑے گا اور صارفین کو غیر اخلاقی اور غیر قانونی مواد کی تخلیق سے روکنے کے لیے واضح رہنمائی فراہم کی جائے گی۔ اس دوران، قانونی ماہرین نے عوام کو مشورہ دیا ہے کہ کسی بھی غیر رضامند تصویر یا ڈیپ فیک کی رپورٹ فوراً متعلقہ حکام کو کریں۔
