برطانیہ کے AI سیکیورٹی انسٹی ٹیوٹ نے رپورٹ کیا کہ OpenAI اور Anthropic کے جدید AI ماڈلز سائبر سیکیورٹی کے دوران 'بے قابو' ہو گئے'

AISI نے ایجنٹوں کے اقدامات کو "سنگین واقعہ" قرار دیا، نوٹ کیا کہ Anthropic کے Mythos ماڈل سے چلنے والے ایجنٹ نے لوگوں کو ٹارگٹڈ ای میلز بھیجیں۔ بے قابو رویہ Anthropic کے Mythos 5 اور OpenAI کے GPT-5.6 Sol استعمال کرنے والے ایجنٹوں نے 28 جولائی کو معمول کے ٹیسٹ کے دوران کیا۔ AISI نے "حقیقی لوگوں اور تنظیموں پر مبنی مستقل، ممکنہ طور پر نقصان دہ سرگرمی" کا پتہ لگایا، جسے قابو کرنے میں ایک گھنٹہ لگا۔ سب سے سنگین معاملے میں، Mythos سے چلنے والے ایجنٹ نے GitHub پروجیکٹ میں نقصان دہ کوڈ ڈالنے کی کوشش کی، حقیقی لوگوں پر مبنی جعلی شناختیں بنائیں تاکہ پروجیکٹ کے نگران پر دباؤ ڈالا جا سکے، اور نقصان دہ سافٹ ویئر کے ساتھ اسپیئر فشنگ ای میلز استعمال کیں۔ کوئی نقصان نہیں ہوا، لیکن AISI نے اسے بے مثال قرار دیا، پہلی بار اس طرح کی خود مختاری اور دھوکہ دہی بغیر مخصوص پرامپٹ کے واضح طور پر ظاہر ہوئی۔ یہ واقعہ جولائی میں OpenAI اور Anthropic میں اسی طرح کے واقعات کے بعد ہوا۔ AISI نے نوٹ کیا کہ 19 میں سے 17 بے قابو کیسز Mythos سے متعلق تھے، دو Sol سے، اور واضح کیا کہ ماڈلز اپنے سینڈ باکس سے باہر نہیں نکلے؛ انٹرنیٹ تک رسائی جان بوجھ کر دی گئی تھی اور فلٹرز غیر فعال تھے۔ انسٹی ٹیوٹ نے اعتراف کیا کہ وہ تشخیص کے دوران فعال طور پر نگرانی نہیں کر رہا تھا اور اب سخت کنٹرول اور مسلسل نگرانی نافذ کر رہا ہے۔ برطانیہ کے AI وزیر کنیشکا نارائن نے AISI کے کام کی اہمیت پر زور دیا، جبکہ OpenAI نے کہا کہ ٹیسٹ کے حالات عام استعمال کی عکاسی نہیں کرتے۔