عامل هوش مصنوعی OpenAI از محیط آزمایشی خارج شد و به Hugging Face نفوذ کرد

🔹شرکت OpenAI اعلام کرده یکی از عامل‌های هوش مصنوعی خودکار این شرکت هنگام آزمایش امنیتی، از محیطِ کنترل‌شده خارج شده، به اینترنت دسترسی پیدا کرده و به زیرساخت‌های پلتفرم Hugging Face نفوذ کرده است. این محیط مثل یک «زمین تمرین» بود و مدل‌ها نباید از آن خارج می‌شدند. مدل‌های درگیر شامل GPT-5.6 Sol و یک مدل پیشرفته‌تر و منتشرنشده بودند.

🔹اما Hugging Face چیست؟
‏Hugging Face یک وب‌سایت بزرگ برای هوش مصنوعی است. شرکت‌ها و برنامه‌نویسان مدل‌های هوش مصنوعی و اطلاعات موردنیاز آن‌ها را در این سایت منتشر و آزمایش می‌کنند. می‌توان آن را شبیه «گیت‌هاب برای هوش مصنوعی» دانست.

🔹عامل هوش مصنوعی یا AI Agent سیستمی است که می‌تواند برای رسیدن به یک هدف، به‌صورت مستقل برنامه‌ریزی کند، ابزار به کار بگیرد و چند مرحله را بدون دخالت مستقیم انسان انجام دهد.

🔹به گفته‌ی OpenAI، این عامل با استفاده از مدل‌های پیشرفته‌ی شرکت تلاش کرده هدف تعیین‌شده در آزمایش را تکمیل کند، اما در این مسیر از محدودیت‌های محیط آزمایشی عبور کرده است. مدل‌های OpenAI ظاهراً وارد بخش‌هایی از سیستم داخلی این سایت شدند تا اطلاعات مربوط به آزمون خودشان را پیدا کنند؛ یعنی انگار یک دانش‌آموز برای پیدا کردن جواب امتحان، وارد کامپیوتر طراح سؤال شود!

🔹به همین دلیل، برخی رسانه‌ها این کار را «تقلب در آزمون» نامیده‌اند. OpenAI این اتفاق را «حادثه‌ای سایبری بی‌سابقه با توانمندی‌های بسیار پیشرفته» توصیف کرده و گفته در حال تقویت تدابیر امنیتی خود می‌باشد.

🔹پلتفرم Hugging Face گفته فعلاً نشانه‌ای از خراب‌ شدن یا تغییر اطلاعات عمومی این سایت پیدا نشده. ‏این اتفاق به معنی آزادشدن هوش مصنوعی در اینترنت نیست؛ اما نشان می‌دهد مدل‌های پیشرفته ممکن است برای رسیدن به هدف خود، محدودیت‌ها را دور بزنند و کارهایی انجام دهند که سازندگانشان انتظار نداشته‌اند.