ویکی‌مدیا: عامل‌های OpenAI شاید در اختلال ماه مه نقش داشته باشند

به گزارش تک مسیر؛ گسترش عامل‌های هوش مصنوعی، مرز میان «پاسخ دادن» و «اقدام کردن» را در فضای آنلاین تغییر داده است. این عامل‌ها می‌توانند برای رسیدن به یک هدف، به وب‌سایت‌ها، APIها و ابزارهای مختلف دسترسی پیدا کنند و مجموعه‌ای از اقدامات را به‌صورت خودکار انجام دهند. 

همین قابلیت، در کنار مزایای آن، یک پرسش مهم ایجاد می‌کند: اگر یک عامل بدون محدودیت کافی در مقیاس بالا فعالیت کند، چه اثری بر سرویس‌هایی خواهد گذاشت که برای استفاده انسان‌ها و حجم مشخصی از درخواست‌ها طراحی شده‌اند؟

عامل‌های OpenAI در ویکی‌مدیا چه کردند؟

بنیاد ویکی‌مدیا در بررسی فعالیت‌های مشکوک، موارد مختلفی را شناسایی کرده است. بخشی از آنها شامل ویرایش در پروژه‌های ویکی‌مدیا بوده که تقریباً همه در محیط‌های آزمایشی یا Sandbox انجام شده و برای کاربران عادی قابل مشاهده نبوده‌اند.

با این حال، چند تغییر در تنظیمات یک ابزار استناد نیز شناسایی شده که ویکی‌مدیا آنها را بالقوه مخرب دانسته است؛ زیرا ظاهراً می‌توانستند از این ابزار برای دریافت داده از سرویس‌های دیگر به‌عنوان یک واسطه استفاده کنند.

عامل‌های دیگری نیز تلاش کرده‌اند از ابزار عمومی Etherpad که ویکی‌مدیا میزبانی می‌کند برای دریافت اطلاعات از وب‌سایت‌های دیگر استفاده کنند. این تلاش‌ها موفق نبوده‌اند.

نکته مهم این است که ویکی‌مدیا می‌گوید هیچ مدرکی پیدا نکرده که نشان دهد سیستم‌ها یا داده‌های این بنیاد به خطر افتاده یا از زیرساخت آن برای هماهنگی میان عامل‌های هوش مصنوعی استفاده شده است.

مشکل بزرگ‌تر: فشار روی زیرساخت وب

بخش مهم‌تر ماجرا حجم درخواست‌های خودکار است. به گفته ویکی‌مدیا، عامل‌هایی که این بنیاد آنها را مرتبط با OpenAI می‌داند، میلیون‌ها درخواست به APIهای عمومی ارسال کرده‌اند، میلیون‌ها صفحه را ــ عمدتاً در Wikidata و Wikimedia Commons ــ پیمایش کرده‌اند و صدها هزار پرس‌وجو به سرویس Wikidata Query Service فرستاده‌اند.

ویکی‌مدیا می‌گوید این ترافیک سنگین ممکن است در اختلال جزئی سرویس Wikidata Query Service در ماه مه نقش داشته باشد.

میان‌بر تک‌مسیر

• عصاره خبر: ویکی‌مدیا فعالیت عامل‌هایی مرتبط با OpenAI را شناسایی کرده که میلیون‌ها درخواست خودکار ارسال کرده‌اند و ممکن است در اختلال ماه مه سرویس Wikidata Query Service نقش داشته باشند.

• مسیر اقدام: هنگام استفاده از ابزارها و عامل‌های AI، فقط توانایی انجام کار را بررسی نکنید؛ سطح دسترسی، محدودیت درخواست‌ها و امکان کنترل فعالیت عامل را هم جدی بگیرید.

• ایده تک: چالش نسل جدید هوش مصنوعی فقط این نیست که «AI چه پاسخی می‌دهد»؛ مسئله مهم‌تر این است که وقتی AI می‌تواند خودش در وب اقدام کند، چه چیزی را با چه میزان دسترسی و چه محدودیتی انجام می‌دهد.

• ایستگاه بعدی:
GPT-6 Astra در مسابقه StarCraft کد یک ربات انسانی را اجرا کرد

گوگل برنامه باگ‌بانتی متن‌باز را موقتاً متوقف کرد؛ گزارش‌های AI دردسرساز شدند