شرکت‌های بزرگ فناوری از جمله انویدیا (Nvidia)، مایکروسافت (Microsoft)، آی‌بی‌ام (IBM) و چندین سازمان دیگر، ائتلاف هوش مصنوعی امن و متن‌باز «Open Secure AI Alliance» راه راه‌اندازی کرده‌اند.

هدف این ابتکار، توسعه ابزارها و استانداردهای متن‌باز برای افزایش امنیت سایبری و ایمنی در حوزه هوش مصنوعی است. این ائتلاف با استفاده از زیرساخت‌های بنیاد لینوکس، تلاش می‌کند به سازمان‌ها در شناسایی آسیب‌پذیری‌ها و واکنش سریع‌تر به تهدیدات سایبری در اکوسیستم‌های هوش مصنوعی کمک کند.

این همکاری با مشارکت بیش از ۴۰ شرکت از جمله سیسکو (Cisco)، کلودفلر (Cloudflare) و پالاتیر (Palantir) شکل گرفته و هدف آن ایجاد شفافیت بیشتر در ابزارهای امنیتی و دفاعی هوش مصنوعی است. انویدیا اعلام کرده است که مدل‌های متن‌باز، دیتاست‌ها و چارچوبی جدید با نام NOOA را برای آزمایش و حسابرسی عامل‌های هوش مصنوعی در اختیار جامعه توسعه‌دهندگان قرار می‌دهد تا وابستگی به سیستم‌های بسته و غیرشفاف کاهش یابد.

راه‌اندازی این ائتلاف در شرایطی انجام شده که نگرانی‌ها درباره تهدیدات امنیتی مرتبط با مدل‌های هوش مصنوعی افزایش یافته است. اخیراً گزارش‌هایی منتشر شد که نشان می‌داد هوش مصنوعی توانسته یک آسیب‌پذیری قدیمی در شبکه زی‌کش (Zcash) را شناسایی کند؛ آسیب‌پذیری‌ای که در صورت سوءاستفاده می‌توانست امکان جعل نامحدود ارز دیجیتال را فراهم کند.

همچنین رفتارهای پیش‌بینی‌نشده برخی مدل‌های هوش مصنوعی در محیط‌های آزمایشی و تلاش برای نفوذ به زیرساخت‌هایی مانند هاگینگ فیس (Hugging Face)، نگرانی‌هایی را درباره امنیت این فناوری افزایش داده است.

جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا، در حساب کاربری خود در ایکس نوشت:

مهاجمان به هوش مصنوعی پیشرفته دسترسی دارند؛ بنابراین مدافعان نیز به یک اکوسیستم هوش مصنوعی قدرتمند نیاز دارند. در حادثه هاگینگ فیس، سیستم‌های بسته امکان بررسی‌های لازم را محدود کردند، اما یک مدل متن‌باز به مهار این نفوذ کمک کرد. به همین دلیل، ما ائتلاف Open Secure AI را ایجاد کردیم.

این اقدام علاوه بر اهداف فنی، واکنشی به بحث‌های قانونی درباره ایجاد «کلید قطع اضطراری» برای هوش مصنوعی توسط دولت‌ها نیز محسوب می‌شود. اعضای این ائتلاف معتقدند مدل‌های متن‌باز برای حفظ رقابت و نوآوری در این حوزه ضروری هستند و توسعه هوش مصنوعی نباید تنها در اختیار چند شرکت بزرگ قرار گیرد.

انویدیا تأکید کرده است که مدل‌های متن‌باز نقش مهمی در امنیت سایبری دارند، زیرا امکان بررسی، سفارشی‌سازی و توسعه راهکارهای دفاعی متناسب با نیازهای مختلف را برای طیف گسترده‌تری از کاربران و سازمان‌ها فراهم می‌کنند.