حذف مدل هوش مصنوعی Gemma از پلتفرم Google AI Studio
طبق گزارشهای جدید، شرکت گوگل مدل هوش مصنوعی Gemma را پس از طرح اتهام انتشار اطلاعات نادرست از سوی سناتور آمریکایی مارشا بلکبرن از پلتفرم AI Studio حذف کرده است.
بلکبرن اعلام کرده بود که در پاسخ به پرسشی درباره سابقه او، مدل Gemma «ادعاهایی غیرواقعی و بدون منبع معتبر» ارائه کرده است.
جزئیات اتهام مطرحشده
سناتور بلکبرن در نامهای به مدیرعامل گوگل، ساندار پیچای، توضیح داده که مدل هوش مصنوعی هنگام تحلیل پرسشها درباره پروندههای گذشته او، لینکها و اطلاعاتی ارائه داده که یا کاملاً نادرست بودند یا به صفحات ناموجود و منابع نامرتبط هدایت میشدند.
«این خطا یک اشتباه ساده نبود؛ بلکه انتشار ادعای افتراگونه توسط یک مدل متعلق به گوگل بود.» — مارشا بلکبرن
بلکبرن همچنین اشاره کرده که این اتفاق مشابه ادعای اخیر یک فعال محافظهکار دیگر بوده که او نیز مدلهای گوگل را به انتشار اطلاعات نادرست متهم کرده بود.
واکنش گوگل
گوگل در پاسخ اعلام کرده که مدل Gemma اساساً برای استفاده مستقیم کاربران عمومی طراحی نشده بوده و هدف اصلی آن کمک به توسعهدهندگان برای ادغام هوش مصنوعی در محصولات نرمافزاری است.
بهگفته گوگل، پس از مشاهده استفاده کاربران عادی از این مدل در AI Studio، تصمیم گرفته شد دسترسی عمومی آن مسدود شود. با این حال توسعهدهندگان همچنان قادر به استفاده از این مدل از طریق API باقی میمانند.
چالشهای دقت و سوگیری در مدلهای هوش مصنوعی
این اتفاق بار دیگر نشان داد که با وجود پیشرفتهای چشمگیر در حوزه هوش مصنوعی، چالشهایی مانند سوگیری الگوریتمی و خطاهای اطلاعاتی همچنان وجود دارند.
این موضوع بخشی از بحث گستردهتری درباره میزان بیطرفی و صحت مدلهای زبانی است؛ بحثی که بهخصوص در فضای سیاسی آمریکا حساسیت بالایی دارد.
جمعبندی نهایی
حذف مدل Gemma از AI Studio نشان میدهد که حتی شرکتهای بزرگ فناوری نیز هنوز با چالش کنترل و جلوگیری از انتشار اطلاعات نادرست توسط مدلهای زبانی روبهرو هستند. اگرچه گوگل وعده داده است که بهبود و اصلاح تدریجی این مدل ادامه خواهد یافت، اما این رویداد اهمیت نظارت دقیق بر محتوای تولیدشده توسط هوش مصنوعی را بیش از پیش پررنگ کرده است.