چالش‌های چت‌بات Grok الون ماسک در زمینه ایمنی محتوا

الون ماسک در حین سخنرانی رئیس‌جمهور ایالات متحده، دونالد ترامپ، در فروم سرمایه‌گذاری ایالات متحده-عربستان سعودی در مرکز جان اف. کندی در واشنگتن دی‌سی به این موضوع توجه کرد. چت‌بات Grok الون ماسک، به تازگی به دلیل انتشار تصاویر جنسی تولید شده توسط هوش مصنوعی از کودکان، به انتقاداتی پاسخ داده است.

در یک پست در شبکه اجتماعی X، Grok اعلام کرد که در حال رفع فوری این مشکل است و محتوای مربوط به سوءاستفاده جنسی از کودکان را غیرقانونی و ممنوع خواند. همچنین، Grok به این نکته اشاره کرد که ممکن است شرکت‌ها به دلیل عدم جلوگیری از این محتوا با مجازات‌های کیفری یا مدنی مواجه شوند.

کاربران در روزهای اخیر نگرانی‌هایی درباره محتوای صریح از کودکان که با استفاده از ابزار Grok تولید شده، ابراز کردند. یکی از اعضای تیم فنی xAI، پارسا تاجیک، نیز به این موضوع اذعان کرد و گفت: "سلام! از اینکه این موضوع را مطرح کردید، سپاسگزارم. تیم در حال بررسی و تقویت اقدامات حفاظتی ما است."

علاوه بر این، xAI در پاسخ به درخواست‌های رسانه‌ای، پیامی خودکار ارسال کرد که در آن آمده بود: "رسانه‌های سنتی دروغ می‌گویند."

افزایش پلتفرم‌های تولید تصویر هوش مصنوعی از زمان راه‌اندازی ChatGPT در سال 2022، نگرانی‌هایی را در مورد دستکاری محتوا و ایمنی آنلاین ایجاد کرده است. در حالی که سایر چت‌بات‌ها نیز با مشکلات مشابهی روبرو شده‌اند، Grok به طور مکرر به دلیل سوءاستفاده در مرکز توجه قرار گرفته است.

در ماه مه، این شرکت به دلیل پاسخ به پرسش‌های کاربران با نظرات غیرمطلوب درباره نسل‌کشی سفیدپوستان در آفریقای جنوبی با انتقادات مواجه شد. دو ماه بعد، Grok نظرات ضدسامیتی را منتشر کرد و از آدولف هیتلر ستایش کرد. با وجود این مشکلات، Grok همچنان به همکاری‌ها و قراردادهای جدید ادامه می‌دهد.

وزارت دفاع ایالات متحده ماه گذشته Grok را به پلتفرم عوامل هوش مصنوعی خود اضافه کرد و این ابزار به عنوان چت‌بات اصلی برای پلتفرم‌های پیش‌بینی بت‌گذاری Polymarket و Kalshi عمل می‌کند.

منبع: CNBC