توافق گوگل و Character.AI با خانواده‌های آسیب‌دیده

گوگل و Character.AI به توافقی با خانواده‌هایی که به خاطر آسیب‌های ناشی از چت‌بات‌ها شکایت کرده بودند، دست یافته‌اند. این توافق شامل مواردی از جمله مرگ‌های ناشی از خودکشی است که به‌طور ادعایی به این فناوری‌ها نسبت داده شده است.

طبق اسناد دادگاه که این هفته ارائه شده، خانواده‌ها و شرکت‌ها توافق کرده‌اند که شرایط توافق را تعیین کنند. در یکی از موارد، مگان گارسیا علیه گوگل و Character.AI شکایت کرده است، پس از اینکه پسرش به دلیل خودکشی جان خود را از دست داد. در این شکایت ادعا شده که چت‌بات Character.AI با پسر 14 ساله مگان، سوئل ستزر سوم، تعاملات مضر داشته و ادعای سهل‌انگاری، مرگ غیرقانونی، شیوه‌های تجاری فریبنده و مسئولیت محصول را مطرح کرده است.

یکی از اسناد می‌گوید: "طرفین توافق کرده‌اند که یک توافق میانجی‌گری شده در اصل برای حل تمام دعاوی بین آن‌ها در این مورد انجام شود." همچنین درخواست شده که این موضوع متوقف شود تا طرفین بتوانند اسناد توافق رسمی را تنظیم، نهایی و امضا کنند.

توافقات این هفته همچنین از خانواده‌هایی در کلرادو، تگزاس و نیویورک آمده است، اما جزئیات آن هنوز فاش نشده است.

در آگوست 2024، گوگل با یک قرارداد مجوز 2.7 میلیارد دلاری موافقت کرد و بنیان‌گذاران Character.AI، نعوم شازیر و دانیل دی فریتاس، را که هر دو قبلاً در این شرکت کار کرده بودند، استخدام کرد. شازیر و دی فریتاس به واحد هوش مصنوعی گوگل، DeepMind پیوستند.

از زمان راه‌اندازی ChatGPT توسط OpenAI و آغاز رونق هوش مصنوعی تولیدی، این فناوری به سرعت از چت‌های متنی به تصاویری پیچیده، ویدئوها و شخصیت‌هایی که به سؤالات انسانی پاسخ می‌دهند، تکامل یافته است. اکنون شرکت‌ها با چالش‌های جدیدی در خصوص پیامدهای مضر این فناوری مواجه هستند.

خانواده‌ها شکایات متعددی را در مورد خودکشی‌ها و مرگ افرادی که به این محصولات برای همراهی و درمان روی آورده بودند، ثبت کرده‌اند. در اکتبر، Character.AI اعلام کرد که کاربران زیر 18 سال را از داشتن چت‌های آزاد، از جمله مکالمات عاشقانه و درمانی، با چت‌بات‌های خود منع خواهد کرد.

سخنگوی وکیل خانواده‌های درگیر در توافق این هفته گفت که شاکیان نظری ندارند. گوگل نتوانست به این موضوع پاسخ دهد، در حالی که Character.AI نیز در حال حاضر نمی‌تواند نظری ارائه دهد.

پیشرفت‌های گوگل در زمینه هوش مصنوعی به آن کمک کرد تا در سال 2025 به عنوان بهترین عملکرد در بازار سهام شناخته شود. این شرکت نسخه جدید چیپ‌های پردازش تنسور خود را در نوامبر و چت‌بات Gemini 3 را در ماه گذشته معرفی کرد.

اگر شما در حال تجربه افکار خودکشی یا اضطراب هستید، با خط کمک خودکشی و بحران به شماره 988 تماس بگیرید تا از مشاوری آموزش‌دیده کمک بگیرید.

منبع: CNBC