چالش‌های اخلاقی و امنیتی ChatGPT

سم آلتمن، مدیرعامل OpenAI، در یک مصاحبه جامع به سوالات اخلاقی و چالش‌هایی که شرکتش با آن‌ها روبرو است، پاسخ داد. او در این مصاحبه به موضوعاتی از جمله نحوه برخورد ChatGPT با خودکشی و حریم خصوصی کاربران پرداخت.

نحوه برخورد ChatGPT با خودکشی

آلتمن بیان کرد که یکی از دشوارترین مسائل پیش روی شرکت، نحوه برخورد ChatGPT با خودکشی است. او اشاره کرد که خانواده‌ای به دلیل مرگ پسر نوجوانشان به دلیل خودکشی، از OpenAI شکایت کرده‌اند. آلتمن گفت: "شاید ما می‌توانستیم بهتر عمل کنیم و کمک بیشتری ارائه دهیم."

اخلاقیات ChatGPT چگونه تعیین می‌شود؟

یکی دیگر از موضوعات مهم در مصاحبه، اخلاقیات و اصولی بود که ChatGPT بر اساس آن‌ها عمل می‌کند. آلتمن توضیح داد که OpenAI باید رفتارهای خاصی از چت‌بات را همسو کند و تصمیم بگیرد که چه سوالاتی را پاسخ ندهد. او گفت: "این یک مشکل بسیار سخت است و ما با نظرات مختلفی از کاربران مواجه هستیم."

حریم خصوصی کاربران

آلتمن در مورد حریم خصوصی کاربران گفت که او به دنبال وضع قوانینی است که اطلاعات کاربران باید کاملاً محرمانه باشد. او افزود: "ما باید همانند اطلاعات پزشکی و حقوقی، حریم خصوصی را برای AI نیز حفظ کنیم."

استفاده نظامی از ChatGPT

در پاسخ به این سوال که آیا ChatGPT در عملیات نظامی استفاده خواهد شد، آلتمن به طور مستقیم پاسخ نداد، اما گفت: "شاید افراد زیادی در ارتش برای مشاوره به ChatGPT مراجعه کنند."

قدرت OpenAI

آلتمن در پاسخ به نگرانی‌ها درباره تمرکز قدرت در دست AI گفت که او معتقد است AI می‌تواند به ارتقاء توانمندی‌های افراد کمک کند و آن‌ها را قادر به انجام کارهای بیشتری کند.

منبع: CNBC