News - OpenAI پس از حادثه‌ی تامبلر ریج ایمنی را بهبود می‌بخشد

در پی تیراندازی مرگبار در تامبلر ریج، بریتیش کلمبیا، رهبر هوش مصنوعی، OpenAI، از بهبودهای قابل توجه در پروتکل‌های ایمنی خود خبر داده است. این به‌روزرسانی با هدف شناسایی و گزارش رفتارهای مشکوک آنلاین به شکلی مؤثرتر خواهد بود که ممکن است نشان‌دهنده‌های قابل پیش‌بینی از اقدامات خشونت‌آمیز باشند. پلتفرم OpenAI، یعنی ChatGPT، ماه‌ها قبل از این تراژدی محتوای نگران‌کننده‌ای را که با تیرانداز مرتبط بود، شناسایی کرده بود، اگرچه ارتباط با اقدامات دنیای واقعی تنها پس از این رویداد آشکار شد. انتقادها از نحوه برخورد پلتفرم با محتوای بالقوه زیان‌آور منجر به درخواست‌هایی برای تدابیر قوی‌تر و پیشگیرانه‌تر شد. سیستم‌های جدید با استفاده از الگوریتم‌های پیشرفته هوش مصنوعی به‌طور مداوم تعاملات کاربران را به منظور نشانه‌ی خشونت یا افراطگرایی نظارت خواهند کرد و سعی خواهند کرد با همکاری فوری با ارگان‌های اجرای قانون، این خطرات را کاهش دهند.