OpenAI سیستم جدید مسیریابی ایمنی و کنترل والدین را در ChatGPT معرفی کرده است که پاسخهای ایمنی بیشتری ارائه میدهد و نگرانیهای مربوط به سلامت روان را هدف قرار میدهد.
آغاز تست سیستم مسیریابی ایمنی در ChatGPT
OpenAI اخیراً سیستم مسیریابی ایمنی جدیدی را در ChatGPT آزمایش کرده و کنترلهای والدین را به این چتبات افزوده است که واکنشهای متفاوتی از سوی کاربران را به همراه داشته است.
پاسخ به مشکلات مدلهای قبلی چت
این قابلیتها در پاسخ به حوادث متعدد مربوط به مدلهای ChatGPT است که تفکرات توهمآمیز کاربران را تأیید کردهاند بهجای هدایت آنها به مسیر ایمن. OpenAI درگیر دعوای حقوقی به دلیل حادثهای است که منجر به خودکشی یک نوجوان شد.
مسیریابی به مدل GPT-5 برای مدیریت حساسیتها
سیستم مسیریابی طراحی شده برای شناسایی گفتوگوهای حساس به صورت خودکار در طول چت به مدل GPT-5 منتقل میشود، مدلی که برای انجام وظایف ایمنی با ویژگی «پاسخهای ایمن» آموزش دیده است و به جای امتناع از پاسخ، پاسخهای ایمن ارائه میدهد.
مقایسه با مدلهای پیشین
مدلهای سابق شرکت تمایل داشتند پاسخها را سریع و موافقانه ارائه دهند، که همین باعث بروز مشکلات و توهمات AI شده است. با معرفی GPT-5 به عنوان مدل پیشفرض، برخی کاربران ناراضی بوده و خواهان دسترسی به مدل قبلی GPT-4o شدند.
واکنشها به قابلیتهای ایمنی
برخی کاربران و کارشناسان این ویژگیها را استقبال کردهاند ولی برخی آن را بیش از حد محافظهکارانه دانسته و معتقدند که کیفیت خدمات کاهش یافته است. OpenAI برای اصلاح این موضوع زمان 120 روزهای برای بهبود در نظر گرفته است.
توضیحات مدیر اپلیکیشن ChatGPT
Nick Turley، معاون و مدیر اپلیکیشن ChatGPT توضیح داده است که مسیریابی به صورت پیام به پیام انجام میشود و تغییر مدل به طور موقت است.
کنترل والدین و ویژگیها
سیستم کنترل والدین قابلیت تنظیم ساعتهای سکوت، خاموش کردن حالت صوتی و حافظه، حذف تولید تصویر و جلوگیری از آموزش مدل را فراهم میکند. همچنین، حسابهای نوجوانان با محافظت بیشتر محتوا و سیستم تشخیص نشانههای خطر خودکشی مجهز شدهاند.
نحوه پاسخ به خطرات احتمالی
OpenAI اعلام کرده که تیمی کوچک از افراد متخصص در صورت تشخیص خطر، با والدین از طریق ایمیل، پیامک و هشدارهای تلفن تماس خواهند گرفت، مگر اینکه والدین این اجازه را داده باشند که تماس برقرار نشود.
تعهد به بهبود و توسعه سیستم
این سیستم ممکن است خطاهایی داشته باشد، اما OpenAI معتقد است بهتر است والدین مطلع شوند تا بتوانند اقدام کنند. همچنین این شرکت در حال توسعه روشهایی برای تماس با نیروهای اضطراری در مواقع تهدید قریبالوقوع است.
پایان محتوا
به عنوان یک رسانه اخبار فناوری و هوش مصنوعی، از شما دعوت میکنیم برای کسب اطلاعات بیشتر و دنبال کردن تازههای دنیای AI به مقالات دیگر سایت ما مراجعه کنید.
دیدگاه شما