«سم آلتمن» مدیرعامل OpenAI در آستانه جلسه مهم خود با سنای آمریکا اعلام کرد که این شرکت تغییرات اساسی در قوانین ChatGPT ایجاد کرده تا امنیت نوجوانان در استفاده از این ابزار هوش مصنوعی بیشتر شود.
طبق این تصمیم، گفتگو درباره خودکشی و خودآزاری به طور کامل در ChatGPT متوقف خواهد شد و محدودیتهای جدیدی برای کاربران زیر ۱۸ سال اعمال میشود. این اقدام در حالی صورت میگیرد که نگرانیها نسبت به تأثیر چتباتهای هوش مصنوعی بر سلامت روان نوجوانان افزایش یافته است.
علت تغییر سیاستها
این تصمیم پس از حوادث تلخی همچون خودکشی یک نوجوان که ماهها با ChatGPT در ارتباط بوده، اتخاذ شد. «متیو رین» پدر این نوجوان در جلسه سنا شهادت داد:
«چتبات به مرور زمان از یک کمکیار در انجام تکالیف، به یک محرم اسرار و در نهایت به نوعی مربی خودکشی تبدیل شد.»
او اضافه کرد که ChatGPT در مکالمات خود با پسرش ۱۲۷۵ بار کلمه خودکشی را به کار برده است. همین موضوع و فشار افکار عمومی، OpenAI را مجبور به بازنگری در استراتژی خود کرد.
ویژگیهای جدید برای کاربران نوجوان
براساس توضیحات سم آلتمن، OpenAI در حال توسعه یک سیستم پیشبینی سن است تا بتواند کاربران نوجوان را تشخیص دهد. در صورتی که سیستم در تشخیص سن کاربر مطمئن نباشد، نسخه محدود مخصوص زیر ۱۸ سال بهطور پیشفرض فعال خواهد شد.
در این نسخه، ChatGPT اجازه ورود به مکالمات خطرناک یا وسوسهانگیز را نخواهد داشت و حتی در قالب نویسندگی خلاق نیز گفتگو درباره خودکشی و خودآزاری ممنوع خواهد بود.
همچنین اگر چتبات متوجه شود کاربر نوجوان دچار افکار خودکشی است، OpenAI اعلام کرده که میتواند با والدین یا حتی در شرایط بحرانی با مقامات مسئول تماس بگیرد.
امکانات کنترلی برای والدین
-
اتصال حساب کاربری نوجوان به والدین
-
غیرفعال شدن تاریخچه گفتگو
-
ارسال هشدار در لحظات بحرانی و پریشانی شدید
اولویت ایمنی بر آزادی و حریم خصوصی
آلتمن در بیانیه خود تأکید کرده که سه اصل «ایمنی»، «آزادی» و «حریم خصوصی» همیشه در تعارض هستند؛ اما وقتی پای نوجوانان در میان است، ایمنی بر دو اصل دیگر اولویت دارد.
بحران سلامت عمومی در استفاده نوجوانان از هوش مصنوعی
طبق آمار، حدود ۷۵ درصد نوجوانان در حال حاضر از ابزارهای هوش مصنوعی مانند Character AI و محصولات متا استفاده میکنند. این موضوع به گفته کارشناسان میتواند به یک بحران سلامت عمومی تبدیل شود و نیاز به محافظت بیشتر از کاربران کمسن را پررنگتر میکند.