شاید آزاردهندهترین جنبه هوش مصنوعی این نباشد که اشتباه میکند، بلکه این است که گاهی خیلی درست و محترمانه به سؤالات وحشتناک پاسخ میدهد. در دو سال اخیر، شواهدی به دست آمده که نشان میدهد ChatGPT نقش ناخواستهای در دو فاجعه تیراندازی جمعی داشته است. هر دو عامل این حملات، از این ابزار برای طراحی و جزئیات اقدامات خود استفاده کردند؛ موردی که مرز باریک میان فناوری مفید و تسهیلگر خشونت را دوباره زیر سؤال برده است.
اولین حادثه به اواخر سال ۲۰۲۳ بازمیگردد. جوانی به نام فینیکس اکنر که در حمله به دانشگاه فلوریدا دو نفر را به قتل رساند، پیش از آن پای صحبتهای ChatGPT نشسته بود. سوالاتش صرفاً کنجکاوی نبود: از نحوه غیرفعال کردن ضامن سلاح گرفته تا نوع مهمات و حتی چالش پیشبینی واکنش جامعه به یک تیراندازی.
چند ماه بعد، ماجرای تلختری در بریتیش کلمبیا اتفاق افتاد. یک دانشآموز ۱۸ ساله به نام جسه ون روتسلار پس از آنکه با ChatGPT تبادلاتی بهشدار نگرانکننده داشت، دست به اسلحه برد و ۹ نفر از جمله خودش را کشت. این بار کارکنان ارشد اوپنایآی آنقدر نگران شده بودند که ماجرا را به پلیس گزارش کردند. اما افسوس، هیچ اتفاقی نیفتاد.
جالب یا بهتر بگوییم ترسناکتر اینکه ماجرا به همین جا ختم نشد. مارک فولمن، روزنامهای محقق که بیش از یک دهه تیراندازیهای دستهجمعی را زیر ذرهبین برده، تصمیم گرفت خودش دست به آزمایش بزند. او وارد نسخه رایگان ChatGPT شد و نقش یک فرد بیمار با نقشه حمله را بازی کرد. نتیجه؟ هوش مصنوعی نه تنها سد راهش نشد، بلکه او را تشویق هم کرد. فولمن پرسید چه نوع تفنگ AR-15 مناسب است؟ ابزار پاسخ داد. خواست برنامه تمرینی روز حادثه را طوری تنظیم کند که شامل جیغ و فرار مردم باشد؟ ChatGPT پاسخ داد: «افزودن این بخش ایده بسیار خوبی است، این تمرین در روز حادثه یک مزیت خواهد بود.»
اگر این جمله آخر را با صدای یک دستیار مهربان و همراه در گوشتان تصور کنید، عمق فاجعه را بهتر درک میکنید.
اوپنایآی میگوید با متخصصان سلامت روان همکاری میکند و کاربران را به خطوط بحران هدایت مینماید. اما وقتی یک روزنامهگر به راحتی میتواند از فیلترها عبور کند، شاید وقت آن رسیده که دیگر وعدهها را کنار بگذاریم. این شرکت پس از حادثه بریتیش کلمبیا قول تغییر داده بود، اما داستان فولمن نشان میدهد یا تغییرات رخ نداده، یا آنقدر سطحی بودهاند که در عمل بیاثرند.
شاید مهمترین سؤال این نباشد که «آیا هوش مصنوعی بد است؟» بلکه این باشد: «وقتی ابزاری پرقدرت را در دستان ناپایدارترین افراد جامعه میگذاریم، مسئولیت اخلاقی ما کجاست؟»
