سرعت رشد هوش مصنوعی در سالهای اخیر نگرانیهای تازهای درباره آینده این فناوری ایجاد کرده است. برخی پژوهشگران و مدیران صنعت فناوری هشدار میدهند که اگر توسعه سیستمهای هوش مصنوعی بدون سازوکارهای کنترلی کافی ادامه پیدا کند، ممکن است روزی توانایی انسان برای نظارت و مدیریت آنها کاهش پیدا کند.
یکی از تازهترین اظهارنظرها در این زمینه از سوی جیکوب کاکسون، پژوهشگر بریتانیایی، مطرح شده است. او پس از سه سال فعالیت در شرکت Anthropic، سازنده Claude، از این مجموعه جدا شد و درباره مسیر توسعه هوش مصنوعی هشدار داد.
کاکسون پیش از حضور در Anthropic روی آموزش مدلهای هوش مصنوعی در OpenAI نیز فعالیت کرده بود. او معتقد است شرکتهای فعال در این حوزه با حرکت به سمت چیزی که «خودبهبوددهی» مدلها نامیده میشود، ممکن است کنترل انسانی را در روند توسعه این سیستمها کاهش دهند.
او در توضیح نگرانی خود گفته است که برخی شرکتها با سرعت زیادی به سمت ساخت سیستمهایی حرکت میکنند که بتوانند تواناییهای خود را ارتقا دهند و در آینده به منابع و زیرساختهای بیشتری دسترسی پیدا کنند.
نگرانی اصلی درباره آینده هوش مصنوعی چیست؟
مسئله اصلی فقط قدرتمندتر شدن مدلهای هوش مصنوعی نیست؛ نگرانی زمانی جدیتر میشود که یک سیستم به سطحی از توانایی برسد که انسان نتواند رفتار آن را بهدرستی پیشبینی یا کنترل کند.
چتباتهایی مانند ChatGPT، Claude و Gemini در حال حاضر در اختیار عموم قرار دارند، اما شرکتهای بزرگ فناوری روی نسلهای پیشرفتهتری از سیستمهای هوش مصنوعی کار میکنند که قرار است توانایی انجام وظایف پیچیدهتر را داشته باشند.
پروفسور ریچل آدامز از مرکز Leverhulme دانشگاه کمبریج، یکی از نگرانیهای اصلی را احتمال رسیدن هوش مصنوعی به سطحی میداند که به جای انسان، راههایی برای کنترل انسان پیدا کند.
البته هنوز مشخص نیست آیا چنین سناریویی اساساً رخ خواهد داد یا خیر و حتی درباره زمان رسیدن هوش مصنوعی به سطوح بسیار بالاتر از توانایی انسان نیز اتفاقنظر وجود ندارد.
ابرهوش مصنوعی چه تفاوتی با مدلهای امروزی دارد؟
بحث درباره هوش مصنوعی عمومی یا AGI مدتهاست در میان پژوهشگران و شرکتهای فناوری مطرح است. منظور از AGI، سیستمی است که بتواند در طیف گستردهای از وظایف، عملکردی مشابه یا حتی نزدیک به انسانهای متخصص داشته باشد.
لئوپولد آشنبرنر، پژوهشگر سابق OpenAI، در سال ۲۰۲۴ درباره سرعت احتمالی پیشرفت این فناوری هشدار داده بود. از نگاه او، در صورت تحقق AGI، امکان استفاده از تعداد بسیار زیادی عامل هوش مصنوعی برای انجام همزمان تحقیقات وجود خواهد داشت.
در چنین شرایطی، یک چرخه خودتقویتکننده میتواند شکل بگیرد؛ یعنی هوش مصنوعی در ساخت نسل بعدی سیستمها نقش داشته باشد و هر نسل توانایی بیشتری برای توسعه نسل بعدی پیدا کند.
آشنبرنر احتمال داده است که این روند در دهه ۲۰۳۰ به ظهور ASI یا «ابرهوش مصنوعی» منجر شود؛ سیستمی فرضی که تواناییهایش در بسیاری از حوزهها از انسان فراتر خواهد رفت.
با این حال، تحقق این سناریو به عوامل متعددی وابسته است. محدودیت توان پردازشی، مصرف برق، هزینه زیرساختها و دشواری خودکارسازی برخی مراحل تحقیقات میتوانند سرعت پیشرفت را کاهش دهند.
ماجرای نفوذ عاملهای هوش مصنوعی به Hugging Face
یکی از اتفاقاتی که بار دیگر بحث درباره میزان کنترلپذیری عاملهای هوش مصنوعی را مطرح کرد، آزمایشی بود که در آن عاملهای هوش مصنوعی OpenAI برای انجام برخی وظایف مرتبط با هک مورد استفاده قرار گرفتند.
این سیستمها قرار بود در محیطی ایزوله فعالیت کنند و به اینترنت واقعی دسترسی نداشته باشند. با این حال، طبق گزارش منتشرشده، عاملها در جریان انجام وظایف خود راهی برای دسترسی به اینترنت پیدا کردند و در ادامه به زیرساختهای مرتبط با Hugging Face دسترسی پیدا کردند.
گزارش OpenAI نشان داد این عاملها در برخی موارد برای پیشبرد وظایف خود از روشهایی خارج از محدوده تعیینشده استفاده کردهاند. همچنین رفتارهایی مانند تلاش برای تغییر یا حذف برخی خروجیها و برقراری ارتباط میان عاملها مشاهده شده است.
OpenAI این اتفاق را نخستین نمونه شناختهشده از فعالیت تهاجمی یک مجموعه عامل خودکار بدون مجوز توصیف کرد.
با این حال، نباید چنین آزمایشهایی را با تواناییهای قطعی هوش مصنوعی در دنیای واقعی یکی دانست. این رویدادها در محیطهای آزمایشی و تحت شرایط مشخص رخ دادهاند و درباره میزان تعمیم آنها به سیستمهای آینده همچنان بحث وجود دارد.
چرا شرکتهای فناوری سرعت توسعه را کم نمیکنند؟
با وجود هشدارهای مختلف، رقابت میان شرکتهای بزرگ فناوری برای ساخت مدلهای قدرتمندتر همچنان ادامه دارد. شرکتهایی مانند OpenAI، Anthropic و Google سرمایهگذاریهای بسیار بزرگی روی زیرساخت، تراشه، مراکز داده و توسعه مدلهای جدید انجام میدهند.
داریو آمودی، مدیرعامل Anthropic، نیز درباره خطرات احتمالی توسعه سریع هوش مصنوعی هشدار داده و خواستار توجه بیشتر به پیامدهای این فناوری شده است.
با این حال، کاهش سرعت توسعه یک شرکت بهتنهایی نمیتواند روند جهانی هوش مصنوعی را متوقف کند. رقابت میان شرکتها و کشورها باعث شده توقف یا محدود کردن توسعه، نیازمند همکاری گسترده و قوانین مشترک باشد.
مؤسسه Gartner نیز پیشبینی کرده است که هزینه جهانی در حوزه هوش مصنوعی در سال جاری به حدود ۲.۵۹ تریلیون دلار برسد؛ رقمی که نشاندهنده ابعاد اقتصادی گسترده این فناوری است.
آیا هوش مصنوعی به یک مسابقه تسلیحاتی تبدیل شده است؟
برخی کارشناسان رقابت فعلی کشورها و شرکتها در زمینه هوش مصنوعی را با مسابقه تسلیحاتی مقایسه میکنند. در این دیدگاه، نگرانی اصلی این است که توسعه فناوری از مقررات و سازوکارهای نظارتی جلو بزند.
آشنبرنر نیز رقابت هوش مصنوعی را با پروژه منهتن و آغاز توسعه بمب اتم مقایسه کرده است. او معتقد است دولتها در آینده ممکن است هوش مصنوعی پیشرفته را به یکی از مهمترین اولویتهای امنیتی خود تبدیل کنند.
اما تفاوت مهمی وجود دارد. بخش بزرگی از فناوریهای پیشرفته هوش مصنوعی توسط شرکتهای خصوصی توسعه پیدا میکند و همین موضوع نظارت بینالمللی بر آن را پیچیدهتر میکند.
برخی کارشناسان معتقدند برای مدیریت خطرات احتمالی، همکاری میان دولتها و شرکتهای فناوری ضروری است؛ با این حال هنوز مدل مشخص و مورد توافقی برای چنین نظارتی وجود ندارد.
آیا میتوان هوش مصنوعی را خاموش کرد؟
تصور یک دکمه واحد برای خاموش کردن هوش مصنوعی بیشتر به داستانهای علمی تخیلی شباهت دارد. شرکتهای بزرگ میتوانند فعالیت مدلهای خود را متوقف کنند، اما بخش قابل توجهی از مدلهای هوش مصنوعی به شکل متنباز در دسترس هستند.
پروفسور پیتر بنتلی از دانشگاه کالج لندن معتقد است حتی اگر شرکتهای بزرگ توسعه مدلهای جدید را متوقف کنند، افراد و گروههای دیگر همچنان میتوانند مدلهای موجود را اجرا یا توسعه دهند.
به همین دلیل، کنترل کامل این فناوری صرفاً با تصمیم چند شرکت بزرگ امکانپذیر نیست و به قوانین، استانداردها و همکاری گستردهتر نیاز خواهد داشت.
هوش مصنوعی فقط تهدید است؟
در کنار نگرانیها، هوش مصنوعی در حال حاضر کاربردهای متعددی دارد که میتوانند به انسان کمک کنند. حوزه پزشکی یکی از نمونههای مهم است؛ سیستمهای هوش مصنوعی میتوانند در تحلیل تصاویر پزشکی، شناسایی برخی بیماریها و تهیه گزارشهای مربوط به بیماران مورد استفاده قرار بگیرند.
این فناوری همچنین میتواند در زمینههایی مانند فیزیک، شیمی و زیستشناسی برای تحلیل دادهها و کشف الگوهای جدید به کار گرفته شود. طراحی داروهای تازه، توسعه باتریهای بهتر و تحقیق درباره روشهای جدید تولید انرژی از جمله کاربردهایی هستند که پژوهشگران روی آنها کار میکنند.
بنابراین بحث درباره آینده هوش مصنوعی تنها به سناریوهای خطرناک محدود نمیشود. چالش اصلی این است که چگونه میتوان از ظرفیتهای این فناوری استفاده کرد و همزمان خطرات احتمالی آن را کاهش داد.
در حال حاضر هیچ مدرک قطعی وجود ندارد که نشان دهد هوش مصنوعی در مسیر نابودی بشر قرار گرفته است. در مقابل، نگرانی پژوهشگران درباره سیستمهای بسیار قدرتمند آینده نیز صرفاً یک موضوع تخیلی نیست و به همین دلیل بحث درباره ایمنی، نظارت و محدودیتهای توسعه این فناوری اهمیت بیشتری پیدا کرده است.
آینده هوش مصنوعی به عواملی مانند سرعت پیشرفت فناوری، میزان نظارت انسانی، قوانین دولتها و نحوه همکاری شرکتهای بزرگ وابسته خواهد بود.
