افزایش شتابان سرمایه‌گذاری در حوزه هوش مصنوعی و عدم وجود چارچوب نظارتی بین‌المللی، نگرانی از خروج این فناوری از مدار کنترل انسانی را به یکی از چالش‌های جدی فراروی جامعه جهانی تبدیل کرده است. پژوهشگران نسبت به سناریوی «ابرهوش» و خودبهبوددهی بازگشتی هشدار می‌دهند و بر تدوین هرچه سریع‌تر قواعد مشترک بین‌المللی تأکید دارند.

به گزارش کیوسک خبر، هوش مصنوعی در سال‌های اخیر به یکی از مهم‌ترین حوزه‌های سرمایه‌گذاری و رقابت فناوری در جهان تبدیل شده است؛ اما در کنار خوش‌بینی‌های گسترده درباره مزایای اقتصادی و علمی این فناوری، نگرانی‌های جدی نیز در میان پژوهشگران و حتی برخی از فعالان برجسته صنعت هوش مصنوعی وجود دارد. پرسش کلیدی این است: آیا هوش مصنوعی از کنترل انسان خارج می‌شود؟

بر اساس جدیدترین گزارش‌های مراکز پژوهشی معتبر، حجم سرمایه‌گذاری جهانی در حوزه هوش مصنوعی در دهه‌های آینده از بودجه کلان‌ترین پروژه‌های علمی و نظامی تاریخ نیز فراتر خواهد رفت. با این حال، آنچه نگرانی‌ها را تشدید کرده، نبود هرگونه پیمان بین‌المللی الزام‌آور برای مدیریت ریسک‌های این فناوری است. در صنایعی مانند انرژی هسته‌ای، پروتکل‌های ایمنی سخت‌گیرانه تا مرز «خطای صفر» طراحی شده‌اند، اما حوزه هوش مصنوعی هنوز فاقد قواعد شفاف و متعهدکننده جهانی است.

یکی از مهم‌ترین سناریوهای هشداردهنده، مفهوم «خودبهبوددهی بازگشتی» است؛ وضعیتی که در آن یک سیستم هوش مصنوعی بتواند بدون دخالت مستقیم انسان، نسخه‌های پیشرفته‌تر خود را طراحی و تولید کند. در صورت تحقق چنین سناریویی، برخی نظریه‌پردازان از احتمال ظهور «ابرهوش» سخن می‌گویند؛ سامانه‌ای با توانایی‌های شناختی به‌مراتب فراتر از انسان که می‌تواند از کنترل بشر خارج شود.

این نگرانی‌ها تنها محدود به محافل علمی و دانشگاهی نیست. در ماه‌های اخیر، جمعی از پژوهشگران برجسته هوش مصنوعی در بیانیه‌ای مشترک، بر ضرورت ایجاد نهادهای نظارتی فراملی و تدوین معاهداتی مشابه کنترل تسلیحات تأکید کرده‌اند. به باور آنان، ایجاد «سامانه‌های ترمز و توازن» در معماری الگوریتم‌ها، شفافیت در فرایند آموزش داده‌ها و تعیین خطوط قرمز برای کاربردهای نظامی و امنیتی، از گام‌های حیاتی برای جلوگیری از خروج این فناوری از مدار کنترل انسانی است.

همزمان، برخی از کارشناسان بر این باورند که نگرانی‌ها درباره خروج هوش مصنوعی از کنترل انسان، نباید به سد راه پیشرفت علمی تبدیل شود، بلکه باید به عنوان یک هشدار جدی برای مدیریت مسئولانه این فناوری تلقی گردد. آنان تأکید دارند که پاسخ به پرسش «آیا هوش مصنوعی از کنترل انسان خارج می‌شود؟» نه در آزمایشگاه‌ها، بلکه در میزهای مذاکره و اراده سیاسی ملت‌ها رقم خواهد خورد.

با این حال، آنچه مسلم است، فوریت تدوین قواعد جهانی برای همزیستی ایمن با هوش‌های فراتر از انسان است. در غیر این صورت، شاید هوش مصنوعی نه به دست انسان، که به دستِ خودِ انسان از مهار خارج شود و آنگاه پرسش امروز، به تراژدی فردا تبدیل گردد.