موارد مهم
- تحقیق جدید نشان می دهد که ممکن است هیچ راهی برای کنترل هوش مصنوعی فوق هوشمند وجود نداشته باشد.
- یک مقاله ژورنالی استدلال می کند که کنترل هوش مصنوعی به فناوری بسیار پیشرفته تری از آنچه در حال حاضر داریم نیاز دارد.
- برخی از کارشناسان می گویند که هوش مصنوعی واقعاً هوشمند ممکن است زودتر از آنچه ما فکر می کنیم به اینجا برسد.
دانشمندان می گویند اگر انسان ها هوش مصنوعی فوق هوشمندی را توسعه دهند، ممکن است هیچ راهی برای کنترل آن وجود نداشته باشد.
هوش مصنوعی مدتهاست که یا به عنوان درمانی برای همه مشکلات بشریت یا یک آخرالزمان به سبک ترمیناتور تبلیغ می شود.با این حال، تا کنون، هوش مصنوعی حتی به سطح هوش انسانی هم نزدیک نشده است. اما طبق مقاله‌ای که اخیراً در مجله تحقیقات هوش مصنوعی منتشر شده است، حفظ هوش مصنوعی پیشرفته می‌تواند برای انسان‌ها مشکل بسیار پیچیده‌ای باشد.
مانوئل سبرین، یکی از نویسندگان مقاله، در یک انتشار خبری گفت: «ماشین فوق هوشمندی که جهان را کنترل می‌کند، شبیه داستان علمی تخیلی است.»
"اما در حال حاضر ماشین هایی وجود دارند که وظایف مهم خاصی را به طور مستقل انجام می دهند، بدون اینکه برنامه نویسان کاملاً درک کنند که چگونه آن را یاد گرفته اند. بنابراین این سوال مطرح می شود که آیا این ممکن است در مقطعی غیرقابل کنترل و برای بشریت خطرناک شود."
به زودی در یک سوپر کامپیوتر نزدیک شما
مقاله ژورنال استدلال می کند که کنترل هوش مصنوعی به فناوری بسیار پیشرفته تری از آنچه در حال حاضر داریم نیاز دارد.
در مطالعه خود، این تیم یک الگوریتم تئوری مهار را طراحی کردند که با شبیه سازی رفتار هوش مصنوعی و توقف آن در صورت مضر بودن، تضمین می کند که یک هوش مصنوعی فوق هوشمند تحت هیچ شرایطی نمی تواند به افراد آسیب برساند.اما نویسندگان دریافتند که چنین الگوریتمی نمی‌تواند ساخته شود.
"اگر مشکل را به قوانین اساسی علوم کامپیوتری تئوری تقسیم کنید، معلوم می شود که الگوریتمی که به هوش مصنوعی دستور می دهد دنیا را نابود نکند، می تواند به طور ناخواسته عملیات خود را متوقف کند." ایاد رهوان، مدیر مرکز انسان ها و ماشین ها در موسسه توسعه انسانی ماکس پلانک در آلمان، در این خبر گفت.
"اگر این اتفاق بیفتد، نمی دانید که آیا الگوریتم مهار هنوز در حال تجزیه و تحلیل تهدید است یا اینکه برای مهار هوش مصنوعی مضر متوقف شده است. در واقع، این باعث می شود که الگوریتم مهار غیر قابل استفاده باشد."
هوش مصنوعی واقعاً هوشمند ممکن است زودتر از آنچه ما فکر می کنیم به اینجا برسد، میکالیس وزیرگیانیس، استاد علوم کامپیوتر در École Polytechnique در فرانسه استدلال می کند. او در ایمیلی به Lifewire گفت: "هوش مصنوعی یک مصنوع انسانی است، اما به سرعت در حال تبدیل شدن به یک موجودیت مستقل است."
"نقطه بحرانی این خواهد بود که اگر/زمانی که تکینگی رخ دهد (یعنی زمانی که عوامل هوش مصنوعی به عنوان یک موجودیت هوشیاری داشته باشند) و بنابراین آنها ادعای استقلال، خودکنترلی و در نهایت تسلط خواهند داشت."
تکینگی در راه است
Vazirgiannis در پیش بینی ورود قریب الوقوع ابر هوش مصنوعی تنها نیست. معتقدان واقعی به تهدید هوش مصنوعی دوست دارند در مورد "تکینگی" صحبت کنند، که وزیرگیانیس توضیح می دهد این نکته است که هوش مصنوعی جایگزین هوش انسانی خواهد شد و "الگوریتم های هوش مصنوعی به طور بالقوه به وجود خود پی خواهند برد و شروع به رفتار خودخواهانه و همکاری خواهند کرد.".
طبق گفته Ray Kurzweil، مدیر مهندسی Google، این تکینگی قبل از اواسط قرن بیست و یکم به دست خواهد آمد. کورزویل به Futurism گفت: «2029 تاریخ ثابتی است که من پیش‌بینی کرده‌ام برای زمانی که هوش مصنوعی آزمون تورینگ معتبر را پشت سر می‌گذارد و بنابراین به سطوح هوش انسانی دست می‌یابد.»
اگر نمی توانیم خانه خود را تمیز کنیم، قرار است از چه کدی از هوش مصنوعی بخواهیم؟
"من تاریخ 2045 را برای "تکینگی" تعیین کرده ام، زمانی است که با ادغام با هوشی که ایجاد کرده ایم، هوش موثر خود را یک میلیارد برابر می کنیم."
اما همه کارشناسان هوش مصنوعی فکر نمی کنند که ماشین های هوشمند یک تهدید هستند. امانوئل ماگیوری، مشاور هوش مصنوعی در یک مصاحبه ایمیلی گفت: هوش مصنوعی که در دست توسعه است، احتمالاً برای توسعه دارو مفید است و هوش واقعی را نشان نمی دهد. او افزود: "هیجان بزرگی در مورد هوش مصنوعی وجود دارد که باعث می شود به نظر برسد که واقعاً انقلابی است." «سیستم‌های هوش مصنوعی فعلی به اندازه‌ای که عمومی شده دقیق نیستند و اشتباهاتی را مرتکب می‌شوند که یک انسان هرگز مرتکب نمی‌شود.»
کنترل هوش مصنوعی را در دست بگیرید، اکنون
وزیرگیانیس می گوید تنظیم هوش مصنوعی به گونه ای که از کنترل ما فرار نکند ممکن است دشوار باشد. شرکت ها، به جای دولت ها، منابعی را کنترل می کنند که هوش مصنوعی را تقویت می کند. او گفت: «حتی خود الگوریتم‌ها نیز معمولاً در آزمایشگاه‌های تحقیقاتی این نهادهای بزرگ و قدرتمند، معمولاً چند ملیتی، تولید و مستقر می‌شوند.»
"بنابراین بدیهی است که دولت های ایالت ها کنترل کمتر و کمتری بر منابع لازم برای کنترل هوش مصنوعی دارند."
برخی از کارشناسان می گویند که برای کنترل هوش مصنوعی فوق هوشمند، انسان ها باید منابع محاسباتی و توان الکتریکی را مدیریت کنند. وزیرگیانیس گفت: «فیلم‌های علمی تخیلی مانند ماتریکس پیش‌گویی‌هایی درباره آینده‌ای دیستوپیایی می‌سازند که در آن انسان‌ها توسط هوش مصنوعی به عنوان منابع انرژی زیستی استفاده می‌شوند.»
"حتی با وجود غیرممکن‌های دور، بشر باید اطمینان حاصل کند که کنترل کافی بر منابع محاسباتی (مانند خوشه‌های کامپیوتر، پردازنده‌های گرافیکی، ابررایانه‌ها، شبکه‌ها/ارتباطات) و البته نیروگاه‌هایی که برق را کاملاً تامین می‌کنند وجود دارد. برای عملکرد هوش مصنوعی مضر است."
مایکل برتولد، یکی از بنیانگذاران و مدیر عامل شرکت نرم‌افزار علم داده KNIME، در یک مصاحبه ایمیلی گفت: مشکل کنترل هوش مصنوعی این است که محققان همیشه نمی‌دانند چنین سیستم‌هایی چگونه تصمیم‌گیری می‌کنند. "اگر این کار را نکنیم، چگونه می توانیم آن را "کنترل" کنیم؟"
او افزود: "ما نمی فهمیم چه زمانی تصمیم کاملاً متفاوتی بر اساس ورودی های نامربوط برای ما گرفته می شود."
برتولد گفت: تنها راه برای کنترل خطر استفاده از هوش مصنوعی این است که اطمینان حاصل شود که تنها زمانی از آن استفاده می شود که این خطر قابل مدیریت باشد. او افزود: «به عبارت دیگر، دو مثال افراطی: هوش مصنوعی را مسئول نیروگاه هسته‌ای خود قرار ندهید، جایی که یک اشتباه کوچک می‌تواند عوارض جانبی فاجعه‌بار داشته باشد.»
"از سوی دیگر، هوش مصنوعی پیش بینی می کند که دمای اتاق شما باید کمی بالا یا پایین تنظیم شود، ممکن است ارزش این ریسک کوچک را برای نفع آسایش زندگی داشته باشد."
پیتر اسکات، مهندس سابق کامپیوتر ناسا در مصاحبه‌ای با ایمیل گفت: اگر نمی‌توانیم هوش مصنوعی را کنترل کنیم، بهتر است آداب را به آن بیاموزیم. او گفت: «در نهایت نمی‌توانیم از کنترل‌پذیری هوش مصنوعی بیشتر از آنچه که می‌توانیم از کنترل فرزندانمان اطمینان حاصل کنیم، اطمینان حاصل کنیم.»
"ما آنها را درست تربیت می کنیم و به بهترین ها امیدواریم؛ آنها تاکنون دنیا را نابود نکرده اند. برای اینکه آنها را خوب تربیت کنیم، به درک بهتری از اخلاق نیاز داریم؛ اگر نتوانیم خانه خود را تمیز کنیم، چه چیزی آیا قرار است از هوش مصنوعی بخواهیم کد را دنبال کند؟"
یوناتان وکسلر، محقق هوش مصنوعی، معاون اجرایی تحقیق و توسعه در OrCam می‌گوید اما همه امیدها برای نسل بشر از بین نمی رود. او در یک مصاحبه ایمیلی گفت: «در حالی که پیشرفت‌ها واقعاً چشمگیر هستند، اعتقاد شخصی من این است که هوش انسان را نباید دست کم گرفت. "ما به عنوان یک گونه چیزهای بسیار شگفت انگیزی از جمله خود هوش مصنوعی ایجاد کرده ایم."
جستجو برای هوش مصنوعی همیشه هوشمندتر ادامه دارد. اما شاید بهتر باشد قبل از اینکه خیلی دیر شود به این فکر کنیم که چگونه خلاقیت هایمان را کنترل می کنیم.
