موارد مهم
- یک محقق برجسته می گوید هوش مصنوعی از قبل هوشیار است.
- اما سایر کارشناسان هوش مصنوعی می گویند که رایانه ها تا دستیابی به توانایی های شناختی در سطح انسانی از جمله آگاهی فاصله زیادی دارند.
- تعیین اینکه آیا چیزی آگاهانه است می تواند مشکل باشد.
ایده هوش مصنوعی آگاهانه (AI) تصاویری از ماشین‌هایی را به تصویر می‌کشد که جهان را تسخیر می‌کنند، اما کارشناسان در مورد جدی گرفتن این مفهوم اختلاف نظر دارند.
یک محقق برتر هوش مصنوعی اخیرا ادعا کرد که هوش مصنوعی در حال حاضر هوشمندتر از آن چیزی است که ما فکر می کنیم. Ilya Sutskever، دانشمند ارشد گروه تحقیقاتی OpenAI، در توییتی نوشت: «ممکن است شبکه‌های عصبی بزرگ امروزی کمی هوشیار باشند». اما سایر کارشناسان هوش مصنوعی می گویند که برای تعیین چنین چیزی خیلی زود است.
چارلز سیمون، مدیر عامل FutureAI در مصاحبه ای با Lifewire به Lifewire گفت: "برای آگاه بودن، یک موجودیت باید از وجود خود در محیط خود آگاه باشد و اقداماتی که انجام می دهد بر آینده آن تاثیر می گذارد." "هیچکدام از اینها در هوش مصنوعی فعلی وجود ندارد."
فوق بشر؟
Sutskever قبلاً هشدار داده بود که هوش مصنوعی فوق هوشمند می تواند مشکلاتی ایجاد کند. او در مصاحبه با مستند هوش مصنوعی iHuman گفت که هوش مصنوعی پیشرفته "همه مشکلاتی را که امروز داریم حل می کند" اما همچنین هشدار داد که آنها "پتانسیل ایجاد دیکتاتوری های بی نهایت پایدار را دارند."
OpenAI به عنوان یک سازمان غیرانتفاعی با هدف جلوگیری از خطرات رایانه های هوشمند تأسیس شد، اما همچنین تحقیقاتی را برای ایجاد هوش مصنوعی انجام داده است.
در حالی که بسیاری از دانشمندان ادعای سایمون مبنی بر هوشیاری هوش مصنوعی را رد کرده اند، او حداقل یک مدافع معروف دارد. Tamay Besiroglu، دانشمند کامپیوتر MIT در یک توییت از Sutskever دفاع کرد.
بسیروغلو در توییتر نوشت: «دیدن بسیاری از افراد برجسته [یادگیری ماشینی] که این ایده را به سخره می گیرند، ناامیدکننده است. "این باعث می‌شود که من به توانایی این رشته برای پاسخگویی جدی به برخی از سوالات عمیق، عجیب و مهمی که بدون شک در چند دهه آینده با آنها مواجه خواهند شد، کمتر امیدوار باشم."
آگاهی چیست؟
حتی تعیین اینکه آیا چیزی آگاهانه است یا نه، می تواند مشکل باشد. Sneh Vaswani محقق هوش مصنوعی در ایمیلی به Lifewire گفت که هوشیاری دارای مراحل متعددی است. او گفت که هوش مصنوعی در مراحل اول "تازه های مناسبی" داشته است.
"امروزه، یک ماشین می تواند احساسات را درک کند، مشخصات شخصیتی بسازد و با شخصیت انسان سازگار شود." "همانطور که هوش مصنوعی در حال تکامل است، سریعتر از آنچه ما حتی می توانیم درک کنیم به سمت مراحل پیشرفته آگاهی حرکت می کند."
تعاریف زیادی از آگاهی وجود دارد، و برخی ادعا می کنند که درختان و مورچه ها تا حدودی آگاه هستند، ایده ای که "تعریف را فراتر از استفاده معمول می کشد." او معتقد است که خودآگاهی عبارت است از درک خود به عنوان یک موجود آگاه.
سایمون گفت: "هم آگاهی و هم خودآگاهی در تعدادی از رفتارها مانند نشان دادن علاقه شخصی و همچنین در یک احساس درونی ظاهر می شوند." "اگر هوش مصنوعی واقعا هوشیار باشد، ما قادر خواهیم بود رفتارها را مشاهده کنیم، اما اطلاعات کمی از احساسات درونی خواهیم داشت. ممکن است هوشیاری جعلی را با کتابخانه ای از رفتارهای ظاهرآگاهانه مانند اشاره به خود به عنوان "من"، جعل کنیم، اما موجودیت واقعاً آگاه قادر است چندین پیامد را برنامه ریزی و در نظر بگیرد."
واسوانی نسبت به نتیجه ایجاد هوش مصنوعی فوق‌هوشمند خوش بین است، اگرچه ایلان ماسک از جمله کسانی است که هشدار داده است که هوش مصنوعی آگاهانه می‌تواند به نابودی بشریت منجر شود.
"وقتی هوش مصنوعی به طور کامل آگاهی پیدا کند، یک جامعه ناقص را تکمیل می کند: انسان و هوش مصنوعی در کنار هم زندگی خواهند کرد." "ما با هم به اهداف بزرگتری دست خواهیم یافت و هوش مصنوعی به طور یکپارچه با دنیای ما ترکیب خواهد شد."
برخی از کارشناسان هوش مصنوعی می گویند که مفهوم هوش مصنوعی آگاهانه بیشتر علمی تخیلی است تا واقعیت. تریونی گاندی، مسئول هوش مصنوعی شرکت Dataiku، در ایمیلی به Lifewire گفت: این موضوع بیش از حد بر روبات‌های «سبک پایان‌دهنده» تأکید می‌کند و نه آسیب احتمالی واقعی ناشی از هوش مصنوعی مغرضانه که از قبل وجود داشته است.
گاندی گفت: "شاید ما با ماشین قبلی قبلی روبه رو نباشیم، اما با چالش های واقعی روبرو هستیم." "این را می توان در استفاده نادرست از هوش مصنوعی بسیار مغرضانه برای پیش بینی هزینه های مراقبت های بهداشتی، در ابزارهای استخدامی که رزومه ها را به طور ناعادلانه فیلتر می کنند، یا در مدل های اعتباری که نابرابری های موجود را تقویت می کند، مشاهده شد."
گاندی استدلال می‌کند هوش مصنوعی ذاتاً خوب یا بد نیست، فقط داده‌ها هستند که آنچه را که ما به آن می‌گوییم انجام می‌دهند.
سوگیری های انسانی به مدل های داده ها و یادگیری ماشین راه پیدا می کند، بنابراین ما باید در مورد داده هایی که استفاده می کنیم، چرایی استفاده از هوش مصنوعی در این ظرفیت را انتخاب می کنیم و چگونه انتخاب ها به مردم ارائه می شوند، کاملاً واضح باشیم. گاندی افزود که تحت تأثیر یک سیستم هوش مصنوعی قرار گرفته است.
