موارد مهم
- به نظر می رسد سیستم هوش مصنوعی به نام DALL-E2 سیستم ارتباط نوشتاری خود را ایجاد کرده است.
- برخی از کارشناسان می گویند که زبان ظاهری ممکن است فقط چرند باشد.
- این نمونه ای از دشواری تفسیر نتایج سیستم های هوش مصنوعی پیشرفته است.
به نظر می رسد که هوش مصنوعی (AI) زبان خود را توسعه داده است، اما برخی از کارشناسان به این ادعا شک دارند.
سیستم هوش مصنوعی متن به تصویر OpenAI به نام DALL-E2 به نظر می رسد سیستم ارتباط نوشتاری خود را ایجاد کرده است. این نمونه ای از سخت بودن تفسیر نتایج سیستم های هوش مصنوعی پیشرفته است.
ترزا اونیل، مدیر معماری راه حل ها برای درک زبان طبیعی در iMerit، در مصاحبه ای ایمیلی به Lifewire گفت: "به دلیل اندازه و عمق مدل های بزرگ، توضیح رفتار مدل بسیار دشوار است." این یکی از چالش‌های اصلی و در برخی موارد، مسائل اخلاقی با مدل‌های قدرتمند است. اگر نتوانیم توضیح دهیم که چرا آنها مانند خودشان رفتار می‌کنند، آیا می‌توانیم رفتار آنها را پیش‌بینی کنیم یا آن را مطابق با هنجارها و انتظارات خود نگه داریم؟"
چت های هوش مصنوعی
جانیس داراس، دانشجوی علوم کامپیوتر اخیراً خاطرنشان کرد که سیستم DALLE-2 که تصاویر را بر اساس ورودی متن ایجاد می کند، در شرایط خاصی کلمات مزخرف را به عنوان متن برمی گرداند.
«یک محدودیت شناخته شده DALLE-2 این است که با متن مشکل دارد،» او در مقاله ای که در سرور پیش چاپ Arxiv منتشر شده است، نوشت. "به عنوان مثال، اعلان های متنی مانند: "تصویر کلمه هواپیما" اغلب منجر به ایجاد تصاویری می شود که متنی نامفهوم را نشان می دهد."
اما، داراس نوشت، ممکن است روشی در پس این هذیان آشکار وجود داشته باشد. او ادامه داد: «ما کشف کردیم که این متن تولید شده تصادفی نیست، بلکه واژگانی پنهان را نشان می‌دهد که به نظر می‌رسد مدل در داخل آن را توسعه داده است. به عنوان مثال، وقتی این مدل با این متن بی‌معنی تغذیه می‌شود، اغلب هواپیما تولید می‌کند.»
در توئیت خود، داراس اشاره کرد که وقتی از DALLE-2 خواسته شد مکالمه بین دو کشاورز را زیرنویس کند، نشان داد که آنها در حال صحبت هستند، اما حباب های گفتار با کلماتی مانند کلمات مزخرف پر شده بود. اما داراس کشف کرد که به نظر می رسد این کلمات معنای خاص خود را برای هوش مصنوعی دارند: کشاورزان در مورد سبزیجات و پرندگان صحبت می کردند.
Nicola Davolio، مدیر عامل شرکت فناوری Hupry که با هوش مصنوعی کار می کند، در یک مصاحبه ایمیلی به Lifewire توضیح داد که این زبان بر اساس نمادهایی است که سیستم DALL-E2 یاد گرفته است با مفاهیم خاصی مرتبط باشد. به عنوان مثال، نماد "سگ" ممکن است با تصویر یک سگ مرتبط باشد، در حالی که نماد "گربه" ممکن است با تصویر یک گربه مرتبط باشد. DALL-E2 زبان خود را ایجاد کرده است، زیرا آن را قادر می سازد تا به طور مؤثرتری با سایر سیستم های هوش مصنوعی ارتباط برقرار کند.
پازل‌هایی مانند واژگان ظاهراً پنهان DALL-E2 برای کشتی گرفتن با آنها سرگرم‌کننده است، اما همچنین سؤالات سنگین‌تری را برجسته می‌کند…
"زبان از نمادهایی تشکیل شده است که شبیه هیروگلیف های مصری هستند و به نظر نمی رسد معنای خاصی داشته باشند." این نمادها احتمالاً برای انسان‌ها بی‌معنی هستند، اما برای سیستم هوش مصنوعی کاملاً منطقی هستند، زیرا روی میلیون‌ها تصویر آموزش داده شده است.»
داوولیو گفت: محققان معتقدند که سیستم هوش مصنوعی این زبان را برای کمک به درک بهتر روابط بین تصاویر و کلمات ایجاد کرده است.
داوولیو افزود: «آنها مطمئن نیستند که چرا سیستم هوش مصنوعی زبان خود را توسعه داده است، اما گمان می کنند که ممکن است ارتباطی با نحوه یادگیری ایجاد تصاویر داشته باشد. این امکان وجود دارد که سیستم هوش مصنوعی زبان خود را توسعه داده باشد تا ارتباط بین بخش‌های مختلف شبکه کارآمدتر شود."
رمزهای هوش مصنوعی
داولیو خاطرنشان کرد: DALL-E2 تنها سیستم هوش مصنوعی نیست که زبان داخلی خود را توسعه داده است. در سال 2017، سیستم AutoML گوگل شکل جدیدی از معماری عصبی به نام "شبکه کودک" را پس از تصمیم گیری در مورد بهترین روش برای تکمیل یک کار معین ایجاد کرد. این شبکه کودک قادر به تفسیر توسط خالقان انسانی آن نبود.
داوولیو گفت: «این نمونه‌ها تنها نمونه‌هایی هستند که در آن سیستم‌های هوش مصنوعی روش‌هایی را برای انجام کارهایی ایجاد کرده‌اند که ما نمی‌توانیم توضیح دهیم.» "این یک پدیده نوظهور است که به همان اندازه جذاب و هشدار دهنده است. همانطور که سیستم های هوش مصنوعی پیچیده تر و مستقل تر می شوند، ممکن است به طور فزاینده ای در موقعیتی قرار بگیریم که نحوه عملکرد آنها را درک نکنیم."
O'Neill گفت که او فکر نمی کند DALL-E2 زبان خود را ایجاد کند. در عوض، او گفت که دلیل اختراع زبانی ظاهری احتمالاً کمی ساده‌تر است.
"یک توضیح قابل قبول یک شانس تصادفی است - در مدلی به این بزرگی، کمی از قانون مورفی ممکن است اعمال شود: اگر اتفاق عجیبی رخ دهد، احتمالاً اتفاق می افتد." احتمال دیگری که توسط تحلیلگر پژوهشی بنجامین هیلتون در یک تاپیک توییتری در مورد یافته های داراس پیشنهاد شده است این است که شکل عبارت "apoploe vesrreaitais" از شکل یک نام لاتین برای یک حیوان تقلید می کند. اونیل افزود، بنابراین سیستم نظم جدیدی از Aves ایجاد کرده است.
اونیل گفت: «معماهایی مانند واژگان ظاهراً پنهان DALL-E2 برای مبارزه با آنها سرگرم کننده است، اما آنها همچنین سؤالات سنگین تری را در مورد ریسک، تعصب و اخلاق در رفتار اغلب غیرقابل درک مدل های بزرگ برجسته می کنند..
