موارد مهم
- شرکت ها به طور فزاینده ای از هوش مصنوعی استفاده می کنند که توضیح می دهد چگونه به نتایج می رسد.
- LinkedIn اخیراً پس از استفاده از هوش مصنوعی که مشتریان در معرض خطر لغو را پیش‌بینی کرده بود، درآمد اشتراک خود را افزایش داد و توضیح داد که چگونه به نتیجه رسیده است.
- کمیسیون تجارت فدرال گفته است که هوش مصنوعی که قابل توضیح نیست، قابل بررسی است.
یکی از داغترین روندهای جدید در نرم افزار می تواند هوش مصنوعی (AI) باشد که توضیح می دهد که چگونه نتایج خود را به دست می آورد.
هوش مصنوعی قابل توضیح وقتی شرکت‌های نرم‌افزاری تلاش می‌کنند هوش مصنوعی را قابل درک‌تر کنند، نتیجه می‌دهد. لینکدین اخیراً پس از استفاده از هوش مصنوعی که مشتریان در معرض خطر لغو اشتراک را پیش‌بینی می‌کرد، درآمد اشتراک خود را افزایش داد و توضیح داد که چگونه به نتیجه رسیده است.
تراویس نیکسون، مدیر عامل SynerAI و مدیر ارشد علوم داده، خدمات مالی مایکروسافت، در مصاحبه ای با لایف وایر به لایف وایر گفت "هوش مصنوعی قابل توضیح این است که بتوان به خروجی اعتماد کرد و همچنین فهمید که دستگاه چگونه به آنجا رسیده است.".
""چطور؟" نیکسون افزود: این سوالی است که برای بسیاری از سیستم‌های هوش مصنوعی مطرح می‌شود، به خصوص زمانی که تصمیم‌هایی گرفته می‌شود یا خروجی‌هایی تولید می‌شوند که ایده‌آل نیستند. "از رفتار ناعادلانه با نژادهای مختلف گرفته تا اشتباه گرفتن سر کچل با فوتبال، ما باید بدانیم چرا سیستم‌های هوش مصنوعی نتایج خود را تولید می‌کنند. هنگامی که "چگونه" را فهمیدیم، شرکت‌ها و افراد را برای پاسخ دادن به "بعدش؟" قرار می‌دهد.»
آشنایی با هوش مصنوعی
AI دقیق ثابت کرده است و انواع مختلفی از پیش بینی ها را انجام می دهد. اما هوش مصنوعی اغلب قادر است توضیح دهد که چگونه به نتایج خود رسیده است.
و تنظیم‌کننده‌ها به مشکل توضیح‌پذیری هوش مصنوعی توجه دارند. کمیسیون تجارت فدرال گفته است که هوش مصنوعی که قابل توضیح نیست، قابل بررسی است. اتحادیه اروپا در حال بررسی تصویب قانون هوش مصنوعی است که شامل الزاماتی است که کاربران بتوانند پیش‌بینی‌های هوش مصنوعی را تفسیر کنند.
Linkedin از جمله شرکت هایی است که فکر می کنند هوش مصنوعی قابل توضیح می تواند به افزایش سود کمک کند. پیش از این، فروشندگان لینکدین به دانش خود متکی بودند و زمان زیادی را صرف بررسی داده‌های آفلاین می‌کردند تا شناسایی کنند که کدام حساب‌ها احتمالاً به فعالیت خود ادامه می‌دهند و در طول تمدید قرارداد بعدی به چه محصولاتی علاقه‌مند خواهند بود. برای حل این مشکل، لینکدین برنامه ای به نام CrystalCandle را راه اندازی کرد که روندها را شناسایی کرده و به فروشندگان کمک می کند.
در مثال دیگری، نیکسون گفت که در طول ایجاد یک مدل تعیین سهمیه برای نیروی فروش یک شرکت، شرکت او قادر به ترکیب هوش مصنوعی قابل توضیح برای شناسایی ویژگی‌هایی است که به یک استخدام جدید فروش موفق اشاره می‌کند..
"با این خروجی، مدیریت این شرکت توانست تشخیص دهد که کدام فروشنده‌ها را باید در "مسیر سریع" قرار دهد و کدام یک از آنها به مربیگری نیاز دارند، همه اینها قبل از بروز هر مشکل بزرگی است.
کاربردهای فراوان برای هوش مصنوعی قابل توضیح
نیکسون گفت: هوش مصنوعی قابل توضیح در حال حاضر به عنوان یک بررسی روده برای اکثر دانشمندان داده استفاده می شود. محققان مدل خود را از طریق روش‌های ساده اجرا می‌کنند، مطمئن می‌شوند که هیچ چیز کاملاً نامنظم نیست، سپس مدل را ارسال می‌کنند.
نیکسون افزود: «این تا حدی به این دلیل است که بسیاری از سازمان‌های علم داده سیستم‌های خود را بر اساس «زمان بیش از ارزش» به‌عنوان KPI بهینه‌سازی کرده‌اند که منجر به فرآیندهای شتاب‌زده و مدل‌های ناقص می‌شود.
من نگران هستم که واکنش مدل‌های غیرمسئولانه بتواند صنعت هوش مصنوعی را به شکلی جدی بازگرداند.
مردم اغلب با نتایجی که هوش مصنوعی نمی تواند توضیح دهد متقاعد نمی شوند. راج گوپتا، مدیر ارشد مهندسی در Cogito، در ایمیلی گفت که شرکت او مشتریان را مورد بررسی قرار داده است و متوجه شده است که تقریباً نیمی از مصرف کنندگان (43٪) درک مثبت تری از یک شرکت و هوش مصنوعی خواهند داشت اگر شرکت ها در مورد استفاده از آنها صریح تر باشند. از تکنولوژی
و فقط داده های مالی نیستند که از هوش مصنوعی قابل توضیح کمک می گیرند. سامانتا کلینبرگ، دانشیار در استیونز، یکی از حوزه‌هایی که از رویکرد جدید سود می‌برد، داده‌های تصویری است، جایی که به راحتی می‌توان نشان داد که کدام بخش‌های تصویر ضروری است و در کجا برای انسان آسان است که بداند آیا این اطلاعات منطقی است یا خیر. موسسه فناوری و یک متخصص در هوش مصنوعی قابل توضیح، از طریق ایمیل به Lifewire گفت.
«انجام این کار با EKG یا داده های مانیتور مداوم قند بسیار سخت تر است.» کلاینبرگ افزود.
نیکسون پیش بینی کرد که هوش مصنوعی قابل توضیح اساس هر سیستم هوش مصنوعی در آینده خواهد بود. او گفت و بدون هوش مصنوعی قابل توضیح، نتایج می تواند وحشتناک باشد.
"امیدوارم در این زمینه به اندازه کافی پیشرفت کنیم تا هوش مصنوعی قابل توضیح را در سال های آینده بدیهی بدانیم و امروز به گذشته نگاه کنیم و از اینکه کسی آنقدر دیوانه خواهد بود که مدل هایی را که نمی فهمد به کار می برد، شگفت زده می شود. ، " او اضافه کرد."اگر ما آینده را به این شکل ملاقات نکنیم، من نگران هستم که واکنش مدل‌های غیرمسئولانه بتواند صنعت هوش مصنوعی را به حالتی جدی بازگرداند."
