موارد مهم
- کارشناسان می گویند هوش مصنوعی و الگوریتم های یادگیری ماشین رفتار انسان را زیر نظر دارند و می توانند یاد بگیرند که آن را دستکاری کنند.
- محققان اخیراً راهی برای یافتن و بهره‌برداری از آسیب‌پذیری‌ها در روش‌های انتخاب افراد با استفاده از هوش مصنوعی ایجاد کرده‌اند.
- یکی از ناظران می گوید پیچیده ترین الگوریتم رسانه های اجتماعی در حال حاضر TikTok است.
کارشناسان می گویند هوش مصنوعی (AI) و الگوریتم های یادگیری ماشین به طور فزاینده ای در حال یادگیری نحوه تأثیرگذاری بر رفتار کاربران هستند.
محققان آژانس ملی علوم استرالیا اخیراً راهی برای یافتن و بهره‌برداری از آسیب‌پذیری‌ها در روش‌های انتخاب افراد با استفاده از هوش مصنوعی ایجاد کرده‌اند. آخرین تحقیق تنها یکی از موجی از سیستم های مبتنی بر هوش مصنوعی است که برای دستکاری تصمیم گیری انسان طراحی شده است.
کنتارو تویاما، استاد دانشکده اطلاعات دانشگاه میشیگان و نویسنده کتاب Geek Heresy: Rescuing Social Change from the Cult of Technology، " راه های بسیاری که هوش مصنوعی از قبل بر رفتار تاثیر می گذارد پایانی ندارد." ، در یک مصاحبه ایمیلی گفت.
"در واقع، اگر تا به حال جستجوی گوگل انجام داده باشید و پیوندی را دنبال کرده باشید، تحت تاثیر یک سیستم هوش مصنوعی قرار گرفته اید که علایق شما را حدس زده و نتایجی را که فکر می کند بیشتر به شما مرتبط است، نشان می دهد."
هوش مصنوعی در مقابل انسانها
در تحقیقات استرالیایی که در مقاله اخیر منتشر شده است، شرکت کنندگان انسانی در آزمایش های مختلف بازی هایی را علیه رایانه انجام دادند. در آزمایش اول شرکت‌کنندگان روی جعبه‌های قرمز یا آبی کلیک کردند تا پول کسب کنند.
هوش مصنوعی در حدود 70 درصد مواقع موفق بود، الگوهای انتخاب شرکت‌کنندگان را یاد گرفت و آنها را به سمت یک انتخاب خاص هدایت کرد.
در آزمایش دیگری، شرکت‌کنندگان صفحه‌ای را تماشا کردند و زمانی که نماد خاصی به آنها نشان داده شد، دکمه‌ای را فشار دادند، یا زمانی که نماد دیگری به آنها پیشنهاد شد، آن را فشار ندادند. هوش مصنوعی یاد گرفت که نمادها را دوباره مرتب کند، بنابراین شرکت کنندگان خطاهای بیشتری مرتکب شدند.
، محققان نتیجه گرفتند که نتیجه آزمایش ها این بود که هوش مصنوعی از پاسخ های شرکت کنندگان آموخت. سپس دستگاه آسیب‌پذیری‌ها را در تصمیم‌گیری افراد شناسایی و هدف قرار داد. در واقع، هوش مصنوعی می‌تواند شرکت‌کنندگان را برای انجام اقدامات خاص دستکاری کند.
ناظران می گویند این واقعیت که هوش مصنوعی یا یادگیری ماشینی می تواند افراد را دستکاری کند، جای تعجب ندارد.
تامارا شوارتز، استادیار امنیت سایبری و مدیریت کسب و کار در کالج یورک پنسیلوانیا، در یک مصاحبه ایمیلی گفت: "هوش مصنوعی هر روز بر رفتار ما تأثیر می گذارد."
ما همیشه در مورد الگوریتم‌های برنامه‌های رسانه‌های اجتماعی مانند فیس‌بوک یا توییتر می‌شنویم. این الگوریتم‌ها توجه ما را به محتوای مرتبط معطوف می‌کنند و جلوه «حفظه اکو» را ایجاد می‌کنند که به نوبه خود بر رفتار ما تأثیر می‌گذارد.»
TikTok در حال تماشا است
پیچیده ترین الگوریتم رسانه های اجتماعی در حال حاضر TikTok است، شوارتز گفت. این برنامه آنچه را که به آن علاقه دارید، مدت زمانی که چیزی را تماشا می‌کنید، و سرعتی که چیزی را نادیده می‌گیرید تجزیه و تحلیل می‌کند، سپس پیشنهادات خود را اصلاح می‌کند تا شما را تماشا کند.
"TikTok به دلیل این الگوریتم هوش مصنوعی بسیار اعتیاد آورتر از سایر پلتفرم ها است، که درک می کند چه چیزی دوست دارید، چگونه یاد می گیرید و چگونه اطلاعات را انتخاب می کنید." "ما این را می دانیم زیرا میانگین زمانی که کاربران در TikTok صرف می کنند 52 دقیقه است."
کریس نیکلسون، مدیر عامل شرکت هوش مصنوعی Pathmind در یک مصاحبه ایمیلی استدلال کرد که دستکاری رفتار انسان توسط هوش مصنوعی می تواند کاربردهای مثبتی داشته باشد. برای مثال، آژانس‌های بهداشت عمومی می‌توانند از هوش مصنوعی برای تشویق مردم به تصمیم‌گیری بهتر استفاده کنند.
با این حال، رسانه‌های اجتماعی، سازندگان بازی‌های ویدیویی، تبلیغ‌کنندگان و رژیم‌های مستبد به دنبال راه‌هایی هستند که مردم را تشویق کنند تا تصمیم‌هایی بگیرند که به نفع آنها نیست، و این به آنها ابزار جدیدی برای انجام این کار می‌دهد. او افزود.
تویاما گفت: مسائل اخلاقی مربوط به رفتارهای تأثیرگذار بر هوش مصنوعی اغلب دارای درجه بالایی هستند. هوش مصنوعی اجازه تبلیغات متمرکز را می دهد که در آن می توان از ترجیحات و نقاط ضعف فردی استفاده کرد.
"ممکن است، برای مثال، یک سیستم هوش مصنوعی افرادی را که در تلاش برای ترک سیگار هستند شناسایی کند و آنها را با تبلیغات وسوسه انگیز سیگار تحریک کند."
همه موافق نیستند که دستکاری هوش مصنوعی در رفتار انسان مشکل ساز است. جیسون جی کورسو، مدیر مؤسسه هوش مصنوعی استیونز، در یک مصاحبه ایمیلی به روانشناسی کلاسیک و هوش مصنوعی اشاره کرد.
کورسو گفت: "دانشمندان انسانی احتمالاً در تعمیم مشاهدات و تقطیر تئوری‌های رفتار انسان که ممکن است کاربرد گسترده‌تری داشته باشند، بهتر عمل می‌کنند، در حالی که مدل‌های هوش مصنوعی برای شناسایی تفاوت‌های ظریف خاص مشکل‌پذیرتر هستند."
"از نقطه نظر اخلاقی، من تفاوتی بین اینها نمی بینم."
