تویتر نتایج چالش الگوریتمی Bias Bounty را به اشتراک می گذارد

تویتر نتایج چالش الگوریتمی Bias Bounty را به اشتراک می گذارد
تویتر نتایج چالش الگوریتمی Bias Bounty را به اشتراک می گذارد
Anonim

تویتر نتایج رقابت آزاد خود را برای یافتن سوگیری در سیستم برش عکس خود اعلام کرد.

چالش جایزه در ماه ژوئیه پس از اینکه کاربران توییتر نشان دادند که ابزار برش خودکار سایت، چهره افراد با رنگ‌های روشن‌تر را نسبت به افرادی که رنگ‌های تیره‌تر دارند، آغاز شد. این پرسش‌ها را در مورد اینکه چگونه نرم‌افزار رنگ پوست و برخی عوامل را نسبت به دیگران اولویت می‌دهد، ایجاد کرد.

Image
Image

چالش به دنبال یافتن اشکالات و سوگیری های دیگری بود که سیستم برش ممکن است برای رفع مشکلات داشته باشد.

مقام اول به Bogdan Kulynych رسید، که ارسالی او نشان داد که چگونه فیلترهای زیبایی می توانند مدل امتیاز دهی الگوریتم را بازی کنند، که به نوبه خود، استانداردهای زیبایی سنتی را تقویت می کند.ارسال نشان داد که الگوریتم صورت‌های جوان و لاغر را با رنگ پوست روشن یا گرم ترجیح می‌دهد. کولینیچ برنده 3500 دلار شد.

مقام دوم به HALT AI، یک استارت‌آپ فناوری در تورنتو، که کشف کرد تصاویر افراد مسن و معلول از عکس‌های بریده شده بود، قرار گرفت. به تیم 2000 دلار برای دوم شدن اهدا شد.

مقام سوم و 500 دلار به رویا پاکزاد، بنیانگذار پژوهش تراز تعلق گرفت، که کشف کرد الگوریتم برش خط لاتین را به خط عربی ترجیح می دهد، که می تواند به تنوع زبانی آسیب برساند.

Image
Image

نتایج دقیق در DEF CON 29 توسط Ruman Chowdhury، مدیر تیم META توییتر ارائه شد. تیم META مشکلات غیر عمدی در الگوریتم‌ها را بررسی می‌کند و هر نوع سوگیری جنسیتی و نژادی را که چنین سیستم‌هایی ممکن است داشته باشند، از بین می‌برد.

داده‌های به‌دست‌آمده از این مسابقه برای کاهش اشکالات و سوگیری در الگوریتم برش استفاده می‌شود و به اطمینان از محیطی فراگیرتر کمک می‌کند.

توصیه شده: