تویتر نتایج رقابت آزاد خود را برای یافتن سوگیری در سیستم برش عکس خود اعلام کرد.
چالش جایزه در ماه ژوئیه پس از اینکه کاربران توییتر نشان دادند که ابزار برش خودکار سایت، چهره افراد با رنگهای روشنتر را نسبت به افرادی که رنگهای تیرهتر دارند، آغاز شد. این پرسشها را در مورد اینکه چگونه نرمافزار رنگ پوست و برخی عوامل را نسبت به دیگران اولویت میدهد، ایجاد کرد.
چالش به دنبال یافتن اشکالات و سوگیری های دیگری بود که سیستم برش ممکن است برای رفع مشکلات داشته باشد.
مقام اول به Bogdan Kulynych رسید، که ارسالی او نشان داد که چگونه فیلترهای زیبایی می توانند مدل امتیاز دهی الگوریتم را بازی کنند، که به نوبه خود، استانداردهای زیبایی سنتی را تقویت می کند.ارسال نشان داد که الگوریتم صورتهای جوان و لاغر را با رنگ پوست روشن یا گرم ترجیح میدهد. کولینیچ برنده 3500 دلار شد.
مقام دوم به HALT AI، یک استارتآپ فناوری در تورنتو، که کشف کرد تصاویر افراد مسن و معلول از عکسهای بریده شده بود، قرار گرفت. به تیم 2000 دلار برای دوم شدن اهدا شد.
مقام سوم و 500 دلار به رویا پاکزاد، بنیانگذار پژوهش تراز تعلق گرفت، که کشف کرد الگوریتم برش خط لاتین را به خط عربی ترجیح می دهد، که می تواند به تنوع زبانی آسیب برساند.
نتایج دقیق در DEF CON 29 توسط Ruman Chowdhury، مدیر تیم META توییتر ارائه شد. تیم META مشکلات غیر عمدی در الگوریتمها را بررسی میکند و هر نوع سوگیری جنسیتی و نژادی را که چنین سیستمهایی ممکن است داشته باشند، از بین میبرد.
دادههای بهدستآمده از این مسابقه برای کاهش اشکالات و سوگیری در الگوریتم برش استفاده میشود و به اطمینان از محیطی فراگیرتر کمک میکند.