MNLR
(MNLR) چیست؟
2018-05-22
Html
چگونه باید استانداردهای محاسباتی وب را رعایت کرد؟
2018-05-26
نمایش همه

نشانه های نژاد پرستی در هوش مصنوعی

هوش مصنوعی

هوش مصنوعی (AI)

عادت بد و یا تصور بسیار غلطی  که اکثر مردم از هوش مصنوعی (AI) دارند، این است که آن را به  نوعی  بیگانه می دانند.

در صورتیکه هوش مصنوعی در واقع مجموع داده های انسانی است که به سرعت در حال پیشرفت است.

کامپیوترهای همه جانبه، محاسبات فراتر از مغزهای ضعیف انسانی دارند زیرا آنها به راه خود ادامه می دهند تا

به هر حال از انسان فراتر بروند.

 در حالی که رایانه ها ممکن است کارها را متفاوت از ما انجام دهند مانند بچه ها، رایانه ها می توانند

تعصبات و کلیشه هایی را که ما به ظاهر به  آنها متوسل می شویم را  یاد بگیرند و  با  ترکیب اطلاعاتی را که

در اختیار آنها قرار دهیم مباحث متفاوت تری را ارائه دهند .

 

نژادپرستی در هوش مصنوعی

 

 

مسئله نژادپرستی در هوش مصنوعی سال گذشته، زمانی که مایکروسافت یک ربات چت به نام Tay را در

توییتر منتشر کرد مطرح شد .

Tayیاد می گیرد که چگونه ارتباط برقرار کند، در آگاهی عمومی شکست خورد اما به لطف

تلاش های ترول های اینترنتی و نژادپرستان، تیل به ستایش از هیتلر و غلبه بر هولوکاست پایان داد.

خوشحال می شویم که Tay را یک بار ببینیم. اما یک مطالعه منتشر شده نشان می دهد که الگوریتم های

کامپیوتری می توانند کلمات را با کلیشه های متمایز درست کنند مانند: انسان ها.

ممکن است ما بخواهیم هوش مصنوعی را به عنوان یک هدف در نظر بگیریم، اما روشن است که

نژادپرستی در رایانه ها به علت ضعف های انسانی وجود دارد.

 

مشکل یادگیری هوش مصنوعی

 

یادگیری ماشین از پیشرفت های برنامه هوش مصنوعی  می باشد که بسیار مهم بوده زیرا AI اکنون می تواند

الگوها راپیش بینی کند و دستورات را بدون نیاز به هر برنامه ای برنامه ریزی کند.

با تجزیه و تحلیل مقدار زیادی از اطلاعات که هیچ انسانی تا کنون قادر به پردازش آن ها  نبوده است.

AI می تواند الگوها را دنبال کند و یاد بگیرد که چگونه با الگوهای گفتار سازگار شود.

 

یک مثال شناخته شده از یادگیری ماشین زمانی اتفاق افتاد که AI به نام

AlphaGo بهترین بازیکنان Go را شکست داد،

 

مشکل این است که گاهی اوقات AI ممکن است الگوها را کشف کند و به همین ترتیب

نژادپرستی را به شیوه ای که ما انتظار آن را نداریم، نشان می دهد.

مثال بزرگی از این اتفاق در سال گذشته اتفاق افتاد که یک AI از یک مسابقه زیبایی محکوم شد و فقط یک

زن سیاه پوست از ۴۴ گزینه انتخاب کرد.

 

برنامه نویسان AI به صراحت  می گویند برنامه ای برای شناسایی ارزش نور پوست بر روی پوست تیره نیست اما

زمانی که آنها عکس های مدل AI را برای تدریس استانداردهای زیبایی ارائه دادند، آنها AI مدل هایی با

پوست سبک تر از پوست تیره داشتند. بنابراین AI به این نتیجه رسید که نور پوست برتر است.

 

هیچ کس کامپیوتر را نوعی برنامه نویسی نمی کند تا نامهای سیاه را منفی ببیند یا

مردان را به عنوان پزشکان و زنان به عنوان پرستار ببیند. اما با نگاه کردن به داده ها و پیروی از

الگوهایی که انسان ها به آنها داده اند، آنها به این نتیجه رسیدند.

 

یادگیری ماشین به AI اجازه می دهد ارتفاعات جدیدی به دست بیاورد، اما اگر داده هایی که

برای یادگیری استفاده می کنند ناقص باشند، آنها نتیجه های بدی را به دست خواهند آورد.

 

به روزرسانی هوش مصنوعی

سخت است که ساخت یک AI بدون تعصب در جامعه ای با چنین کلیشه ای داشته باشیم.

چرا برنامه نویسان به AI مدل های پوستی شبیه تر را شروع می کنند؟ این ممکن است به خاطر تعصب های

شدید درون خود برنامه نویسان بوده باشد، یا این امر ممکن است به دلیل تعصبات در صنعت مد و جامعه باشد که

مدل های پوستی شاداب را بر پوست تیره پوشانده است. به عنوان تعصب بخشی از جامعه انسانی و AI توسط

انسان برنامه ریزی شده است، AI کاملا از تعصب بی حد و حصر است فوق العاده بعید است.

 

این به خصوص به این معنی است که تعریف آنچه که در خود جای گرفته است، یک ایده ذهنی است که

با گذشت زمان تغییر می کند.

 

صبا هاست

enamad
EVSSL