జాయ్ బ్యూలమ్విని కృత్రిమ మేధస్సు పరిశోధనలో ముందంజలో ఉంది మరియు జాతి పక్షపాతం, లింగ పక్షపాతం మరియు సామర్థ్యం ద్వారా AI వ్యవస్థలు హాని కలిగించిన అనేక మార్గాలపై దృష్టి పెడతాయి. ఆమె AI జవాబుదారీతనం కలిగి ఉండటానికి పనిచేసే అల్గోరిథం జస్టిస్ లీగ్ వ్యవస్థాపకురాలు.

“పౌర హక్కుల కోసం పెరుగుతున్న సరిహద్దుకు అల్గోరిథమిక్ జస్టిస్ అవసరం. AI ప్రజల కోసం మరియు ప్రజల కోసం ఉండాలి, విశేషమైన మైనారిటీ కోసం కాదు” అని బులామ్విని రాశారు.

MIT లో గ్రాడ్యుయేట్ విద్యార్థిగా ఆమె చేసిన పరిశోధన ఆమెను మైక్రోసాఫ్ట్, ఐబిఎం, అమెజాన్ మరియు ఇతర టెక్ దిగ్గజాలను పిలవడానికి దారితీసింది. ముఖ గుర్తింపు వ్యవస్థ రంగు ప్రజలను గుర్తించలేకపోయింది. చెత్త ఫలితం చీకటి చర్మ ఆడవారితో సంబంధం కలిగి ఉంది. అధ్వాన్నంగా, ఈ లోపభూయిష్ట ముఖ గుర్తింపు సాఫ్ట్‌వేర్ ఇప్పటికే వ్యాపారాలు మరియు చట్ట అమలు సంస్థలచే వాడుకలో ఉంది.

క్రియేటివ్ కంప్యూటింగ్ ప్రాజెక్టులలో పనిచేస్తున్నప్పుడు ఆమె ముఖాన్ని గుర్తించే పరిమితులను కనుగొన్నది.

“నేను తెల్లటి ముసుగు వేసుకునే వరకు ఫేస్ డిటెక్షన్ వాస్తవానికి ముఖాన్ని గుర్తించలేదు. ఇది హాలోవీన్ సమయం. నాకు తెల్ల ముసుగు ఉంది. నేను తెల్లని ముసుగు లాగి, తెల్లని ముసుగుపై ముఖం కనుగొనబడింది.

అప్పటి నుండి, ఆమె అల్గోరిథం పక్షపాతాన్ని సరిదిద్దడానికి తీవ్రమైన న్యాయవాది, మరియు ఇది పరిష్కరించకపోతే, ఇది సమాజానికి తీవ్రంగా ఖర్చు అవుతుంది.

ఇది జాయ్ బ్యూలామ్విని యొక్క రూబెన్‌స్టెయిన్ ఉపన్యాసం నుండి సారాంశం, ఇది ఫిబ్రవరి 2025 లో డ్యూక్ విశ్వవిద్యాలయం యొక్క శాన్‌ఫోర్డ్ పబ్లిక్ పాలసీలో పంపిణీ చేయబడింది.

“మీ చేతులను నాకు చూపించు. ఆ వ్యక్తి చూపులు ఎంత మంది విన్నారు? వైట్ చూపు? పోస్ట్కాలనీ చూపు?

“ఆ నిఘంటువుకు, నేను కోడెడ్ చూపులను జోడిస్తాను. ఇది నిజంగా శక్తి యొక్క ప్రతిబింబం. సాంకేతిక పరిజ్ఞానంలో నిర్మించిన ప్రాధాన్యతలు, ప్రాధాన్యతలు మరియు కొన్నిసార్లు ఉద్దేశపూర్వకంగా, పక్షపాతాలను రూపొందించే శక్తి మీకు ఉందా?

“నేను మొదట ఒక ఆర్ట్ ఇన్‌స్టాలేషన్‌లో పనిచేసే గ్రాడ్యుయేట్ విద్యార్థిగా కోడెడ్ చూపులను చూశాను … నా చీకటి చర్మాన్ని గుర్తించడానికి నేను అక్షరాలా తెల్లటి ముసుగు ధరించాల్సి వచ్చింది. నా స్నేహితుడు, అంతగా లేదు. ఇది కోడెడ్ చూపులతో నా మొదటి ఎన్‌కౌంటర్.

“మేము కోడింగ్ కథను TEDX ప్లాట్‌ఫామ్‌లో తెల్ల ముసుగులో పంచుకున్నాము. చాలా మంది దీనిని చూశారు.

https://www.youtube.com/watch?v=ug_x_7g63ry

“నేను TEDX కోసం ఒక ప్రొఫైల్ పిక్చర్ తీసుకున్నాను మరియు వివిధ కంపెనీల నుండి ఆన్‌లైన్ డెమోల ద్వారా చేయడం ప్రారంభించాను, కొన్ని కంపెనీలు నా ముఖాన్ని అస్సలు గుర్తించలేదని నేను కనుగొన్నాను.

“కాబట్టి ఇది బ్లాక్ హిస్టరీ నెల. [the lecture was recorded in February 2025]. నేను బ్లాక్ పాంథర్ నుండి కొన్ని తారాగణాన్ని నడపడానికి సంతోషిస్తున్నాను. కొన్ని సందర్భాల్లో, గుర్తించడం లేదు. ఇతర సందర్భాల్లో, ఒక అపోహ ఉంది … మీకు ఏంజెలా బాసెట్ ఉంది – ఈ ఫోటోలో ఆమెకు 59 సంవత్సరాలు. IBM 18-24 అని చెప్పింది, కాబట్టి అన్ని పక్షపాతాలు చెత్తగా ఉండవు.

“కాల్పనిక పాత్రలకు మించి కదులుతున్నది మరియు AI లో, ముఖ్యంగా AI క్షేత్రాలలో ముఖ గుర్తింపు ప్రపంచంలో ఎలా వ్యక్తమవుతుందో గురించి ఆలోచిస్తూ ఉంది.

“ఇది తప్పుడు అరెస్టులు, నాన్ కాన్సెన్సుయల్ డీప్‌ఫేక్‌లు మరియు మరిన్ని వంటి స్పష్టమైన చిత్రాలకు దారితీస్తుంది. ఇది ప్రతి ఒక్కరినీ ప్రభావితం చేస్తుంది, ప్రత్యేకించి క్లియర్‌వ్యూ AI వంటి సంస్థలు ఉన్నప్పుడు సోషల్ మీడియా ప్లాట్‌ఫారమ్‌ల బిలియన్ల ఫోటోల సౌజన్యంతో.

“కాబట్టి, AI అభివృద్ధి యొక్క ఈ దశలో మనం ఎక్కడ ఉన్నాం అనే దాని గురించి నేను ఆలోచించినప్పుడు, నేను తరచూ ఎక్కోడ్ చేయబడిన దాని గురించి ఆలోచిస్తాను. ఎకోడ్ చేయబడినది AI వ్యవస్థ ద్వారా నిందించబడిన, దోషిగా, దోపిడీ చేయబడిన మరియు హాని చేసిన వ్యక్తిని సూచిస్తుంది.”

?

“ఇది ఒక సమస్య ఉందని తెలియని సందర్భం కాదు. ఇది సరైన పని. కాని అన్ని రకాల హానికరమైన పక్షపాతాన్ని కలిగి ఉండటానికి పదే పదే చూపించిన వ్యవస్థను ఉపయోగించడం కొనసాగించడం ఉద్దేశపూర్వక నిర్లక్ష్యం. గుర్తింపు యొక్క ఈ అల్గోరిథంలు కొనసాగుతాయి.

“మరొక మార్గం పర్యవేక్షణ కోసం అల్గోరిథం కలిగి ఉండటం.

“మీరు సెలవులు మరియు ఇతర చోట్ల తిరిగి ఇంటికి చేరుకున్నప్పుడు, మీలో కొందరు విమానాశ్రయం యొక్క స్కాన్లను చూడటం ప్రారంభించారు, మరియు నిఘా చేరుకోవడం కొనసాగుతోంది.

“మరియు మీరు దోపిడీకి ఒక అల్గోరిథం కలిగి ఉన్నారు. ప్రముఖులు మిమ్మల్ని రక్షించరు. ప్రకాశవంతమైన చర్మం మిమ్మల్ని రక్షించదు. ఉత్పాదక AI వ్యవస్థల పెరుగుదలను మేము చూశాము, లోతైన అబద్ధాలను సృష్టించే సామర్థ్యం మరియు వ్యక్తులు వలె నటించాము.

దయచేసి డౌన్‌లోడ్ చేయండి ఐడియా పోడ్కాస్ట్ మొత్తం ఎపిసోడ్ వినడానికి.

*పారదర్శకత మరియు పొడవు కోసం సారాంశాలను సవరించారు. ఈ ఎపిసోడ్ సృష్టించబడింది సీన్ ఫోలే.