Люба Кассова
„Вървим към най-добрия свят досега", каза Сам Алтман в интервю по-рано този месец, точно преди сагата с уволнението и повторното му назначаване като главен изпълнителен директор на OpenAI. Като експерт по равнопоставеността на половете в новините, това изявление ме накара да се запитам: чий свят върви към това да стане най-добрият?
Както се оказва, този, който екипът на Алтман изработва, до голяма степен е лишен от жени. Моят анализ на фона на фурора около уволнението му разкри очарователни прозрения: например, от 702 (от общо 750) служители, подписали писмото с искане за възстановяване на Алтман, над 75% бяха мъже, дисбаланс между половете, който съответства на идентифицирания в екипите за изкуствен интелект в Доклад за състоянието на ИИ през 2022 г. на МакКинси.
След завръщането на Алтман, новосъздаденият борд на директорите на OpenAI сега се състои изключително от бели мъже, ситуация, усложнена от доминирането на мъжете сред ръководителите. Къде са гласовете на жените лидери и експерти по изкуствен интелект в отразяването на тази най-драматична история от Силиконовата долина?
Ролята на жените в създаването на нашето пропито от ИИ бъдеще и оформянето на новините около генеративния ИИ ме тревожи от известно време. От анализ на данни и разговори с експерти осъзнавам, че независимо дали като разработчици, редактори на новини или експерти по изкуствен интелект, жените до голяма степен отсъстват от света на изкуствения интелект.
Generative AI (GAI) разчита на обработката на огромни набори от данни от текст, изображения и видео, всички от които в миналото са включвали преобладаващо повече мъже, отколкото жени. Това наследено мъжко пристрастие, отразено в новините, съчетано със структурните пропуски, пред които са изправени жените в обществото днес, води до разказ за рисковете, ограниченията, възможностите и посоката на GAI, оформен предимно от мъжете.
Според последните резултати от Global Media Monitoring Project само 4% от новините, фокусирани върху науката, технологиите, откритията и разработките за финансиране, са съсредоточени около жените. Оценка от AKAS на редакторите на технологични новини през април показва, че във Великобритания и САЩ само 18% и 23% съответно са жени. Мъжете са между три и пет пъти по-склонни от жените да решават какво представлява една технологична история.
Според данни на Pew Research Center за 2022 г. жените в САЩ са между 8% и 16% по-загрижени от мъжете за различни разработки на ИИ, от диагностициране на медицински проблеми до извършване на повтарящи се задачи. Като се има предвид периферното присъствие на жените в индустрията на изкуствения интелект и приглушения глас в новините, техните опасения едва ли ще бъдат уловени, камо ли да бъдат разгледани в бъдещи разработки.
Лесли Макинтош, вицепрезидент на научноизследователската почтеност в Digital Science, казва: „Ако вашата гледна точка не бъде докладвана, вие не участвате в историята. GAI взема тези исторически текстове и изгражда и проектира нашето бъдеще. Така че там, където липсващите гласове на жените някога са били пукнатини, сега те са се превърнали в големи празнини".
Според ръководителя на технологичните прогнози на BBC, Лора Елис, е трудно да се разбере кои съществуващи отклонения, генерирани от ИИ съдържание, се усилват най-много, защото „ние просто не знаем какви масиви от данни са били използвани за обучение на тези модели. Но никой не си задава тези въпроси. „Къде са „кръстниците" на ИИ?" пита Елис.
И така, кои са експертите, усилени в съобщаването на разработките на GAI? По същество шепа бели западняци, предимно от САЩ.
По-силен от всеки друг глас в новините за ИИ е този на Алтман, колосът на мултимилиардната GAI индустрия. Това се потвърждава от GDELT анализа на AKAS за отразяването на глобалните онлайн новини през 2023 г.: споменаванията на Алтман в статии, позоваващи се на ИИ, са два пъти повече от общия брой на 42 жени в неотдавнашния списък Топ 100 на влиятелни ИИ лица на списание Time. Сега Алтман се завърна, обявен за визионер, който отиде на пътешествие, пребори се с чудовището, което се опита да го убие и се върна като герой. Със сигурност гласът му ще продължи да доминира. Какво ще се случи с гласовете на онези, които смятаха, че той се движи твърде бързо в надпреварата за господство на пазара на GAI за сметка на безопасността на човечеството?
Какво може да се направи, за да се гарантира, че опасенията, изразени от жени като Хелън Тонер и Таша Макколи (и двете вече изгонени от борда на OpenAI), или тези на жените от периферията на ИИ индустрията, няма да бъдат пропилени? Въпреки че има много дебати относно ефективността на „защитните парапети" (кодиране, насочено към коригиране на отклоненията в данните), открих консенсус сред експертите, с които говорих: самият ИИ може да коригира дефицита на разнообразие. „Това, което се измерва, се управлява", казва Ларс Дамгаард Нилсен, главен изпълнителен директор на Mediacatch.io и привърженик на използването на ИИ за проследяване на полови и етнически пристрастия в медиите.
Той и други експерти твърдят, че ефективен начин за коригиране на мъжките пристрастия би бил използването на изкуствен интелект за измерване на дела на жените в присъствието в дискурса, отбелязвайки пред нас, хората, жизненоважната необходимост да търсим гледните точки на всички полове, групи и култури в една от най-обхватните истории на века.
Източник: Гардиън, превод: Ш.Меламед