ОАСИ, први претраживач који је пронашао алгоритме које владе и компаније користе за грађане

• Основана од Етицас фондације, Опсерваторија за алгоритме са друштвеним утицајем, ОАСИ, прикупља информације из десетина алгоритама које користе јавне управе и компаније широм света како би сазнале више о њиховом друштвеном утицају.
  
• Циљ је омогућити јавности приступ информацијама о владама и алгоритмима компанија, и знати, између осталих карактеристика, ко их користи, ко их развија, које претње представљају и да ли су биле подвргнуте ревизији.

• Пристрасност алгоритма и дискриминација се обично јављају на основу старости, пола, расе или инвалидитета, између осталих вредности, али због општег недостатка транспарентности, још увек није могуће знати све његове последице по погођене групе.

Етицас Фоундатион, непрофитна организација која промовише одговорну употребу алгоритама и система вештачке интелигенције (АИ), створила је Опсерваторију за алгоритме са друштвеним утицајем (ОАСИ). Ова опсерваторија уводи претраживач како би сазнала више о алатима који доносе важне аутоматизоване одлуке о грађанима, потрошачима и корисницима широм света.

Тренутно и компаније и јавна управа аутоматизују одлуке захваљујући алгоритмима. Међутим, његов развој и пуштање у рад не прате спољне контроле квалитета, нити су транспарентни колико би требало да буду, што оставља становништво незаштићеним. Помоћу овог претраживача свако може сазнати више о овим алгоритмима: ко их је развио, ко их користи, њихов опсег примене, да ли су били подвргнути ревизији, њихове циљеве или њихов друштвени утицај и претње које представљају.

У тренутку, ОАСИ прикупља 57 алгоритама, али очекује да ће у наредним месецима достићи 100. Међу њима, 24 већ примењују у САД влада и велике технолошке компаније. На пример, СхотСпоттер, алатка за алгоритам коју је Полицијска управа Оакланд-а употребила за борбу против насиља над оружјем и смањила насиље путем микрофона за надгледање звука, и алгоритам за предвиђање потенцијалног злостављања и занемаривања деце који користи округ Аллегхени, Пенсилванија. Још један пример из корпорације је Рекогнанце, Амазонов систем за препознавање лица, који је ревидиран од стране МИТ Медиа Лаб-а почетком 2019. године, и за који је утврђено да се показао знатно лошијим при идентификацији пола појединца да ли је женског или тамнијег тена.

Најчешћа дискриминација је на основу старости, пола, расе или инвалидитета, које су ненамерно произвели програмери којима недостају социоекономске вештине да би разумели утицај ове технологије. У том смислу, ови инжењери дизајнирају алгоритме засноване само на техничким вештинама, а пошто нема спољних контрола и чини се да ради како се очекује, алгоритам наставља да учи на основу недостатних података.

С обзиром на недостатак транспарентности у функционисању неких од ових алгоритама, Етицас Фондација, осим што је покренула ОАСИ, развија пројекат спољне ревизије. Први је ВиоГен, алгоритам који користи шпанско Министарство унутрашњих послова за додељивање ризика женама које траже заштиту након што су претрпеле случајеве насиља у породици. Етицас ће спровести спољну ревизију путем обрнутог инжењеринга и административних података, интервјуа, извештаја или сценарија дизајна, како би прикупио резултате у великом обиму. Све ово с циљем откривања могућности за побољшање заштите ових жена.

"Упркос постојању алгоритамске контроле и метода ревизије како би се осигурало да технологија поштује тренутне прописе и основна права, Управа и многе компаније настављају да се оглушују о захтеве за транспарентношћу грађана и институција", изјавила је Гемма Галдон, оснивач Етицас фондације . „Осим ОАСИ-а, након неколико година у којима смо развили више десетина ревизија за компаније као што су Алпха Телефоница, Уједињене нације, Коа Хеалтх или Међуамеричка развојна банка, објавили смо и Водич за алгоритамску ревизију да их свако може извести. Циљ је увек подићи свест, обезбедити транспарентност и вратити поверење у технологију, што само по себи не мора бити штетно. "

У том смислу, алгоритми који се обучавају техникама машинског учења користе велику количину историјских података да их „науче“ да бирају на основу прошлих одлука. Обично ти подаци не представљају друштвено -економску и културну стварност на којој су примијењени, али у многим приликама одражавају неправедну ситуацију која се не намјерава продужити. На овај начин, алгоритам би технички доносио "исправне" одлуке у складу са својом обуком, иако је реалност да су његове препоруке или предвиђања пристрасне или дискриминисане.

реклама

О фондацији Етицас

Фондација Етицас ради на превођењу принципа који воде друштво у техничке спецификације, као што су једнаке могућности, транспарентност и недискриминација у технологијама које доносе аутоматизоване одлуке о нашим животима. Тражи равнотежу између промена друштвених вредности, техничких могућности најновијих достигнућа и правног оквира. У ту сврху, врши ревизију алгоритама, проверава да ли се правне гаранције примењују на дигитални свет, посебно на вештачку интелигенцију, и обавља интензиван рад на подизању свести и ширењу потребе за одговорном, квалитетном технологијом.

Поделите овај чланак: