Може ли паметна стратегија #АИ увјерити ЕУ да је умјереност садржаја #Фацебоок-а до пухања?

Током састанка са европским креаторима политика у Бриселу, 17. фебруара, директор Фацебоока Марк Зуцкерберг (На слици) објавио је белу књигу у којој је изнео своју стратегију суочавања са штетним садржајем на платформама друштвених медија. Као одговор на жељу Европске уније да појача надзор над технолошким сектором, милијардер је изнео став да се индустрија мора регулисати на глобалном, а не на локалном нивоу.

Такође је тврдио да одговорност компанија за технолошке компаније за штетни садржај на њиховим платформама треба да буде ограничена - све док постоје ефикасни системи за модерацију садржаја. Суцкербергове сугестије, међутим, у Бриселу су добиле изразито мрачан пријем. Чак и након сусрета са Зуцкербергом, ЕУ је тврдила да је нови предлог за модерацију садржаја Фацебоока промашио на многим фронтовима, посебно не успевајући да одреди конкретне кораке које ће платформа предузети за борбу против илегалног садржаја на мрежи. "Није довољно. Сувише је споро, прениско је у погледу одговорности и регулације “, рекао је комесар за стратегију података Тхиерри Бретон након седнице са највишим извршним директором Фацебоока.

Где Фацебоок заостаје у тренутном систему?

Технички дивови имају прилично уски прозор у којем ће уверити европске креаторе политике да су њихови сопствени напори на сузбијању проблематичних садржаја довољни. Комисија о Закону о дигиталним услугама, дуго очекиваној ревизији ЕУ-ове 20-годишње директиве о е-трговини, планира се да буде уведена крајем ове године. Као што је Бретон напоменуо, „ако видимо да [Фацебоок сопствени поступак за модерирање садржаја] није оно што нам је потребно у вези са сопственим стандардима, то ћемо морати да регулишемо и ставимо у наш [Закон о дигиталним услугама]“.

Фацебоок је одлучан да је у стању да сам реши проблем ометања садржаја - користећи напредак у вештачкој интелигенцији (АИ) и машинском учењу да би побољшао свој тренутни систем. Трновит задатак идентификације и уклањања проблематичног материјала тренутно је додељен професионалцима трећих страна који користе своје дискреционо право да утврде зашто је слика или видеозапис неоспоран.

Ослањање на такав људски надзор проблематично је с обзиром на језиву природу неких модератора садржаја који су присиљени да пресецају - чињеница да су запослени који модерирају садржај за Фацебоок у Лисабону, Даблину и Варшави потврдили да им је рад дао ПТСД сигурно подижу црвене заставе у европским институцијама. Поред тога, ефикасност људске умерености доведена је у питање након што Фацебоок више пута није успео да брзо уклони штетни садржај као што је пренос уживо 2019. године у Цхристцхурцх џамији џамији.

АИ може да прикључи неке Фацебоок-ове слепе тачке

реклама

Вештачка интелигенција има потенцијал да значајно смањи такву зависност од умерености људи. Алгоритми обучени за машинско учење могу подржати модераторе не само да смањују њихову изложеност штетним мрежним садржајима, већ и повећавајући њихову продуктивност и тачност. Фацебоок тврди да су до сада видели обећавајуће резултате у својим експериментима са АИ - према платформи, током друге половине 2019. године платформа је успела да означи 99.8% графичког садржаја и 99.5% голотиње и дечије експлоатације чак и пре него што су их корисници сигнализирали. . Наравно, технологија и даље треба финетунинг - алгоритми за модерирање садржаја засновани на АИ и даље се посебно труде да препознају нијансе говора мржње, на пример - питање које Европску унију посебно забрињава.

Шта више, Европска унија је опрезна да би Фацебооку омогућила бесплатно владање у експлоатацији тако осетљиве технологије као што је АИ. Ова забринутост првенствено произилази из лошег искуства Фацебоока у испуњавању европских стандарда транспарентности - повећавајући спектар да би компанија могла развити „алгоритме у црној кутији“ спречавајући ревизије треће стране или владе на платформи.

У срцу дигиталне политике - коју је прошле недеље објавила шефица ЕУ за дигитални цар и конкуренцију Маргретхе Вестагер - регулише како компаније користе вештачку интелигенцију. Иако ЕУ жели да владе прате ризичне аспекте тога, попут употребе технологије препознавања лица, многе апликације у европском дворишту демонстрирају како се може безбедно и ефикасно користити. Да ли Фацебоок може да преузме знак?

Апликације друштвених медија следећег гена дају свој печат користећи иновативни АИ

Посебно је једна европска апликација креативно искористила вештачку интелигенцију како би својим младим корисницима обезбедила сигурније и пријатније искуство. Иубо, апликација за ливе стреаминг за узрасте од 13 до 25 година, ослања се на равнотежу између сложених алгоритама и едукацију младих о штетама на мрежи како би својих 20 милиона корисника било сигурно на платформи. Пажљиво обучени алгоритам открива проблематичне садржаје као што су голотиња или неко само у доњем вешу у живом току - а то је када покреће Иубо интервенцијски систем у стварном времену, шаљући кориснику поруку упозорења објашњавајући зашто је такво понашање приговорно. Ако корисник не поправи своје понашање, ток се може искључити на даљину.

Како би били сигурни да је апликација резервисана за тинејџере и младе одрасле особе, Иубо је у међувремену склопио партнерство са популарним добављачем дигиталног идентитета са седиштем у Британији Иоти, који повезује послате идентификационе документе са селфиејима корисника помоћу софтвера за препознавање лица. Иоти-јева технологија - која се такође користи у супермаркетима како би била сигурна да млађи од 18 година не купују робу ограничену количину, као што су цигарете или алкохол - може се запослити у другим апликацијама за друштвене мреже да би "постарали" своју заједницу или се уверили да су корисници за кога кажу да јесу.

Иубови покушаји да убаци пуку проблематичне онлајн садржаје - комбинујући компјутерски потпомогнуту модерацију са сензибилизацијом младих корисника о обавезама и добрим интернетским протоколима - направили су плод у технолошком сектору. Они би такође требало да пруже охрабрујући пример како технолошким дивовима попут Фацебоока, тако и регулаторима попут Европске уније да платформе за друштвене медије могу успоставити здраву равнотежу између прекомерног ослањања или на АИ или на људски надзор.

Вештачка интелигенција није лек за изазове са којима се сусрећу платформе друштвених медија. Како Фацебоок жели да убеди ЕУ да је у стању да модерира сопствени садржај, међутим, добро би му било послужити ако узме сигнал из апликација нове генерације које су успеле да развију холистичку стратегију, која укључује АИ, како би заштитиле своје кориснике .

Поделите овај чланак: