18-03-2020 6:38 am Gepubliceerd door Nederland.ai Laat uw gedicht achter

Een dag nadat Facebook had aangekondigd dat het zwaarder zou vertrouwen op door kunstmatige intelligentie aangedreven inhoudsmoderatie, klagen sommige gebruikers dat het platform fouten maakt en een hele reeks legitieme berichten en links blokkeert, waaronder berichten met nieuwsartikelen over de pandemie van het coronavirus , en ze markeren als spam.

Terwijl ze posten, lijken gebruikers een bericht te krijgen dat hun inhoud – soms slechts een link naar een artikel – in strijd is met de gemeenschapsnormen van Facebook. “We werken er hard aan om de verspreiding van spam te beperken, omdat we geen inhoud willen toestaan ​​die is ontworpen om te misleiden of die gebruikers probeert te misleiden om het aantal kijkers te vergroten”, lezen de regels van het platform.

Het probleem komt ook omdat sociale mediaplatforms Covid-19-gerelateerde desinformatie blijven bestrijden . Op sociale media drijven sommigen nu het idee dat de beslissing van Facebook om zijn gecontracteerde contentmoderators naar huis te sturen de oorzaak van het probleem zou kunnen zijn.

Facebook zet zich terug tegen dat idee, en Guy Rosen, de vice-president voor integriteit van het bedrijf, tweette dat “dit een bug is in een antispamsysteem, niet gerelateerd aan veranderingen in ons personeel voor het modereren van content.” Rosen zei dat het platform bezig is met het herstellen van de berichten.

Recode nam contact op met Facebook voor commentaar en we zullen dit bericht bijwerken als we iets horen.

Het probleem op Facebook herinnert ons eraan dat elk type geautomatiseerd systeem nog steeds kan verknoeien, en dat feit kan duidelijker worden naarmate meer bedrijven, waaronder Twitter en YouTube, afhankelijk zijn van geautomatiseerde inhoudsmoderatie tijdens de coronaviruspandemie. De bedrijven zeggen dat ze dit doen om te voldoen aan de sociale afstand, omdat veel van hun werknemers gedwongen zijn thuis te werken. Deze week waarschuwden ze gebruikers ook dat, vanwege de toename van geautomatiseerde moderatie, meer berichten per abuis zouden kunnen worden verwijderd.

In een blogpost op maandag vertelde YouTube de makers dat het platform zich zal wenden tot machine learning om te helpen bij “een deel van het werk dat normaal door recensenten wordt gedaan”. Het bedrijf waarschuwde dat de overgang inhoudt dat bepaalde inhoud wordt verwijderd zonder menselijke beoordeling, en dat zowel gebruikers als bijdragers aan het platform mogelijk video’s van de site verwijderd zien die niet in strijd zijn met het beleid van YouTube.

Het bedrijf waarschuwde ook dat ‘niet-beoordeelde inhoud mogelijk niet beschikbaar is via zoeken, op de startpagina of in aanbevelingen’.

Evenzo heeft Twitter gebruikers verteld dat het platform steeds meer zal vertrouwen op automatisering en machine learning om “beledigende en gemanipuleerde inhoud” te verwijderen. Toch erkende het bedrijf dat kunstmatige intelligentie geen vervanging zou zijn voor menselijke moderators.

“We willen duidelijk zijn: terwijl we werken om ervoor te zorgen dat onze systemen consistent zijn, kunnen ze soms de context missen die onze teams brengen, en dit kan ertoe leiden dat we fouten maken”, zei het bedrijf in een blogpost .

Om mogelijke fouten te compenseren, zei Twitter dat het geen accounts permanent zal opschorten ‘uitsluitend op basis van onze geautomatiseerde handhavingssystemen’. YouTube maakt ook aanpassingen. ‘We zullen geen stakingen op deze inhoud geven, behalve in gevallen waarin we er groot vertrouwen in hebben dat het gewelddadig is’, zei het bedrijf, eraan toevoegend dat makers de kans zouden hebben om tegen deze beslissingen in beroep te gaan .

Facebook zegt ondertussen dat het samen met zijn partners werkt om zijn inhoudsmoderators naar huis te sturen en ervoor te zorgen dat ze worden betaald. Het bedrijf onderzoekt ook tijdelijk content-review op afstand voor een aantal van zijn moderators.

“We verwachten niet dat dit gevolgen zal hebben voor mensen die ons platform op een merkbare manier gebruiken”, zei het bedrijf maandag in een verklaring . “Dat gezegd hebbende, er kunnen enkele beperkingen zijn aan deze aanpak en we kunnen wat langere reactietijden zien en daardoor meer fouten maken.”

De stap naar AI-moderators is geen verrassing. Jarenlang hebben technologiebedrijven geautomatiseerde tools gepusht als een manier om hun inspanningen aan te vullen om de aanstootgevende en gevaarlijke inhoud te bestrijden die op hun platforms kan broeden. Hoewel AI kan helpen om content moderatie sneller te laten verlopen, kan de technologie ook moeite hebben om de sociale context voor berichten of video’s te begrijpen en daardoor onnauwkeurige beoordelingen te maken over hun betekenis. Onderzoek heeft zelfs aangetoond dat algoritmen die racisme detecteren vooringenomen kunnen zijn tegen zwarte mensen , en de technologie wordt algemeen bekritiseerd omdat ze kwetsbaar is voor discriminerende besluitvorming .

Normaal gesproken hebben de tekortkomingen van AI ertoe geleid dat we vertrouwen op menselijke moderators die nuance beter kunnen begrijpen. Recensenten van menselijke inhoud zijn echter ook geenszins een perfecte oplossing, vooral omdat ze lange dagen moeten maken om traumatische, gewelddadige en aanstootgevende woorden en beelden te analyseren. Hun arbeidsomstandigheden zijn recentelijk onder de loep genomen.

Maar in het tijdperk van de pandemie van het coronavirus kan het niet alleen gevaarlijk zijn om recensenten naast elkaar in een kantoor te laten werken, maar ook het risico te vergroten dat het virus verder wordt verspreid onder het grote publiek. Houd er rekening mee dat deze bedrijven aarzelen om inhoudrecensenten toe te staan ​​om thuis te werken, omdat ze toegang hebben tot veel persoonlijke gebruikersinformatie, om nog maar te zwijgen van zeer gevoelige inhoud.

Te midden van de nieuwe pandemie van het coronavirus is inhoudsbeoordeling gewoon een andere manier waarop we ons tot AI wenden voor hulp . Aangezien mensen binnenshuis blijven en hun persoonlijke interacties online willen verplaatsen, zullen we ongetwijfeld een zeldzame blik werpen op hoe goed deze technologie presteert wanneer deze meer controle krijgt over wat we zien op ‘s werelds populairste sociale platforms. Zonder de invloed van menselijke recensenten die we gewend zijn, zou dit een bloeitijd voor de robots kunnen zijn

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

drie × 1 =