Du kan hjelpe ved å legge til referanser eller fjerne upublisert innhold. Se samtalesiden for mer informasjon.
Den moderate mengder av informasjon består i å akseptere, flytte til et mer passende avsnitt eller helt eller delvis nekte offentliggjøring av informasjon eller en kommentar skrevet av en bruker på et sosialt nettverk , en nettside eller et forum . Brukeren som er ansvarlig for moderering kalles moderator .
Noen sosiale nettverk, for eksempel YouTube eller Facebook , bruker også innholdsmoderatorer som, ved hjelp av deteksjonsalgoritmer, enten vil godkjenne eller nekte tilstedeværelse av visse typer innhold på de aktuelle plattformene. Dette yrket, fremdeles relativt ukjent, vil ha en mer eller mindre betydelig negativ psykologisk innvirkning på de som utøver det.
I tilfellet Facebook har tidligere innholdsmoderatorer inngitt en klage mot den amerikanske giganten og hevdet at de lider av posttraumatisk stress , blant annet psykiske problemer . I mai 2020 kunngjorde selskapet at det ville kompensere nåværende og tidligere innhold moderatorer som utviklet psykiske problemer i felten.
I det mest klassiske tilfellet:
Informasjon eller kommentar som modereres før publisering blir kvalifisert som en priori moderering . På den annen side kan informasjon eller en kommentar publiseres så snart den sendes inn av en bruker av nettstedets publikasjonssystem; det er først da moderering kan gripe inn i posteriori moderasjon .
A priori moderering blir ofte utnyttet til publisering av sensitive artikler (nyheter, anmeldelser, analyser, etc.). Det tillater enhver Internett-bruker å tilby informasjon eller en kommentar å publisere , siden det er under moderering at kontroller vil bli utført som:
Moderering etter godkjenning brukes mer for kommentarer som besøkende kan legge igjen om en artikkel. I dette tilfellet er det noen ganger planlagt at et varsel sendes via e-post til forfatteren av artikkelen, slik at han kan gripe inn i tilfelle misbruk (eksempel: spam i kommentarene ).
Med utviklingen av Web 2.0 , er moderering av innhold mer av en etterfølgende type , slik at Internett-brukere kan varsle moderatoren om manglende overholdelse av nettstedets charter. Moderatoren håndterer deretter disse varslene reaktivt. I tillegg utfører moderator kontroller etter utvalg.
Denne moderasjonsprosessen har blitt viktig for flere store samfunnsportaler. Flere leverandører, som Netino , Conciléo eller Atchik Services i Frankrike, har posisjonert seg i denne nisje og tilbyr en modereringstjeneste. Spredningen av online reaksjonsrom og sosiale medier fører til at operatører i sektoren utvikler sine egne moderasjonsverktøy for å sentralisere innhold.
Når meldinger blir lagt ut av et troll , eller utgjør søppelpost , utføres moderering på en bestemt måte. I tilfelle upassende publikasjoner, som ikke er i samsvar med nettstedets publikasjonscharter, kan meldingen bli slettet. Ellers er den beste måten å håndtere et troll på å svare på den første meldingen ved å tilby å hjelpe. Så hvis personen fortsetter med upassende meldinger, ignorerer dem og / eller blokkerer dem. Publikasjonscharteret er viktig for å svare på troll. Svarene må være faktiske, og du bør ikke nøle med å rette feilene dine om nødvendig.
I 2019 publiserte Sarah T. Roberts , amerikansk professor og lærd Behind the Screen: The Hidden Digital Labor of Commercial Content Moderation . I denne boka beskriver forskeren mekanismen for "overvåking og kontrollering av brukergenerert innhold for sosiale medieplattformer av alle typer, for å sikre at innholdet oppfyller juridiske og regulatoriske krav, retningslinjer for nettstedet eller samfunnet, til brukeravtaler, og at det faller innenfor standardene for smak og aksept for dette nettstedet og dets kulturelle kontekst ”. Hvis dette arbeidet i begynnelsen av de første nettsamfunnene hovedsakelig ble utført av frivillige, er ikke denne moderasjonsmodellen lenger levedyktig for store plattformer. I de fleste tilfeller vil de ringe til underleverandører for å utføre denne oppgaven. Det er ikke bare algoritmene til Facebook eller YouTube som bestemmer hvilket tvilsomt innhold de skal eliminere, men ekte mennesker i land med lave arbeidskostnader. Brukeren av disse plattformene ser ikke "kappede hoder, [...] kyllinger strimlet [eller] skinnede hunder" , fordi skyggearbeidere i sørlige land (spesielt i det engelsktalende landet som er Filippinene ) gjør dette arbeidet med moderering . De psykologiske lidelsene hos sistnevnte, som praktiserer kommersiell innholdsmoderering , er fortsatt det minste bekymringen til internettbedrifter har, siden de avskjediges etter to år hvis de ikke trekker seg selv.
Det er mange automatiserte verktøy som brukes til å filtrere, klassifisere eller til og med organisere informasjonen vi ser online. De fleste opererer på grunnlag av kunstig intelligens eller maskinlæringsprosesser , og distribueres for å delta i moderering av innhold publisert på bestemte nettsteder. Disse algoritmene som brukes av moderering av innhold er begrenset i flere henseender, og deres forståelse er nødvendig i dag, ettersom de i økende grad blir vedtatt av elektroniske plattformer.
Når det gjelder Facebook, blir disse algoritmene ofte presentert som en sølvkule for å avlaste menneskelige moderatorer fra noe av sitt arbeid. Faktisk er disse algoritmene begrensede. De har en ikke ubetydelig feilrate og kan ikke handle uavhengig, uten at menneskelige moderatorer trenger å hjelpe dem med å rette på uunngåelige feil.
Frankrike er en pioner innen moderering. De første selskapene som praktiserer moderering er utgivere av anonyme meldingstjenester fra Minitel og Audiotex . Disse selskapene tilbyr tjenester som IM betaler for bruk i henhold til modellen til kiosken Télétel of France Telecom . De vil raskt bli møtt med et dobbelt problem: å sikre omsetning og juridisk beskyttelse for selskapet og dets ledere.
Inntekter i fareChaque seconde de consultation générant du revenu pour l'éditeur, celui-ci tente de fidéliser l'utilisateur du service. Rapidement, une forme de concurrence déloyale se mettra en place : le détournement de clientèle, aussi appelé racolage. Des animateurs de services de messagerie se connectent à des services minitel concurrents sous des pseudonymes féminins et invitent leurs correspondants à les rejoindre sur le service de leur employeur. La nuisance est double : la perte de clients excédés par ces messages de publicité s'ajoute à celle des clients détournés vers les services concurrents. Pour se protéger de ce fléau, les principaux éditeurs de messagerie tels AGL ou Telestore vont alors mettre en place des logiciels de filtrage des messages de plus en plus élaborés en accompagnement d'une équipe de surveillants appelés modérateurs. Et bindende regelverkOpprettelsen av et virtuelt rom for anonym dialog er en viktig innovasjon som også innebærer risiko. Ulike former for menneskehandel vil forsøke å utvikle seg på disse kurérene, deriblant hallikvirksomhet og prostitusjon. Loven definerer imidlertid anskaffelse som “handling, av hvem som helst, på noen som helst måte, for å hjelpe, hjelpe eller beskytte andres prostitusjon; å tjene på andres prostitusjon, å dele inntektene derav eller å motta subsidier fra en person som vanligvis driver med prostitusjon ”. Tjenesteredaktører må ta forebyggende tiltak for å unngå overbevisning. "3615 ALINE" ble dermed dømt i 1997 for grov anskaffelse.
Videre vil forpliktelsene til tjenesteditoren være oppført i Teletel-kioskavtalen, utarbeidet under ledelse av Superior Telematics Council og kontrollert av France Telecom og Anonymous Telematics Committee. Disse organene samler representanter for operatører, familieforeninger og teleoperatøren. Manglende overholdelse av disse forpliktelsene kan straffes med tunge bøter og tjenestekutt. Moderasjon sprer seg.
Noen av disse selskapene fra minitel har vært i stand til å utvikle modereringskompetanse som de fremdeles tilbyr sine kunder i dag, for eksempel Idixit, spin off av Neocom-Telestore, Concileo, Atchik, eller til og med Netino hvis grunnlegger var en pioner innen minitel.