Jump to content

Template:Model card ORES damaging edit/no

From Meta, a Wikimedia project coordination wiki
Model card
This page is an on-wiki machine learning model card.
A diagram of a neural network
A model card is a document about a machine learning model that seeks to answer basic questions about the model.
Model Information Hub
Model creator(s)Aaron Halfaker (User:EpochFail) and Amir Sarabadani
Model owner(s)WMF Machine Learning Team (ml@wikimediafoundation.org)
Model interfaceOres homepage
CodeORES Github, ORES training data, and ORES model binaries
Uses PIINo
In production?Yes
Which projects?{{{language}}} {{{project}}}
Denne modellen bruker data om en revidering for å forutsi sannsynligheten for at revideringen er skadelig.


Motivasjon

[edit]

Noen godvillige redigeringer skader en artikkel, og ikke alle skadelige redigeringsmetoder er i dårlig vild. Denne modellen (sammen med en godvillig modell) er ment å skille mellom redigeringer som er bevisst skadelige (dårlig vild/vandalisme) og redigeringer der det er ment å være skadelige (gode redigeringer/godvillig skade).

Denne modellen bidrar til å prioritere gjennomgang av potensielt skadelige redigeringer eller vandalisme. Den gir en forutsetning om hvorvidt en gitt revidering er skadelig eller ikke, og gir noen sannsynligheter for å tjene som et mål for sin tillit.

Brukere og bruk

[edit]
Use this model for
  • Denne modellen bør brukes for å prioritere gjennomgåelse og potensiell reversering av vandalisme på norsk Wikipedia.
  • Denne modellen bør brukes til å oppdage skadelige bidrag fra redaktører på norsk Wikipedia.
Don't use this model for
  • Denne modellen bør ikke brukes som en endelig voldgiftsdommer om hvorvidt en redigering bør anses skadelig.
  • Modellen bør ikke brukes utenfor norsk Wikipedia.
Current uses
  • Norwegian Wikipedia bruker modellen som en tjeneste for å lette effektiv vandalismesprøvning, redigere anmeldelser eller støtte til nyankomne.
  • På individuell basis kan alle sende en riktig formatert API-opptak til ORES for en gitt revidering og få tilbake resultatet av denne modellen.
Example API call:
{{{model_input}}}

Etiske hensyn, advarsler og anbefalinger

[edit]

Norwegian Wikipedia bestemte seg for å bruke denne modellen.

Denne modellen er kjent for å gi nyere redaktører høyere sannsynlighet for skadelige redigeringer.

Intern eller ekstern endring som kan gjøre denne modellen utdatert eller ikke lenger brukbar er:

  • Data drift betyr at opplæringsdata for modellen ikke lenger kan brukes.
  • Møter ikke de ønskede ytelsesmetrikene i produksjonen.
  • Norsk Wikipedia-fellesskap bestemmer seg for ikke å bruke denne modellen lenger.

Modell

[edit]

Utøvelse

[edit]

Test data confusion matrix: {{{confusion_matrix}}}

Test data sample rates: {{{sample_rates}}}

Test data performance: {{{performance}}}

Utførelse

[edit]
Model architecture
{{{model_architecture}}}
Output schema
{{{model_output_schema}}}
Example input and output
Input:
{{{model_input}}}

Output:

{{{model_output}}}

Data

[edit]
Data pipeline
Tabulerdata om redigeringer samles fra Mediawiki API, forhåndsbehandles (via log-transformasjoner, forening med offentlige redaktørdata, etc.), og kombineres med brukergenererte godvilje/skadelige etiketter.
Training data
Denne modellen ble trent ved hjelp av håndmerket opplæringsdata som er flere år gammel.
Test data
De rapporterte statistikkene ble beregnet ved å velge en tilfeldig deling av opplæringsdataene som skal holde seg ut fra opplæringsprosessen.

Lisense

[edit]

Citat

[edit]

Cite this model card as:

@misc{
  Triedman_Bazira_2023_{{{language}}}_{{{project}}}_damaging,
  title={ {{{language}}} {{{project}}} damaging model card },
  author={ Triedman, Harold and Bazira, Kevin },
  year={ 2023 },
  url={ https://meta.wikimedia.org/wiki/Model_card_ORES_damaging_edit/no }
}