Selvmord og Facebook AI
Innholdsfortegnelse:
Når en person dør ved selvmord, spiser de i deres liv ofte hva de kunne ha gjort for å forhindre det.
Brukere av sosiale medier kan til og med angre på å se noe som er truende av personen, men ikke noe om det.
AdvertisementAdvertisementI et forsøk på å hjelpe, har Facebook annonsert at det utvider bruken av kunstig intelligens (AI) verktøy for å identifisere når noen uttrykker tanker om selvmord eller selvskade på nettsiden for sosiale medier.
Før denne måneden brukte Facebook bare verktøyene på enkelte brukere i USA. Nå er den tilgjengelig for de fleste av nettstedets 2 milliarder brukere, unntatt de i EU som har strengere personvern og internettlover.
Mark Zuckerberg, daglig leder i Facebook, sier at denne bruken av AI er en positiv utvikling.
AnnonseringHan skrev nylig på sin Facebook-tidslinje at "Bare i den siste måneden har disse AI-verktøyene hjulpet oss med å koble sammen med første respondenter raskt mer enn 100 ganger. “
Hvor nøyaktig gjør verktøyene det?
AnnonseAvgiftFacebook viser ikke dybde detaljer, men det virker som at verktøyet fungerer ved å skumre gjennom innlegg eller videoer og flagge dem når det henter ord, videoer og bilder som kan indikere at en person er i fare for selvmord.
Facebook bruker allerede AI i en lignende sak for å skanne og fjerne innlegg som presenterer barnepornografi og annet innvendig innhold.
En Facebook-representant fortalte Healthline at selvmordsforebyggingsverktøyene hjelper med å oppdage innhold raskere. AI hjelper også med å prioritere rapportene, noe som indikerer hvilke tilfeller som er mer serioius.
Så lærer trenede medlemmer av Facebooks samfunnsoperasjonsteam innholdet og bestemmer hvilken type hjelp som skal leveres til brukeren.
Disse medlemmene jobber rundt om i verden, døgnet rundt, og vurderer både rapporter fra AI-verktøy og fra berørte Facebook-brukere.
AnnonseAdvertisementEn måte som AI-verktøyet oppdager selvmordstendenser, er ved å spørre brukerne om spørsmål som, "Er du ok? " "Kan jeg hjelpe? "Og" Trenger du hjelp? "
Facebooks samfunnsoperasjonsteam har til oppgave å gjennomgå innhold som rapporteres som voldelig eller urolig.
I mai annonserte Facebook at det ville legge til 3, 000 flere arbeidere til operasjonsteamet, som hadde 4 500 ansatte på den tiden.
AnnonseringIfølge Facebook-talsmannen bidrar teknologien til å oppdage innhold og videoer som folk legger på Facebook ofte ganger raskere enn en venn eller familiemedlemmer kan rapportere materialet.
Når disse oppdages, blir Facebook-brukeren i kontakt med Facebook Live-chat-støtte fra krisestøtteorganisasjoner via Messenger, og i stand til å chatte i sanntid.
AnnonsebyråSelvmordsbevisstiltak om bord
Ved å skape AI for selvmordsforebygging, jobber Facebook med psykiatriske organisasjoner, inkludert Save. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)", og Forefront Selvmordsforebygging.
Daniel J. Reidenberg, PsyD, administrerende direktør for Save. org, sier han er begeistret over at Facebook tar skritt for å bidra til å fremme selvmordsforebyggende arbeid på måter som ikke har blitt gjort før.
"Hvis vi ser de siste 50 eller 60 årene - enten du snakker om fremskritt i medisinering eller behandling for selvmord og mental helse - har vi ikke sett reduksjoner eller sett selvmordsfall på grunn av disse tingene, så ideen at kanskje teknologien kan hjelpe, er den beste muligheten vi har akkurat nå, for å prøve å redde liv, "fortalte Reidenberg Healthline.
AnnonseringMens han konstaterer at AI-verktøyene kanskje ikke er fullt utformet og kan gi falske positiver til personer som er i fare, sier han at det er en banebrytende intervensjon for selvmordsforebygging som kan ta tid å forstå sin effektivitet.
"Før AI kom sammen, var det falske positiver fra folk som rapporterte ting til Facebook som trodde at en venn kunne være selvmord. AI er bare påskynde prosessen for å eliminere noen av disse falske positive og virkelig plukke opp de som virkelig er i fare, sier Reidenberg.
AnnonsAdvertisementHan legger til at folk viser tegn på selvmordstendenser på sosiale medier, og at dette ikke er en god eller dårlig ting.
"Sosiale medier er bare hvor folk lever ut sine liv i dag. For mange år siden levde de ut i parken eller ved resesjon eller skrev notater til hverandre, kanskje delt over telefon. Etter hvert som flere og flere mennesker lever sine liv på sosiale medier, deler de både de lykkelige øyeblikkene og utfordringene de står overfor, sier han.
Endringen, legger han til, gjør det mulig for folk å nå hundrevis og hundrevis av mennesker om gangen.
Reidenberg sier at hvis du merker noen på sosiale medier som kan være deprimert eller i fare for selvskader, nå ut til dem med en melding, tekst eller telefonsamtale hvis du er nære venner. Facebook tilbyr til og med pre-befolket tekst for å gjøre det lettere å starte en samtale.
Hvis du ikke føler deg komfortabel med denne tilnærmingen, foreslår Reidenberg å bruke rapporteringsfunksjonen på Facebook.
"Det er en enkel og rask ting å gjøre. Teknologien kan ikke gjøre dette alene. Vi trenger folk til å være involvert. Å ikke gjøre noe er det verste som kan skje, "sa han.
Hva med personvernproblemer?
Bortsett fra den gode hensikten, er det vanskelig å ikke vurdere invasjonen av personvern.
Charles Lee Mudd Jr., en personvernadvokat og rektor ved Mudd Law, sier at Facebook-skanning for søkeord ikke bør betraktes som et brudd på personvern hvis det har blitt avslørt på forhånd.
"Så lenge Facebook avslører det, vurderer innholdet, ser jeg ingen ekte personvernproblemer," sa Mudd Healthline. "Man bør forstå at alt som publiseres hvor som helst på internett, inkludert via e-post - privat eller ikke - eller sosiale medier, kan finne veien til utilsiktede mottakere.I det minste hvis Facebook lar oss vite at det har roboter som leser posten vår - eller i det minste skanner etter nøkkelord eller setninger - kan vi justere vår oppførsel dersom det er nødvendig å gjøre det. "
Mens lovlig Facebook kan være i det klare, om det handler etisk, er det opp til debatt.
Keshav Malani, medstifter av Powr of You, et selskap som hjelper folk til å tjene penger på sin digitale tilstedeværelse, sier uansett hensikten med Facebook, bør hver person være fri til å bestemme hvordan deres personlige data blir brukt.
"Ellers er det en glidende skråning på hva som anses som" god "mot" dårlig "bruk av personlig informasjon vi deler på plattformer som Facebook. Også intensjoner er ikke nok, fordi biases i data kan resultere i ugyldige eller skadelige påstander fra til og med bare grunnleggende historisk korrelasjonsanalyse, "fortalte Malani Healthline.
Han legger til at AI bare er like god som dataene den mottar som input.
"Individuelle plattformer som Facebook prøver å anta at de kjenner deg godt nok til å trekke konklusjoner om ditt velvære, ville være naive. Facebook eller et annet mediauttak for den saks skyld bare dekker en liten del av livet vårt, og ofte maler et bilde vi velger å dele, så å trekke konklusjoner fra en så begrenset og muligvis partisk datakilde bør gjøres med stor forsiktighet " han sa.
Likevel sier Reidenberg at folk ikke bør være redde for Facebook ved å bruke AI.
"Dette er ikke Facebook stalking folk eller komme inn i folks virksomhet," sa han. "Det bruker teknologi og folk til å prøve å redde folks liv," sa han. "Stol på meg, hvis du har en kjære i krise, vil du ha alt som skal gjøres for dem, enten du er i et nødrom eller på nettet. "
Han håper faktisk mer teknologi kan gripe inn i mennesker i krise.
"Når noen er i krise, går alternativer og alternativer bort fra dem. De blir veldig fokusert på hva som skjer i det øyeblikket, og de har ikke verktøyene som er nødvendige for å få dem gjennom, sier han.
Når som helst teknologi kan bidra til å gi folk flere alternativer, sier Reidenberg jo mindre de vil være i krise. Han vil gjerne se teknologi skape flere måter å identifisere personer i fare før de selv står i fare for å si depresjon.
For eksempel sier han at hvis vi vet at når vi blir mer deprimerte at vi samhandler mindre, isolerer mer, trekker mer, har mindre energi, og snakker og skriver annerledes, så kan programmeringsteknologien legge merke til at disse endringene kan være fordelaktige.
"La oss si at du er en vanlig plakat på Facebook, men da blir du mer deprimert i livet og aktiviteten din slipper av sakte. Så begynner du å legge inn bilder på Instagram av noen veldig trist eller en dyster dag ute. Hvis vi kan få teknologi til å hente på hva som skjer med deg i livet ditt basert på din oppførsel online, kan vi begynne å gi deg ting som ressurser eller støtte, og kanskje vi kan slå den rundt, sier Reidenberg.
Zuckerberg delte en lignende følelse i hans innlegg, og viser til fremtidige planer om å bruke AI på andre måter.
"Det er mye mer vi kan gjøre for å forbedre dette videre," skrev han. "I fremtiden vil AI kunne forstå flere av de subtile nyansene i språket, og kunne også identifisere forskjellige problemer utover selvmord, inkludert raskt å spotte flere typer mobbing og hat. “
