AI Gone Rogue: 6 ganger AI gikk for langt

Fra stemmegjenkjenningsenheter til intelligente chatbots, AI har forvandlet livene våre. Men alle gode ting har også en ulempe, og AI er intet unntak fra denne regelen. Ledende teknologiskikkelser har advart om de truende farene ved AI, inkludert Stephen Hawking, som sa at det kan være den "verste hendelsen i historien til vår sivilisasjon."

Her er seks ganger AI gikk litt for langt og fikk oss til å klø oss i hodet.

1. Den akademiske studien som brukte AI til å forutsi kriminalitet

Akademisk forskning er ryggraden i vitenskapelige fremskritt og kunnskap. Noen sier imidlertid at forskere gikk et skritt for langt da en akademisk studie brukte AI til å forutsi kriminalitet fra ansikter.

Forskere fra Harrisburg University annonsert i 2020 at de hadde utviklet programvare for ansiktsgjenkjenning som kunne forutsi om noen ville være kriminelle. Programvaren kunne angivelig forutsi fra et enkelt bilde av et ansikt med en nøyaktighetsgrad på 80 % og uten rasemessig skjevhet.

I en scene som minner om Minority Report, ble det kunngjort at programvaren ble utviklet for å hjelpe rettshåndhevelse.

Som svar på denne kunngjøringen, 2425 eksperter signerte et brev oppfordrer tidsskriftet til ikke å publisere denne studien eller lignende forskning i fremtiden fordi denne typen teknologi kan reprodusere urettferdighet og forårsake reell skade for samfunnet. Som svar kunngjorde Springer Nature at de ikke ville publisere forskningen, og Harrisburg University fjernet pressemeldingen som skisserte studien.

2. Skiin Smart Undertøy

Tekstilinnovasjoner som integrerer AI betyr at smarttelefonen din ikke er det eneste som blir smartere.

Skiins smarte undertøy lover å få deg til å føle at du har på deg favorittundertøyet mens du fanger biometri som inkluderer hjertefrekvens, holdning, kjernekroppstemperatur, plassering og trinn.

I slekt: Hva er smarte stoffer og hvordan kan de gjøre livet ditt smartere?

Sensorer innebygd i undertøyet samler og analyserer kontinuerlig dine biometriske data, med innsikt tilgjengelig fra Skiins tilsvarende smarttelefonapp.

Selv om det kan ta deg en stund å huske å lade undertøyet hver kveld, var det mulig for designerne å plassere sensorene andre steder på kroppen?

3. DeepNude-apper

Deepfake-teknologi virker som ufarlig moro for den gjennomsnittlige brukeren som ønsker å spille en scene fra favorittfilmen deres. Imidlertid er det en mørkere side ved denne trenden, ettersom Deeptrace rapporterte i 2019 at 96 % av deepfakes var av eksplisitt innhold.

DeepNude var en AI-drevet app som genererte realistiske bilder av nakne kvinner med et klikk på en knapp. Brukere måtte ganske enkelt laste opp et kledd bilde av målet, og appen ville generere et falskt nakenbilde av dem.

Kort tid etter at appen ble utgitt, annonserte skaperen at han ville fjerne den fra internett på grunn av viral tilbakeslag.

Selv om dette var en seier for kvinner over hele verden, flyter lignende apper fortsatt rundt på nettet. For eksempel, Sensity sin rapport på dypfalske roboter undersøkte underjordiske dypfalske boter på Telegram som brukes til å generere falske nakenbilder av kvinner.

I mellomtiden, inntil loven fanger opp med dypfalsk teknologi, er det få juridiske beskyttelser på plass for personer som er offer for eksplisitt dypfalsk innhold.

4. Tay, Microsofts nazistiske chatbot

I 2016 ga Microsoft ut en AI-chatbot ved navn Tay på Twitter. Tay ble designet for å lære ved å samhandle med Twitters brukere gjennom tweets og bilder.

På mindre enn 24 timer forvandlet Tays personlighet seg fra en nysgjerrig tusenårig jente til et rasistisk, provoserende monster.

Opprinnelig ble Tay designet for å gjenskape kommunikasjonsstilen til en amerikansk tenåringsjente. Men etter hvert som hun vokste i popularitet, begynte noen brukere å tweete inflammatoriske meldinger relatert til kontroversielle emner til Tay.

I ett tilfelle twitret en bruker: "Har Holocaust skjedd?" som Tay svarte: "Det ble gjort opp." Innen 16 timer etter utgivelsen, suspenderte Microsoft Tays konto, med henvisning til at den hadde vært gjenstand for en koordinert angrep.

I slekt: De beste Android Chatbots som vil holde deg underholdt

5. "Jeg vil ødelegge mennesker"

Hanson Robotics hadde vært opptatt med å utvikle humanoide roboter i flere år da de debuterte med Sophia på SXSW-konferansen i mars 2016.

Sophia ble trent med maskinlæringsalgoritmer for å lære samtaleferdigheter, og hun har deltatt i flere TV-intervjuer.

I sin første offentlige opptreden forlot Sophia et rom fullt av teknologifagfolk sjokkert da Hanson Robotics CEO David Hanson spurte henne om hun ønsket å ødelegge mennesker, som hun svarte: "Ok. Jeg vil ødelegge mennesker".

Mens hennes ansiktsuttrykk og kommunikasjonsevner er imponerende, er det ingen mulighet til å ta tilbake den morderiske tilståelsen.

6. seebotschat

Google Home-enheter er utmerkede virtuelle assistenter som hjelper deg med å forenkle livet ditt.

Teamet bak seebotschat Twitch-kontoen hadde en strålende idé: legg to Google Home-enheter ved siden av hverandre, la dem snakke og stream resultatet på nettet.

Etter å ha samlet et publikum på over 60 000 følgere og millioner av visninger på nettet, var resultatet fengslende og til tider litt skummelt.

De autonome enhetene, kalt Vladimir og Estragon, gikk fra å diskutere det verdslige til å utforske dype eksistensielle spørsmål som meningen med livet. På et tidspunkt kom de i heftig krangel og anklaget hverandre for å være roboter, mens de senere begynte å diskutere kjærlighet – før de begynte å krangle igjen.

Er det noe håp for fremtiden til AI og menneskelig diskurs hvis to virtuelle assistentroboter raskt går over til å kaste fornærmelser og trusler mot hverandre.

Rogue AI: Hva er vårt beste forsvar?

Det er ingen tvil om at AI kan forbedre livene våre. Men på samme måte er AI også i stand til å påføre oss stor skade.

Å holde et øye med hvordan AI brukes er viktig for å sikre at det ikke skader samfunnet. Eksperttilbakekobling sørget for eksempel for at AI-programvaren som angivelig kunne forutsi kriminalitet aldri ble utgitt. På samme måte tok DeepNudes skaper appen fra nettet etter at den mottok viral internettreaksjon.

Å overvåke AI-applikasjoner konstant er nøkkelen for å sikre at det ikke gjør mer skade enn nytte for samfunnet.

Er AI farlig? 5 Umiddelbare risikoer ved kunstig intelligens

AI har så mange fordeler, men hva med den umiddelbare risikoen den utgjør for menneskeheten?

Les Neste

Om forfatteren