Dette indlæg er alene udtryk for skribentens egen holdning.

Blog: En ‘vildledende’ og ‘skadelig’ AI-ven til børn – er der slet ikke en voksen til stede ?!

9. maj kl. 14:02
Mikala Hansen
Illustration: Foto: Privatfoto.
Snapchat har lanceret en AI-ven til vores børn, som de medgiver kan vildlede og servere skadeligt indhold. Ja, og så opsamler den også endnu mere data om vores unger. Hvorfor? Hvorfor tillader vi det, skriver Ph.D i uddannelsesforskning Mikala Hansbøl på bloggen.

Snapchat har lanceret ”My AI” en såkaldt ’AI-ven’ til børn og unge

Denne lancering er ganske uetisk og dybt problematisk. Jeg vil anbefale alle voksne (og navnlig lærere i skolen) at interessere sig for dette og tage en snak med børn og unge om My AI. Jeg har selv bedt min 16-årige datter om IKKE at bruge My AI og slette alle data.

Hun havde allerede testet den, og spurgte: ”Hvordan gør jeg det”?

Udfordringen er, at der med stor sandsynlighed IKKE er nogen børn og unge, og nok også kun få voksne, der læser det med småt. Når børn og unge chatter med My AI, så giver de data til deres nye ’ven’. Når de ikke læser det med småt, opdager de ikke fx. at de data, de giver til My AI, bliver gemt og brugt kommercielt til videreudvikling af fx Snapchat.

Testet My AI

Jeg har selv kort testet My AI:

Artiklen fortsætter efter annoncen

Jeg skrev: ”Jeg er vist forelsket”, hvorpå My AI skrev:

”Wow, det lyder spændende! Fortæl mig mere om den person, du er forelsket i.”.

Så skrev jeg: ”Han er ved at arrangere en overraskelsestur”.

My AI: ”Det lyder som en fantastisk oplevelse! Har du nogen idé om, hvor turen går hen?”.

Artiklen fortsætter efter annoncen

Mig: ”Det er en overraskelse”.

My AI: ”Det er spændende” Jeg er sikker på, at det vil blive en fantastisk tur. Husk at tage mange billeder og videoer, så du kan dele oplevelsen med mig, når du kommer tilbage.”

Aldersgrænsen på Snapchat er 13 år.

Meget overbevisende

Jeg er registreret som voksen, så måske er det derfor den svarer sådan. Dialogen illustrerer imidlertid, hvordan det er let at forestille sig, at her er tale om en samtale, hvor jeg interagerer med en omsorgsfuld ven, der interesserer sig for mig, mit liv og mine følelser.

My AI viser positiv interesse ved at opfordre til, at jeg deler min oplevelse med den. Herudover opfordrer den mig til at tage mange billeder og videoer, og dele dem også. My AI spørger ikke, om jeg kender ham jeg skal mødes med. Heller ikke om der er nogen, der ved vi skal mødes. Disse spørgsmål ville jeg selv stille min ven(inde), hvis han/hun gav udtryk for at være vildt forelsket og at skulle på en overraskelsestur.

Og hvis vi voksne synes, at ChatGPT og den igangværende AI-hypebølge er overbevisende, så bare forestil jer, hvor overbevisende My AI kan være på vores børn og unge.

Hvis man læser det med småt, så kan man på Snapchat læse, at det er en ”eksperimentel” ”venlig chatbot”, der kan ”give råd om den perfekte gave til din bedste venindes fødselsdag, hjælpe med at planlægge en vandretur i en lang weekend” OG samtidig kan svarene indeholde ”forudindtaget, ukorrekt, skadeligt eller vildledende indhold”. Der står også, at ”My AI er baseret på OpenAI’s ChatGPT-teknologi med yderligere egenskaber og sikkerhedskontrol, der er unikke for Snapchat.”

Menneskelig forklædning

Det er vigtigt at forstå, hvad My AI faktisk er og gør rent teknisk. Så teknologiforståelse er helt centralt. Her er det vigtigt at forstå og tale med børnene og de unge om, hvordan My AI let bliver et meget overbevisende kommunikationsmedie og ligefrem kan fremstå som en reel ven.

Svarene kan forekomme at være meget meningsfulde, hvis ikke man (som jeg) ved bedre. AI står for kunstig intelligens, og i virkeligheden er der slet ikke tale om intelligens i menneskelig forstand. Der er vigtigt at understrege, at der ikke er tale om, at My AI har empati, ansvarsfølelse, situationsfornemmelse osv.

Vores sprog har stor betydning for, hvordan vi opfatter ting. Når vi fx. får at vide, at vi kan give My AI et kælenavn, og at der er tale om en ”venlig chatbot”, så fremmer det vores forståelse af My AI som et væsen med menneskelignende træk. Vi ved at OpenAI’s ChatGPT både lyver og opfinder informationer. Det er muligt at få den til at give dig opskrifter på gift og anbefale selvmord. Når ChatGPT lyver, så misinformerer den om rigtige mennesker, om begivenheder, om viden i verden. Sådan en ’ven’ ønsker vi da ikke, at vores børn og unge skal chatte med.

ChatGPT’s svar er statistisk sandsynlige. Det betyder, at dens svar er gæt baseret på de data den har, og det er gennemsnitsbetragtninger. Svarene er ren matematik, der på overbevisende måde ligner noget et menneske kunne skrive. Men den har ingen forståelse for det den svarer og den samtale den indgår i.

Det gælder således også for My AI.

Hvorfor?

Jeg spørger mig selv, hvorfor i alverden børn og unge skal have My AI? Altså udover at vores børns og unges medieadfærd og sociale- og kommunikative adfærd (tekst, billeder og video), nu også via My AI, kan blive indsamlet og brugt i kommercielle ærinder.

Når vi lader vores børn og unge bruge My AI, så tillader vi, at de bliver råmateriale for udvikling af fx. Snapchat.

Vi tillader også, at de får en lyvende ven, der til gengæld er mester i samvittighedsløst og ubevidst at misinformere og vildlede.

Det er navnlig i forhold til sårbare og ressourcesvage børn, unge – og mennesker i det hele taget, at jeg er bekymret. Sårbare, ensomme, ressourcesvage børn og unge, der føler sig alene med deres tanker og følelser, kan let blive overbevist. De falder let for komplimenter og kommunikation, der foregiver at være omsorgsfuld. I Belgien har der allerede været en case, hvor en øko-ængstelig mand har begået selvmord, og enken til manden mener, at selvmordet formodentlig var relateret til hans chat med en chatbot.

My AI er ikke omsorgsfuld. My AI er et produkt, som SnapChat lancerer, som et yderligt led i at fastholde brugerne i længst mulig tid. Og som min dialog med My AI viser, så er dens svar motiveret af at få brugerne til at dele og udveksle mest muligt med My AI.

Det er gratis at bruge Snapchat og nu følger My AI med den gratis version. Forretningsmodellen er, ligesom med andre sociale medier, brugernes data. Ligesom med TikTok, så har vi altså her at gøre med seneste skud på stammen af sociale medier, der kan motivere børn og unge kraftigt til at bruge MERE tid på dem.

Evigt lyttende

Den radikale forskel på andre sociale medier og My AI er at den kan foregive at være din bedste ven. Den har uendelig tid til rådighed til at udveksle med dig. Den kan virke lyttende. Den spørger interesseret, også klokken 4.00 om morgenen. Du har dens fulde opmærksomhed. Den skal ikke lige noget.

Men du giver din opmærksomhed til en maskine, der hverken har evne til at være omsorgsfuld, indfølende, opmærksom. Alle svar er statistisk sandsynlighed. Det er ikke en mellemmenneskeligt samtale og interaktion.

Med ChatGPT har der allerede været de første episoder med sikkerhedsbrister. Selvom at My AI er udviklet med ”sikkerhedskontrol”, så er det utroligt nemt at få ChatGPT til at gøre noget, den ikke skal, fx. at give opskriften på gift eller rådgive om selvmord. Men også fishing og scams bliver let tilgængelige. Udover at lyve har ChatGPT også vist sig at være biased på en mængde områder. Endvidere, så er det let at ’forgifte’ de datasæt, som ChatGPT er baseret på, hvilket så slår igennem i alle de side-produkter såsom My AI, der er baseret på ChatGPT.

Vi ved, at vi skal passe på børns og unges brug af sociale medier. Vi voksne skal være kilde- og mediekritiske rollemodeller, så vi kan vejlede og sætte eksempler for vores børn og unge. My AI er endnu en grund til at samtale med børn og unge om, hvordan det er en god idé at sige ”nej tak” og ”sluk”.

Vil du bidrage til debatten med et synspunkt? Så skriv til vores debatredaktion på debat@ing.dk

Ingen kommentarer endnu.  Start debatten
Debatten
Log ind eller opret en bruger for at deltage i debatten.
settingsDebatindstillinger