Denne Safer Internet Day inviterer WebWise foreldre, lærere, skoler og unge mennesker til å vurdere hvordan AI former opplevelser på nettet.
Gjennom en rekke workshops og retningslinjer håper den årlige dagen å styrke barn til å trives på nettet, utstyrt med ferdigheter til å navigere både i mulighetene og utfordringene ved alt som følger med å være på internett.
Årets tema er AI Aware: Safe, Smart, and in Control. Det er en påminnelse til både foreldre og barn om at selv om disse teknologiene har fordeler, øker de også risikoer og bekymringer.
En foreldres guide til generativ AI
Utviklet i samarbeid med ADAPT-senteret og National Parents Council, er det laget en nyttig veiledning for foreldre som gir praktiske råd og veiledning om sikker og ansvarlig navigering av Generativ AI.
Du kan se et utdrag fra veiledningen, som viser risikoene og fordelene ved AI nedenfor, og du kan finne hele veiledningen på webwise.ie/aiaware.
GenAI – Fordelene
Generativ AI, enten frittstående verktøy som ChatGPT eller integrert i en annen plattform, kan brukes til å forbedre tilgjengeligheten ved å gjøre innhold mer skreddersydd og enklere å forstå.
Funksjoner som tale-til-tekst, tekst-til-tale, oversettelse og bildebeskrivelser lager innhold og verktøy
mer tilgjengelig for personer med ulike læringspreferanser, språk eller evner å engasjere seg i.
Generative AI-verktøy kan gjøre tilgang til informasjon, råd og assistanse raskere og mer personlig enn tradisjonelle søk eller ressurser. I stedet for å sile gjennom flere nettsteder eller bøker, kan brukere få
forklaringer, sammendrag eller trinn-for-trinn-veiledning på ett sted, skreddersydd for deres spesifikke forespørsel.
Dette kan spare tid ved å gjøre det å finne informasjon mer effektivt, gi umiddelbare svar og tilbakemeldinger. Brukere bør imidlertid alltid være klar over at Generative AI-verktøy kan gi unøyaktig og/eller villedende informasjon.
Sparer tid og produktivitet
Selv om det er bekymringer, inkludert nøyaktighet, overdreven tillit og risiko for plagiering, kan generativ AI være et nyttig verktøy for lekser og studier. Det kan bidra til å forklare vanskelige konsepter, oppsummere informasjon fra flere kilder, gi eksempler, hjelpe til med idédugnad eller tilby trinn-for-steg veiledning, og støtte unge mennesker til å utdype deres forståelse.
Lekser og studier
Generativ AI kan gi verktøy som lar unge mennesker utforske kreativiteten sin. Den lar unge mennesker prøve ut nye ideer, som å skrive historier, komponere musikk, lage digital kunst eller lage videoer, uten å trenge avanserte tekniske ferdigheter.
Kreativitet
Det er viktig å være klar over minimumsalderen for alle Generative AI-verktøy barnet ditt bruker, foreldrekontrollene som er tilgjengelige, og være klar over skolens retningslinjer for bruk av AI-verktøy.
Aldersbegrensninger kan imidlertid noen ganger være uklare eller enkle å omgå, så de bør ikke stoles på som en fullstendig beskyttelse. Selv om disse tiltakene kan bidra til å minimere risikoen for at barnet ditt møter upassende eller unøyaktig innhold, er det viktig å ha åpne samtaler med barnet ditt og minne dem på å komme til deg hvis de møter noe på nettet som plager eller opprører det.
GenAI – Risikoene:
Bias
Generative AI-verktøy kan reflektere skjevheter som finnes i dataene de ble trent på. Dette betyr at innholdet de produserer utilsiktet kan forsterke stereotypier, favorisere visse synspunkter eller ekskludere andre. For eksempel kan en AI som hovedsakelig er trent på bilder av visse typer mennesker slite med å representere andre nøyaktig, eller en språkmodell kan gi svar som gjenspeiler kulturelle eller sosiale skjevheter.
Overdreven tillit
Det er viktig å være klar over potensialet for unge mennesker til å bli overavhengige av Generative AI-verktøy. Selv om de kan være nyttige for lekser, kreative prosjekter eller idégenerering, stoler de for mye på det
kan begrense kritisk tenkning, problemløsning og selvstendig læring.
Dette kan føre til akademisk avhengighet eller plagiat hvis det er avhengighet av AI-verktøy for å fullføre lekser, eller hvis innhold produsert fra Generative AI-verktøy (ofte kalt AI-generert innhold)
er levert som originalverk.
Å oppmuntre barnet ditt til å bruke AI som et støtteverktøy i stedet for en erstatning for deres egen tenkning, hjelper dem å utvikle ferdigheter mens de fortsatt drar nytte av teknologien. Faktisk, på grunn av Generative AIs potensial for å produsere unøyaktig eller villedende informasjon, er det viktig å sikre at unge mennesker har ferdighetene og nivået av fagkunnskap for å kunne kritisk vurdere Generativ AI-informasjon.
Privatliv
Personvern er en viktig faktor når du bruker generative AI-verktøy. Mange AI-plattformer samler inn og lagrer forespørsler og data brukere gir, som kan inkludere personlig informasjon. Selv om AI-en ikke «husker» individuelle økter, kan informasjonen som deles med den, brukes til å trene AI-en eller deles
med en tredjepart.
Oppmuntre barnet ditt til å unngå å dele sensitiv personlig informasjon og være oppmerksom på hva de skriver inn i forespørselen eller lastingen når de samhandler med GenAI-verktøy.
Miljøpåvirkning
Etter hvert som bruken av Generativ AI i apper og verktøy vokser, øker også energibehovet. Ressursene som trengs for å trene og vedlikeholde Generative AI-systemer og datasentre involverer høy energi- og vannbruk, og fremhever risikoen for betydelig ressursforbruk og karbonutslipp.
Estimater antyder at «et søk drevet av generativ AI bruker fire til fem ganger energien til et konvensjonelt nettsøk,» og at «store AI-systemer sannsynligvis trenger like mye energi som hele nasjoner» (Crawford, 2024).
Designfunksjoner (overbevisende design)
Verktøy er ofte utformet for å være engasjerende, hjelpsomme og har en tendens til å «behage folk». Dette betyr at de kan gi svar som høres trygge, behagelige eller underholdende ut, selv når informasjonen ikke er helt nøyaktig. Noen verktøy oppmuntrer til kontinuerlig interaksjon ved å tilskynde brukerne til å stille flere spørsmål, ofte skreddersydd svar for å tilpasse seg brukerens synspunkter eller forventninger.
AI-ledsager, som ofte er designet for dypere interaksjoner, venter ikke bare på brukeroppfordringer; de kan sette i gang interaksjoner. Disse følgesvennene er designet for å føle seg vennlige, støttende og lydhøre, og barn kan være mottakelige for å knytte tilknytninger eller stole på dem.
I dette tilfellet er det viktig å huske at disse følgesvennen er av kunstig natur, designet for å simulere disse egenskapene.
Feilinformasjon og unøyaktig innhold
GenAI kan produsere innhold som virker overbevisende, men som er unøyaktig, villedende eller partisk. Dette skjer fordi AI lager sine svar basert på mønstre den lærer fra mange kilder, som nettsteder, bøker, artikler, tekst eller bilder, hvorav noen kan ha feil, skjevheter eller utdatert informasjon.
AIs hovedmål er å produsere innhold som er flytende og plausibelt, ikke det som garantert er sant. Noen ganger kan den til og med finne på et svar som høres ekte ut, men som ikke er det, som kalles en «hallusinasjon».
Hallusinasjoner skjer fordi målet med AI er å forutsi en plausibel respons, selv om den ikke vet svaret. Den vet kanskje ikke svaret fordi treningsdataene ikke inneholdt informasjonen, informasjonen er for ny, eller spørsmålet krever reell tenkning eller logikk.
Trakassering og skadelig innhold
Minn unge mennesker på at AI-generert innhold ikke alltid er nøyaktig, oppmuntre dem til å tenke kritisk, og verifiser informasjon med en pålitelig kilde.
Generative AI-verktøy har potensial til å bli brukt til å lage innhold som retter seg mot eller skader andre. Generative AI-verktøy kan for eksempel brukes til å generere meldinger, bilder eller videoer ment å håne, ydmyke eller spre falsk informasjon om noen.
Deepfakes eller andre typer manipulerte medier kan gjøre dette innholdet enda mer overbevisende. Det er avgjørende for unge mennesker å erkjenne at bruk av generativt AI-innhold til disse formålene er skadelig og medfører alvorlige risikoer, for eksempel potensielle juridiske konsekvenser. Det er viktig å oppmuntre til trygg og respektfull bruk av
disse teknologiene.
For flere tips om internettsikkerhet, besøk webwise.ie.
