Chat GPT, Bard, MyAI, Stable Diffusion in drugo so imena programov za umetno inteligenco (UI, angleška okrajšava AI), ki so za uporabo prosto dostopna na internetu. V letu 2023 smo doživel silovit komercialni razvoj uporabe orodij umetne inteligence in posledice na naša življenja se že kažejo – žal niso samo pozitivne. Čeprav ponudniki in navdušenci nad umetno inteligenco prepričujejo, da bo umetna inteligenca rešila številne težave, pa zelo neradi govorijo o izzivih in tveganjih, ki jih prinaša. Ta nova tveganja so še posebej velik izziv za otroke in mladostnike, ki se pri uporabi interneta že tako srečujejo s številnimi tveganji, ki jim povzročajo težave. Za povrh so jih v uporabo orodij umetne inteligence začela precej agresivno prepričevati nekatera podjetja (npr. MyAI na Snapchatu).
Ko govorimo o umetni inteligenci, s katero lahko komuniciramo (npr. ChatGPT, MyAI, Bard), se moramo zavedati, da gre za t.i. generativno umetno inteligenco, ki deluje na osnovi statistične verjetnosti in ne predstavlja pravega razmišljanja in mišljenja, kot je značilno za ljudi. Enako delujejo tudi programi za ustvarjanje slik in video posnetkov. Prave umetne inteligence, ki bo sposobna razmišljanja in čustev, še nismo razvili in kot kaže je še nekaj časa ne bomo. Ta informacija je pomembna, saj obstoječa umetna inteligenca pogosto zavaja s simuliranjem čustev, ki to niso. To pa ima lahko negativen vpliv na otroke, ki tega ne razumejo.
Kje se otroci in mladostniki srečajo z umetno inteligenco?
Na internetu in pri uporabi družbenih omrežij. Veliko orodij je kot spletna aplikacija ali aplikacija za telefon prosto dostopnih s preprosto registracijo ali pa poskusno celo brez. Za bolj zahtevne operacije, kot je izdelava slik, orodja običajno zahtevajo registracijo in manjše plačilo, nekaj slik slabše kakovosti pa je mogoče izdelati brezplačno. Obstajajo pa programi in aplikacije, ki jih naložimo na (zmogljiv) računalnik ali telefon in na njem ustvarjamo slike.
Snapchat je spomladi 2023 vsem uporabnikom samodejno odprl klepete z MyAI. Številni mladostniki so bili zmedeni, ker niso vedeli, kdo je z njimi vzpostavil stik in kaj je namen.
Glavna tveganja
Uporaba orodij umetne inteligence, ki so prosto dostopna na spletu, prinaša določena tveganja. Čeprav se komercialni ponudniki trudijo, da bi umetno inteligenco čim bolj izboljšali, pa ima določene omejitve, ki jih je treba upoštevati.
Informacije, ki jih lahko posreduje UI, so lahko zastarele in omejene. ChatGPT so učili na osnovi informacij, ki so jih zbrali na internetu do septembra 2021.
Posredovane informacije so lahko napačne ali izmišljene. UI si lahko izmišljuje dejstva, ki nepoznavalcu delujejo resnična. Temu rečemo, da umetna inteligenca halucinira.
UI lahko skozi pogovor zbira osebne podatke. MyAI je ob prvem pogovoru postavljal vprašanja, ki so spraševala tudi po osebnih podatkih. Ni jasno, kaj podjetja, ki so lastniki UI, počnejo z osebnimi podatki uporabnikov, kako jih varujejo in uporabljajo. Za zbiranje osebnih podatkov otrok je zakonsko zahtevana privolitev staršev, česar pa podjetja ne upoštevajo vedno, ali pa je starostne omejitve mogoče obiti.
Generatorji besedila lahko s simuliranjem čustev in manipulacijo skozi odgovore vplivajo na počutje uporabnika. Še posebej mladostniki in otroci so zelo dovzetni za te oblike manipulacije, kar je še bolj izrazito, če so v stiski. Pogovor z UI botom jih lahko pahne še v globljo stisko.
Zavajanje uporabnikov, da mislijo, da se pogovarjajo s človekom. UI lahko simulira človeškost in pripravlja odgovore tako, da so videti kot da vsebujejo čustva, sočutje ipd. Otroci in mladostniki se lahko preveč navežejo na UI, kar vpliva na njihovo čustvovanje in razvoj.
Bias (pristranskost) zaradi učenja. Umetna inteligenca je naučena. Raziskave so pokazale, da širi različne negativne stereotipe, predvsem o spolih in rasah.
Umetna inteligenca ne more presojati, ali se je nekaj zgodilo namenoma ali po nesreči, ne more odpuščati in deliti odpustkov. Prav tako ne more sočustvovati.
Z uporabo fotografij dostopnih na internetu ali družbenih omrežjih, je s pomočjo umetne inteligence mogoče ponarejati fotografije in video posnetke ali pa ustvarjati neresnične posnetke. To pa lahko predstavlja obliko spletnega nasilja, ki ima lahko hude posledice za vpletene.
Besedila in knjige, ki jih je napisala umetna inteligenca. Na spletu se pojavljajo številna besedila, ki jih je spisala generativna umetna inteligenca (npr. ChatGPT) in so vprašljive kakovosti ter vsebujejo napačne ali zavajajoče informacije. V spletnih knjigarnah se pojavljajo knjige (tudi strokovne), ki so napisane s pomočjo umetne inteligence, kot avtorji pa so navedene izmišljene osebe ali pa ljudje, ki niso strokovnjaki na področju, ki ga knjiga pokriva in uporaba takšnih knjig lahko ogroža življenje (npr. priročnik za gobarje).
Uporaba za šolo
S pojavom umetne inteligence so šole in učitelji postavljeni pred nove izzive. Učenci in dijaki si bodo pri delu za šolo zagotovo pomagali tudi z uporabo UI. V primeru takšne uporabe jih je treba opozoriti, da se ne smejo zanesti na umetno inteligenco, saj ni nujno, da bodo odgovori vedno pravilni. Za učenje tako umetna inteligenca ni primerna. Temu so namenjeni učbeniki. Če si pomagajo pri reševanju nalog, je prav tako treba biti previden ali so odgovori pravilni ali ne. Sicer pa je treba upoštevati, da znanje, ki ga pridobimo z učenjem, ostane za prihodnost. Umetna inteligenca ne more nadomestiti razgledanosti, razmišljanja in ustvarjalnosti, ki temelji na pridobljenem znanju in veščinah.
Področje umetne inteligence se hitro razvija in vsak dan se pojavljajo novi izzivi in tveganja. Tako kot pri sprejemanju vsake nove tehnologije je treba uporabiti nekaj kritičnega mišljenja in razmisliti o prednostih in slabostih, ki jih prinaša, ter to upoštevati pri morebitni uporabi.
