Najprej opredelimo namen
Digitalna radionika naj bo predstavljena kot eksperimentalna simbolna programska oprema, ne kot medicinski diagnostični ali terapevtski sistem. Jasna opredelitev namena zmanjša nevarnost, da osebno refleksijo zamenjamo za strokovno zdravstveno pomoč.
Privolitev pred tehnično možnostjo
Program lahko tehnično sprejme ime, fotografijo ali podatke druge osebe. To še ne pomeni, da je vsaka uporaba primerna. Osebni podatki potrebujejo spoštljiv odnos, simbolno delo z drugo osebo pa ne sme postati poskus nadzora ali prisile.
Zasebnost je del zasnove
Fotografije priče, imena, rojstni podatki in zapiski seans so lahko občutljivi. Odgovorna aplikacija zbira samo potrebno, pojasni mesto shranjevanja, omogoča brisanje in se izogiba nepotrebnemu prenosu v oblak.
Zdravstvene trditve potrebujejo jasno mejo
Nobena simbolna ocena, matrika ali interpretacija AI ne sme biti predstavljena kot diagnoza. Pri zdravstvenih težavah so potrebne uveljavljene zdravstvene metode. Enako velja za pravne, finančne in druge odločitve, kjer je pomembna strokovna pomoč.
AI potrebuje svojo mejo
AI lahko izboljša besedilo ali povzame zapiske, vendar tekoč jezik hitro ustvari vtis avtoritete. Generirano besedilo mora ostati označeno kot interpretacija. Model ne sme izumljati meritev, skritih vzrokov ali medicinskih zaključkov.
Pri ranljivih uporabnikih še več previdnosti
Aplikacija ne sme krepiti paranoje, kompulzivnega preverjanja ali prepričanja, da je vsako naključje zunanji signal. Uporabniški vmesnik lahko pomaga z manj absolutnim jezikom, odmori in opominom na običajne razlage.
Revizijska sled in možnost preklica
Če aplikacija izvaja avtomatske seanse, generira vsebino z AI ali uporablja urnike, mora uporabnik pozneje razumeti, kaj se je zgodilo. Koristna revizijska sled vsebuje čas, izbrani način, uporabljeno besedilo, različico algoritma in pomembne nastavitve. Prav tako mora biti mogoče seanso ustaviti, izbrisati ali preklicati brez skritih posledic.
Minimalno zbiranje podatkov
Ni vsak podatek, ki ga lahko zberemo, tudi potreben. Če funkcija deluje brez imena, rojstnega datuma ali drugih osebnih informacij, jih ni treba zahtevati. To zmanjšuje tveganje pri izgubi podatkov in uporabniku jasneje pokaže, kateri podatki imajo dejansko funkcijo.
Posebna previdnost pri AI-generiranih razlagah
Jezikovni model lahko ustvari zelo prepričljivo razlago tudi takrat, ko vhodni podatki ne podpirajo tako močnega sklepa. Zato mora aplikacija ločiti med izmerjenim podatkom, simbolno interpretacijo in AI-komentarjem. Pri občutljivih temah je bolje prikazati negotovost in alternativne razlage kot samozavesten zaključek brez podlage.
Rdeče zastavice za odgovorno zasnovo
- skrivanje vsebine pred uporabnikom ali tretjo osebo,
- obljube zdravstvenega učinka brez ustreznih dokazov,
- ustvarjanje strahu, da mora uporabnik nadaljevati seanse,
- spodbujanje odvisnosti od aplikacije pri pomembnih življenjskih odločitvah,
- nejasno shranjevanje osebnih podatkov ali onemogočen izbris.
Odgovoren sistem teh vzorcev ne uporablja kot marketinško prednost, ampak jih načrtno preprečuje.
Tveganje ni enako pri vseh funkcijah
Vizualni simbol, ki ga uporabnik ustvari zase, ima drugačen profil tveganja kot funkcija, ki tiho prikazuje sporočila tretji osebi, shranjuje občutljive osebne podatke ali daje zdravstvene napovedi. Zato je smiselno funkcije ocenjevati po posledicah, ne samo po tehnični zanimivosti.
Višje kot je možno tveganje, več potrebujemo jasnih pojasnil, privolitve, možnosti preklica in omejitev avtomatizacije.
Varne privzete nastavitve
Odgovorna aplikacija naj bo varna že v osnovnem stanju. Eksperimentalne funkcije naj bodo izključene, dokler jih uporabnik zavestno ne omogoči. Besedilo namere naj bo vidno, deljenje podatkov naj bo izbirno, AI pa naj ne ustvarja zdravstvenih ali drugih občutljivih zaključkov brez jasnega konteksta in omejitev.
Takšne privzete nastavitve zmanjšajo možnost nenamerne uporabe in hkrati ne preprečujejo raziskovanja uporabnikom, ki razumejo namen funkcije.
Etika namere
Primerna namera se osredotoči na uporabnikovo vedenje ali želeno stanje: jasnejša komunikacija, priprava, mirna pozornost. Slaba namera poskuša prisiliti drugo osebo, zagotavlja izid ali vključuje škodo.
Profesionalnost pomeni pokazati negotovost
Najvarnejši sistem ni tisti, ki obljubi največ. Jasno označi, kaj je uporabnik vnesel, kaj je program ustvaril, kaj je bilo izmerjeno in kaj ostaja osebna interpretacija.