You are using an outdated browser. For a faster, safer browsing experience, upgrade for free today.

1. Temelji umjetne inteligencije i regulatorni kontekst

Temelji umjetne inteligencije i regulatorni kontekst
1.1 Uvod u umjetnu inteligenciju za MMSP-ove
0%
Pregled modula
  • Ovaj modul pruža uvodni pregled umjetne inteligencije (UI) prilagođen mikro, malim i srednjim poduzećima (MMSP). 
  • Cilj je izgraditi osnovno razumijevanje umjetne inteligencije, njezine poslovne relevantnosti, ključnih regulatornih zahtjeva i etičkih razmatranja. 
  • Sadržaj koristi jednostavan jezik, primjere iz stvarnog MSME-a (npr. maloprodajne trgovine, pružatelji usluga ili mali proizvođači) i izbjegava tehnički žargon. 
  • Objašnjenja uključuju analogije, poput usporedbe umjetne inteligencije sa pametnim asistentom, kako bi koncepti bili dostupni svim obrazovnim i profesionalnim područjima.

 

Znanje, vještine i stavovi za Modul 1
  • Razumjeti osnovne definicije i koncepte UI-a, uključujući kako se UI razlikuje od tradicionalnih alata; 
  • Izraziti potencijalnu poslovnu vrijednost UI-a kroz jednostavne primjere; 
  • Razvijati znatiželju prema mogućnostima umjetne inteligencije uz održavanje realnih očekivanja; 
  • Razumjeti osnovne regulatorne okvire za UI i njihovu relevantnost za poslovanje; 
  • Identificirati zajedničke zahtjeve usklađenosti i primijeniti osnovne provjere (npr. procjene rizika); 
  • Prioritet dati etičkim i pravnim razmatranjima u usvajanju UI-a kako bi se izgradilo povjerenje i izbjegle kazne;
  • Razumjeti ključna načela pravednosti, transparentnosti i privatnosti u korištenju umjetne inteligencije.
  • Identificirajte odgovorne prakse i primijenite jednostavne mjere zaštite (npr. pregled rezultata, zaštitu osjetljivih podataka).
  • Cijenite odgovornost i održavajte povjerenje u način na koji se UI primjenjuje.

 

1.2 Osnove umjetne inteligencije za poslovanje
0%
Pregled:
U današnjem digitalnom gospodarstvu, UI pomaže MSP-ovima da se natječu automatizacijom zadataka i pružanjem uvida.
   
Usvajanje UI-a među europskim malim i srednjim preduzećima poraslo je za 20% u 2023. godini, povećavajući učinkovitost (Organizacija za ekonomsku suradnju i razvoj "SME Digitalizacija" 2022).
   
Ova cjelina nudi temeljni pregled umjetne inteligencije, razlikujući uobičajene mitove od stvarnosti i ističući njezinu temeljnu vrijednost za poduzeća.
   
Koristi svakodnevne primjere kako bi razjasnila UI i pokazala kako može podržati MSME operacije poput korisničke podrške ili upravljanja zalihama.
   
Na primjer, razumijevanje osnova UI-a pomoći će malom maloprodajnom MSP-u da etički primjenjuje chatbotove, izbjegavajući zamke usklađenosti o kojima ćemo kasnije biti riječi.

 

Razumijevanje pojma umjetna inteligencija?
 
 

Definicija:

UI kao sustavi koji oponašaju ljudsku inteligenciju kako bi obavljali zadatke poput prepoznavanja obrazaca ili predviđanja.

Analogija:

Usporedite UI s kuharom koji slijedi recepte i uči iz prošlih obroka.

Myths vs. Realities:

Mit—"UI će zamijeniti sva radna mjesta".
Stvarnost—UI nadopunjuje ljudski rad, oslobađajući vrijeme za kreativnost u MSP-ovima (Deloitte "Tech Trends" 2023).

UI kao rješenje:
Umjetna inteligencija može automatizirati rutinske upite, smanjiti vrijeme čekanja i tako olakšati teret malim timovima.

 

 

 

Što je umjetna inteligencija?
UMJETNA   INTELIGENCIJA   UMJETNA INTELIGENCIJA
Umjetna inteligencija je inteligencija koju pokazuju strojevi, a ne ljudi ili druge životinje. Područje istraživanja umjetne inteligencije definira se kao proučavanje "inteligentnih agenata": bilo kojeg uređaja koji percipira svoju okolinu i poduzima radnje koje maksimiziraju njegove šanse za uspjeh u nekom cilju.

 

Povijest umjetne inteligencije

1943.: McCullough i Pitts izumili su "umjetne neurone".
1950.: Izumi Alan Turingove "Computing Machinery and Intelligence".
1951.: UI je koristio u igrama.
1956.: Dartmouth konferencija; I rođenje UI-a.
1965.: Robinsonov kompletan algoritam za logičko zaključivanje.
1969.-79.: Dogodio se rani razvoj sustava temeljenih na znanju.
1980-88: Industrija ekspertnih sustava doživljava procvat.
1988.-93.: Industrija ekspertnih sustava probija "Al winter".
1993.: danas: UI sada brzo koristi različite tehnologije; I ostvaruje svoj cilj.
2022.: Predstavljanje ChatGPT-a

Primjeri umjetne inteligencije
Chatbotovi Pametni automobili
Pametni asistenti Navigacijske aplikacije
E-plaćanja Prepoznavanje lica
Algoritmi pretraživanja Uređivači teksta
Streaming medija Feedovi na društvenim mrežama

 

Primjeri upotrebe umjetne inteligencije
Slide Image Slide Image Slide Image

Zdravstvo

  • Prateći roboti za skrb o starijima.
  • Pretraživanje medicinske dokumentacije radi pružanja korisnijih informacija
  • Planovi tretmana dizajna
  • Pomoć u ponavljajućim poslovima uključujući upravljanje lijekovima Pružanje konzultacija
  • Korištenje avatara umjesto pacijenata za kliničku obuku

Teška industrija

  • Roboti su postali uobičajeni u mnogim industrijama i često im se daju poslovi koji se smatraju opasnima za ljude. 
  • Roboti su se pokazali učinkovitima u poslovima koji su vrlo repetitivni, što može dovesti do pogrešaka ili nesreća zbog gubitka koncentracije, kao i u drugim poslovima koje ljudi mogu smatrati ponižavajućima.

Financije

  • Algoritamsko trgovanje 
  • Analiza tržišta i rudarenje podataka
  • Osobne financije
  • Upravljanje portfeljem 
  • Underwriting

 

 

Umjetna inteligencija…
Prednosti Nedostaci
  • Moćnija i korisnija računala.
  • Nova i poboljšana sučelja.
  • Rješavanje novih problema.
  • Bolje rukovanje informacijama.
  • Oslobađa preopterećenost informacijama.
  • Pretvorba informacija u znanje.
  • Povećani troškovi
  • Poteškoće u sporom i skupom razvoju softvera
  • Malo iskusnih programera
  • Malo praktičnih proizvoda do sada je stiglo na tržište.

 

Definicija strojnog učenja
Tradicionalni razvoj sustava oslanja se na ljudske sposobnosti rješavanja problema i programerske vještine.
Algoritmi strojnog učenja "uče" neovisno kako pristupiti određenom problemu koristeći ogromne količine podataka i značajnu metodu pokušaja i pogrešaka, često donoseći jedinstvene uvide i nadljudske vještine.
 

 

Problem crne kutije

Modeli strojnog učenja, osobito neuronske mreže, imaju tendenciju postati neobjašnjivi ljudima, uključujući i njihove programere.

 

UI Model

 

Input

Output

 

Što je generativna umjetna inteligencija?
Generativna umjetna inteligencija je vrsta umjetne inteligencije koja stvara novi sadržaj (tekst, slike, audio ili video) ovisno o informacijama koje unosimo. 
Pojam "generativno" znači da se nešto stvara ili proizvodi. 
Upravo to ova vrsta UI-a radi: generira sadržaj koji oponaša ono što bi stvorio čovjek.  Najpoznatija generativna UI usluga trenutno je ChatGPT, iako ih ima mnogo drugih. 
Svi imaju jednu zajedničku stvar: možete im pisati kao u chatu i primati odgovore u tekstualnom, slikovnom ili audio formatu.
Slide Image

UI tehnologija nije nova. Vjerojatno ga već koristiš u svakodnevnom životu, a da o tome ne razmišljaš. 
Na primjer, kada: 

  • Spotify predlaže glazbu koja bi ti se mogla svidjeti, 
  • Google Maps pokazuje najbržu rutu, tvoj telefon sortira fotografije po ljudima. 

Ono što je novo kod generativne umjetne inteligencije jest da ona ne samo da analizira – ona stvara. I otvara mnoge nove načine za dobivanje pomoći u radu!

Slide Image
Slide Image

Kako UI generira išta novo i što trebate znati da biste shvatili kako funkcionira u pozadini? Evo detaljnog pregleda kako inteligentno i sigurno koristiti umjetnu inteligenciju. Kao što je ranije navedeno, ChatGPT i Copilot koriste jezične modele koji su trenirani na ogromnim količinama teksta, poput knjiga, radova i web stranica. Uče prepoznavati obrasce u načinu na koji ljudi pišu i komuniciraju. Kad postavite pitanje, UI pokušava pogoditi mogući odgovor—nema pojma što je točno, a što nije.
Smatrajte ga najnaprednijim automatskim dovršavanjem na svijetu. Jezični model, poput vašeg mobitela, predlaže sljedeću riječ dok unosite poruku – ali u mnogo širem opsegu i s boljim razumijevanjem konteksta.

Imajte na umu!

UI nema razumijevanje kao čovjek.

Nedostaje joj svijest, emocije i vlastita iskustva.

UI predviđa odgovore na temelju onoga što je najviše vidio – a ne na temelju istine.
Reproducira obrasce za koje je naučio da su statistički vjerojatni.

UI ponekad može pogriješiti ili čak izmisliti stvari.
To se naziva halucinacije i događa se kada model generira informacije koje ne odgovaraju stvarnosti.

UI ne razumije uzročnost niti etiku.
Može generirati tekstove o tim temama, ali nema stvarni uvid u to zašto se nešto događa ili što je moralno ispravno. Nakon osnovne obuke, mnogi modeli dobivaju drugu fazu: ljudi pregledavaju odgovore i uče UI koji su odgovori korisni, a koji bezopasni. To djeluje kao nametnuti sigurnosni filter, ali je naučeno ponašanje – a ne etičko razumijevanje.

Slide Image
Slide Image

Možda nije uvijek jasno kako generativna umjetna inteligencija može pomoći u vašem konkretnom zadatku, ali pametan prvi korak je zapitati se: 

 

  • Što mi oduzima puno vremena u svakodnevnom životu?
  • Postoje li dijelovi koji su repetitivni, dugotrajni ili teški za početak? 


Tada UI može biti koristan.

Koristan savjet
  Započnite s popisom 2-3 rutinska zadatka u vašem poslovanju koji bi mogli imati koristi od UI-a, poput izrade e-mUIlova, kako biste se pripremili za praktične primjene.
 
Procijenite svoje trenutne alate—koriste li UI? 
 
Ova samoprovjera otvara put strategijama integracije u budućim modulima.

 

 

Osnove umjetne inteligencije za poslovanje
Strojno učenje (ML): 
UI koji uči iz podataka bez eksplicitnog programiranja kako bi dao predviđanja, npr. preporučivao proizvode na temelju prošle prodaje, prognozirao zalihe za uslužnu tvrtku.
Duboko učenje: 
Napredno strojno učenje koje koristi neuronske mreže za složene zadatke poput prepoznavanja slika (npr. prepoznavanje nedostataka u proizvodnji).

 

Razlikovanje umjetne inteligencije nasuprot automatizaciji
 

 

Automatizacija:

Fiksni, na pravilima temeljeni procesi, npr. proračunska tablica koja automatski zbraja prodaju u MMSP-u.

Umjetna inteligencija (UI):

Prilagodljiv i temeljen na učenju, uči iz podataka kako bi se nosio s varijabilnošću, npr. chatbotovi se prilagođavaju upitima kupaca.

Razlika:
Automatizacija je kruta, slijedi fiksna pravila; UI se razvija s novim podacima, idealnim za nesigurna tržišta (Organizacija za ekonomsku suradnju i razvoj "Artificial Intelligence Review" 2024).

 

 

 

Primjer
Craft pivovara automatizira punjenje etiketa (fiksna pravila), ali koristi umjetnu inteligenciju za predviđanje trendova okusa na temelju povratnih informacija kupaca, prilagođavajući recepte sezonski, što dovodi do rasta prodaje i spremnosti za prediktivnu analitiku. 
Procjena utjecaja umjetne inteligencije na rast poslovanja
Prednosti: Povećana učinkovitost, bolje donošenje odluka, inovacije i nove mogućnosti (npr. personalizirani marketing za mali e-commerce biznis). Rizici: Ovisnost o podacima—loši podaci dovode do pogrešaka; Počnite s čistim, lokalnim podacima.
Studija slučaja:
Jedan MMSP u logistici koristio je UI za optimizaciju ruta, smanjujući troškove za 20% (Deloitte "Tech Trends" 2023).
Primjer: 
Internetska trgovina implementira umjetnu inteligenciju za analizu trendova, rano prepoznavanje popularnih proizvoda i povećanje prihoda. 
Praktični zadatak - Zamislite svoj MMSP!

Upute: 

  • Koristite besplatan UI alat poput ChatGPT-a za osmišljavanje jedne poslovne aplikacije (npr. prognoziranje prodaje). 
  • Napišite zadatak: "Kao stručnjak za umjetnu inteligenciju, predložite kako mala europska maloprodajna trgovina može koristiti ML za inventar bez tehničke stručnosti."
  • Usavršite rezultat: Dodajte podatke o svom poslovanju.
  • Razmislite: Kako se to uklapa u utjecaj rasta?

Cilj: Izgradite znatiželju s realnim očekivanjima.

 


 

 

Hoće li UI preuzeti moj posao?
UI vas neće zamijeniti – ali vas može osloboditi. S obzirom na demografske promjene i rastuće zahtjeve za učinkovitošću, moramo primijeniti pametne alate kako bismo održali tempo.
Kao zaposlenik, još uvijek imate prosudbu, iskustvo i razumijevanje situacije. 
Na primjer, UI vam može dati prvi nacrt, prijedlog ili strukturu, ali na vama kao odgovornoj osobi je da odlučite što je dovoljno dobro.
Zamislite Generative UI kao digitalnog kolegu!
  • UI vam može pomoći da započnete kad zapnete.
  • UI može uštedjeti vrijeme na zadacima koji bi inače trajali dugo.
  • UI vam može dati nove perspektive ili formulacije.
  • Zapamtite: UI ne može razumjeti kontekst, emocije ili lokalne uvjete – to je vaša uloga.

 

1.3 Propisi o umjetnoj inteligenciji i usklađenost
0%
Pregled cjeine
Ova cjelina fokusira se na pravni i etički okvir umjetne inteligencije, posebno detaljno opisujući implikacije ključnih propisa poput EU Zakona o umjetnoj inteligenciji za MMSP-ove kako bi se osigurala usklađenost.
 
Naglasak je na praktičnim, "što morate učiniti" koracima, uključujući zakonske zahtjeve, dokumentaciju i kontrolne liste usklađenosti, bez dubinskog istraživanja mehanizama provedbe.

 

Zakoni, propisi u korištenju umjetne inteligencije
U ovom dijelu, raspravit ćemo opće propise koji reguliraju korištenje umjetne inteligencije u organizacijama. Slide Image

Zašto regulirati?

Propisi osiguravaju sigurnu upotrebu umjetne inteligencije; za europske MSP-ove, usklađenost izbjegava novčane kazne (do 4% prihoda prema GDPR-u).

Fokus: EU AI Act, GDPR, i praktični koraci za mala poduzeća.

- 75% MSP-a navodi da je regulatorna svijest ključna za usvajanje (Posebno izvješće Europskog revizorskog suda 2024.).

 
Regulacija Al
  • Propisi o AL-u značajno su se razlikovali među zemljama i regijama, pri čemu su neke jurisdikcije poduzimale proaktivnije korake od drugih.
  • Evo nekoliko primjera trenutnih propisa i inicijativa za UI.
Slide Image

Europska unija(EU)

  • EU je predložila Artificial Intelligence Act (AI Act), sveobuhvatni regulatorni okvir usmjeren na upravljanje razvojem i implementacijom Al sustava unutar EU-a.
  • Predložena regulativa kategorizira UI sustave prema njihovim razinama rizika i nameće zahtjeve za transparentnošću, odgovornošću i ljudskim nadzorom.
  • Opća uredba o zaštiti podataka(GDPR), iako nije posebno usmjeren na UI, uspostavlja načela zaštite podataka koja se primjenjuju na Ul sustave, osobito u vezi s obradom osobnih podataka

AI Act

Slide Image

Sjedinjene Američke Države

  • Trenutno (listopad 2025.) Sjedinjene Američke Države nemaju sveobuhvatne savezne propise koji bi posebno ciljali Al.
  • Međutim, razne savezne agencije, uključujući Federalnu trgovinsku komisiju (FTC) i Nacionalni institut za standarde i tehnologiju (NIST), objavile su smjernice i izvještaje o temama povezanim s Al-om, poput pravednosti, transparentnosti i odgovornosti.
  • Neke države, poput Kalifornije, donijele su zakone koji se bave specifičnim pitanjima vezanim uz Al, uključujući privatnost (npr. California Consumer Privacy Act) i automatizirano donošenje odluka (npr. Automated Decision Systems Accountability Act)
Slide Image

Kanada

  • Kanada je uspostavila Pan-kanadsku strategiju umjetne inteligencije, saveznu inicijativu usmjerenu na poticanje istraživanja i inovacija vezanih uz Al u Kanadi.
  • Strategija uključuje ulaganja u istraživanje AL-a, razvoj talenata i komercijalizaciju, kao i inicijative za rješavanje etičkih i društvenih implikacija AL-a.
Slide Image

Kina

  • Kina je izdala smjernice i standarde za razvoj UI-a, s naglaskom na područja poput etike AL-a, sigurnosti podataka i industrijskih standarda.
  • Kineska vlada također je uvela regulatorne mjere za regulaciju primjene UI u sektorima poput financija, zdravstva i prometa.
Slide Image

Međunarodne organizacije

Međunarodne organizacije poput Organizacije za ekonomsku suradnju i razvoj (OECD) i Cjelinaed Nations (UN) razvile su smjernice i principe za etiku i upravljanje UI-om.

Na primjer, OECD je izdao OECD Principles on Al, koji daju preporuke za odgovoran razvoj i implementaciju UI-a.

Slide Image

 

 

Zašto je EU to ispravno postupila: regulacija podataka prije UI-a!
  • Opća uredba o zaštiti podataka (GDPR) je zakon o privatnosti i sigurnosti koji je izradila i usvojila Europska unija (EU), a koji nameće obveze organizacijama bilo gdje u EU
  • To se vraća na pravo na privatnost, dio Europske konvencije o ljudskim pravima iz 1950.: 
    • “Svatko ima pravo na privatnostsvog  privatnog i obiteljskog života, svog doma i svoje korespondencije”
Slide Image

Štoviše, EU-GDPR se odnosi na prava na privatnost: 

  • Pravo na informiranost 
  • Pravo pristupa 
  • Pravo na ispravljanje
  • Pravo na brisanje 
  • Pravo na ograničavanje obrade 
  • Pravo na prenosivost podataka 
  • Pravo na prigovor
  • Prava u vezi s automatiziranim donošenjem odluka i profiliranjem
Slide Image

 

Možemo li vjerovati UI-u? Prema "Pouzdanoj umjetnoj inteligenciji" u EU
Slide Image

Europska komisija imenovala je skupinu stručnjaka za savjete o svojoj strategiji umjetne inteligencije: Visoka stručna skupina za umjetnu inteligenciju.

Prema Smjernicama, pouzdana umjetna inteligencija trebala bi biti:

 

  • Zakonita: poštovati sve važe zakone i propise. 
  • Etična: poštivati etička načela i vrijednosti. 
  • Robustna: i s tehničke strane, uzimajući u obzir društveno okruženje

Predloženo je nekoliko važnih smjernica:

 

  • Ljudska agencija i nadzor: UI sustavi trebali bi osnažiti ljude.
  • Tehnička robusnost i sigurnost: UI sustavi moraju biti otporni i sigurni.
  • Privatnost i upravljanje podacima: Moraju biti osigurani mehanizmi upravljanja podacima.
  • Transparentnost: podaci, sustavi i UI poslovni modeli trebaju biti transparentni.
  • Raznolikost, ne-diskriminacija i pravednost: UI sustavi trebali bi biti dostupni svima.
  • Društvena i okolišna dobrobit: UI sustavi trebali bi koristiti svim ljudima.
  • Odgovornost: osigurati odgovornost i odgovornost za UI sustave i njihove rezultate.
Slide Image

 

Zakon o umjetnoj inteligenciji i kako će utjecati na naše živote

AI Act je dokument koji je predložila Europska komisija i koji sadrži nekoliko usklađenih pravila vezanih uz primjenu UI-a;

  • naglašavajući da je njegov pristup oblikovan vrijednostima EU-a i temeljen na riziku, osiguravajući sigurnost i zaštitu temeljnih prava.
Slide Image

EU AI Act - Regulacija COM/2021/206

  1. Pružiti jedinstveni okvir za proizvode i usluge Al koje se plasiraju na tržište EU-a, čak i kada pružatelji usluga nisu smješteni u Uniji;
  2. Osigurati da su Al sustavi sigurni, zaštićeni, pouzdani i poštuju temeljna prava i vrijednosti.
  • Definicija UI sustava: usklađen s OECD-om; "sustav temeljen na strojevima dizajniran za rad s autonomijom ... zaključuje, iz primljenog ulaza, kako generirati izlaz..."
  • Opseg: primjenjivosti za pružatelje, implementatore, uvoznike, distributere i proizvođače Ul sustava u svim državama članicama EU-a, s ekstrateritorijalnim učinkom sličnim GDPR-u
  • Regulatorni pristup: modelirano prema zakonodavstvu EU o sigurnosti proizvoda, s pristupom temeljenim na riziku
  • Obveze ∞ razina rizika
Slide Image

Što predlaže Zakon o umjetnoj inteligenciji?

  • Zabrana neprihvatljivih praksi umjetne inteligencije (npr. društveno bodovanje) 
  • Regulacija visokorizičnih UI sustava (npr. umjetna inteligencija korištena u kontekstu regrutacije) 
  • Ocjenjivanje sukladnosti (odnosno, prema EU okviru za sigurnost proizvoda) 
  • Obveze transparentnosti za potencijalno obmanjujuće UI sustave 
  • Ex post tržišni nadzor (tj. sustav za praćenje nakon stavljanja na tržište) 
  • Upravljanje (odnosno, moraju biti imenovana tijela za primjenu i provedbu) 
  • Nadzor i provedba (odnosno, koje provode države članice) 
  • Usklađenost s zabranama i regulatornim zahtjevima
Slide Image

 

EU AI Act – Višeslojni, na riziku temeljen pristup

Slide Image

EU AI Act - Zabranjeni UI sustavi i visokorizični UI sustavi

Slide Image

Neprihvatljiv rizik- UI-sustavi koji predstavljaju jasnu prijetnju zdravlju, sigurnosti i pravima ljudi bit će zabranjeni.

  • Primjeri: Ul sustavi koji primjenjuju subliminalne, obmanjujuće tehnike s ciljem ili učinkom narušavanja sposobnosti osobe da donese informiranu odluku; sustavi biometrijske kategorizacije; društveno bodovanje od strane vlada; Biometrijska identifikacija u stvarnom vremenu u javnim prostorima.
 
Slide Image

Visok rizik – UI sustavi koji se smatraju visokim rizikom za zdravlje, sigurnost i prava ljudi bit će podložni strogim obvezama.

  • Primjeri: Kritična infrastruktura na pogon Ul-a; korištenje Ul u sigurnosnim komponentama proizvoda ili pružanje osnovnih javnih i privatnih usluga; zaposlenje; obrazovanje; upravljanje pravdom.
 
  Napomena: građani će imati pravo podnijeti pritužbe nadležnim tijelima  

 

EU AI Act - Obveze za visokorizične UI sustave

  • Procjena sukladnosti
    • Vježbe identifikacije i ublažavanja rizika; transparentnost i odgovornost; ljudski nadzor; Kvaliteta podataka.
  • Procjena utjecaja temeljnih prava
    • Za one koji koriste visokorizične Al, odnosno tijela koja su regulirana javnim zakonom ili privatni operateri koji pružaju javne usluge.
    • Namijenjena svrha Al sustava; trajanje i učestalost raspoređivanja; pojedince ili skupine koje bi mogle biti pogođene; specifične rizike od štete; Mjere koje treba poduzeti za ublažavanje takvih šteta (uključujući mehanizme upravljanja i pritužbi).

Napomena: Simbioza između različitih aktera identificiranih u Al Act-u.

Slide Image

EU AI Act - Napomena o općim UI-modelima / sustavnom riziku

  • GPAI modeli potpadaju pod članak 52. Al Act-a;
  • Svi pružatelji GPAI podliježu određenim uvjetima, uključujući:
    • Tehnička dokumentacija; Usklađenost s EU zakonom o autorskim pravima;
    • Pružanje informacija pružateljima UI sustava koji namjeravaju koristiti GPAI model;
  • Dodatne obveze za pružatelje GPAI modela koji predstavljaju sistemski rizik:
    • Evaluacija modela; Procjenu rizika i izvještavanje o incidentima; Zaštite kibernetičke sigurnosti;
    • Obveze označavanja
    • Modeli mogu biti označeni kao oni koji predstavljaju sistemski rizik ex officio od strane Komisije, ako zadovoljavaju prag za računalnu obuku ili ako model ima "sposobnosti visokog utjecaja."

Napomena: Gore navedene obveze ne primjenjuju se na bilo koje UI sustave ili GPAI modele koji su posebno razvijeni za znanstvena istraživanja i razvoj (članak 2(5a)).

Kako se Zakon o umjetnoj inteligenciji odnosi na druge propise:

Međusobne veze:
Nadopunjuje GDPR (rukovanje podacima u UI), NIS2 direktivu (kibernetička sigurnost), zakone o odgovornosti za proizvode.
Harmonizacija:
Razmišljajte o izbjegavanju preklapanja kroz jedinstvene strategije usklađenosti. àJedinstvene strategije — npr. jedna DPIA pokriva obje.
Što morte učiniti:
Izraditi matrice usklađenosti koja povezuje propise; dodijelite uloge i odgovornosti (Zakon o umjetnoj inteligenciji Europske komisije 2024.).
 
   

 

EU AI Act & Interplay with GDPR

EU AI Act i suradnja s GDPR-om

Al Act:

  • Ne treba se razumjeti kao da označava usklađenost s drugim zakonodavstvom EU, uključujući GDPR (Rec. 27).
  • Ne jamči usklađenost s pravilima iz članka 9. o "posebnim kategorijama" utvrđenim GDPR-om (Rec. 24).
  • Oslanja se na definicije "biometrijskih podataka" utvrđene u GDPR-u (Rec. 7).
  • Komisija pokreće "Kodeks prakse" za opće AL tehnologije (July 2024).

EEuropska tijela za zaštitu podataka (DPA) ostala su aktivna u području UI-a:

  • Tekući talijanski DPA slučaj protiv OpenAl ChatGPT-a; 
  • Nizozemska kažnjava Clearview za prikupljanje FR podataka 
  • DSK objavljuje "Hambachovu deklaraciju o Alu" - kolektivni dokument smjernica za Njemačku

Kako se Zakon o umjetnoj inteligenciji odnosi na druge propise:

MMSP koristi: Pojednostavljenja za male timove, izbjegavajući preklapanja.
Praktični primjer: MMSP stvara matricu koja povezuje UI Act i GDPR za alate e-trgovine, pojednostavljujući revizije i omogućujući sigurnu personalizaciju. 
Primjer korisne matrice: Stupci: Regulacija, Zahtjevi, Akcije MMSP-a (npr. GDPR: Pristanak; Akcija: Oblici).

Slide Image
 
Sažetak
Slide Image
  • Razvoj aplikacija umjetne inteligencije temeljene na podacima pomiče granice primjene ovih algoritama u našim životima: ova brza evolucija potaknula je potrebu za etičkim, pravnim i tehničkim regulatornim okvirima temeljenim na specifičnim načelima: odgovornost, interpretabilnost, pravednost, sigurnost, privatnost. 
  • Na europskoj razini bilo je nekoliko prijedloga za regulaciju podataka i aplikacija temeljenih na umjetnoj inteligenciji: EU-GDPR, Inicijativa za pouzdanu umjetnu inteligenciju i Zakon o umjetnoj inteligenciji. 
  • Otvoreni regulatorni izazovi usredotočit će se na utjecaje umjetne inteligencije na etiku, transparentnost, pravednost, sigurnost, sociologiju i održivost.
  • Multidisciplinarni rad je, više nego ikad, od najveće važnosti i korisnosti.

 

Kako se pridržavati…

Kako se pridržavati…

 

Pregled EU Zakona o umjetnoj inteligenciji

Struktura: Temeljeno na riziku (zabranjeno: npr. društveno ocjenjivanje; visokorizično: npr. zapošljavanje umjetnom inteligencijom; ograničeno/minimalno: npr. chatbotovi).
Implikacije MMSP-ovima: Klasificirajte svoj UI (većina MSP-ova koristi minimalni rizik); zahtijevati transparentnost za ograničeni rizik.
Što morate učiniti: Provođenje kontrolnog popisa procjene rizika; održavanje evidencije korištenja (Zakon o umjetnoj inteligenciji Europske komisije 2024.).
Primjer: MMSP koji koristi UI za korisničku podršku mora ga označiti kao UI-generiran.
Ovaj okvir rizika ključan je za etičke implementacije, poput chatbotova za usluge. 
Praktični primjer: Maloprodajni MMSP klasificira svoj UI inventar kao minimalni rizik, bilježeći korištenje radi usklađenosti — štedeći vrijeme za alate usmjerene na rast.

 

Snalaženje u zakonima o zaštiti podataka(npr.,GDPR):

Načela: Pristanak, minimizacija (prikupljanje samo potrebnih podataka), zakonita obrada.
Što morate učiniti: DPIA za visokorizičnu umjetnu inteligenciju; dobiti izričitu suglasnost (Mišljenje Europskog odbora za zaštitu podataka 2024.).
Primjer MMSP-a: Usluga UI za personalizaciju e-pošte koju MSME koristi usklađenu s GDPR-om, povećavaju angažman za 18%.
Praktični primjer: MMSP iz pekare provodi DPIA za UI aplikacije lojalnosti kupaca, osiguravajući minimizaciju podataka i ostvarivanje 12% ponovljenih poslova — pripremajući se za provjere etičkih pristranosti u Cjelini 1.3.

 

Rješavanje pravnih pitanja vezanih uz implementaciju umjetne inteligencije:

 

Odgovornost: MMSP-ovi odgovorni za štete uzrokovane umjetnom inteligencijom (npr. pogrešne preporuke); Koristite ugovore s dobavljačima s klauzulama.
Što morate učiniti: Pregledajte alate prije implementacije; odluke o dokumentima (Organizacija za ekonomsku suradnju i razvoj "Upravljanje umjetnom inteligencijom" 2025.).
Savjet za MMSP: Za malog proizvođača, procijenite dobavljača umjetne inteligencije radi usklađenosti.
Praktični primjer: Konzultantski MSP uključuje klauzule o odgovornosti u ugovorima o UI softveru za izvješća klijenata, sprječavajući sporove i omogućujući proširenje na botove za korisničku podršku.

Usklađenost s industrijski specifičnim propisima o umjetnoj inteligenciji:

Primjeri:
Zdravstvo (regulacija medicinskih uređaja); Financije (pravila protiv pranja novca); Maloprodaja (zakoni o zaštiti potrošača)).

Fokus na MMSP: Provjerite smjernice sektora — npr. maloprodajni MMSP-ovi osiguravaju da UI oglasi poštuju zakone o poštenju.

Što morate učiniti: Identificirajte primjenjiva pravila sektora i integrirajte ih u planiranje umjetne inteligencije.

Koristite kontrolne liste; konzultirajte besplatne EU izvore.

Praktični primjer: Financijski MMSP pridržava se AML-a za otkrivanje prijevara pomoću umjetne inteligencije, smanjujući rizike za 30%.

 

Implementacija ISO 42001:

Pregled: Međunarodni standard za sustave upravljanja umjetnom inteligencijom, s naglaskom na upravljanje i upravljanje rizicima.

Što morate učiniti: Uspostaviti UI politiku; godišnje revizije; osposobljava osoblje o osnovama (Međunarodna organizacija za standardizaciju "ISO/IEC 42001" 2023).

Primjer: MMSP implementira UI inventar, stječući povjerenje klijenata. Pronađite ga u našem UI digitalnom repozitoriju!

Praktični primjer: Dizajnerski MSP izrađuje jednostavnu UI politiku za korištenje alata, revidirajući ju kvartalno radi certifikacije; jačanje partnerstava i spremnosti za programe lojalnosti Modula 4.

 

Praktični zadatak:

Upute: 

  • Za vaš MMSP, klasificirajte potencijalni UI alat (npr. chatbot) prema EU AI Actu.
  • Potaknite UI: "Procijenite razinu rizika za korisničku podršku UI u maloj europskoj trgovini prema EU AI Actu."
  • Dodaj provjere: Uključi korake za GDPR pristanak.
  • Usavršiti: Predložiti matricu usklađenosti.


Cilj: Dajte prioritet pravnim stavovima.

1.4 Etička i odgovorna upotreba umjetne inteligencije
0%
Pregled cjeline
UI može biti moćan, ali mora se koristiti pravedno i sigurno.
Ova cjelina objašnjava kako MSP-ovi mogu izbjeći nepravednu pristranost, zaštititi osjetljive podatke i ostati transparentni prema zaposlenicima i kupcima. 
Ključna poruka je da UI uvijek treba podržavati ljude, a ne zamijeniti njihov sud.
Cjelina uključuje praktične savjete, kontrolne liste i MSME scenarije (npr. korištenje umjetne inteligencije u raspoređivanju zaposlenika bez diskriminacije).
Nadovezuje se na propise iz Cjelina 1.2, ali se fokusira na najbolje prakse dobrovoljnih.

Što podrazumijevamo pod "etikom”?

Naše razumijevanje što je ispravno, a što pogrešno, kao i pravila kojih se pojedinci i društvo trebaju pridržavati.
Što podrazumijevamo pod "etikom umjetne inteligencije"”?
Etika umjetne inteligencije odnosi se na moralna načela i vrijednosti koje bi trebale usmjeravati razvoj i korištenje sustava umjetne inteligencije. 
UI sustavi trebaju biti dizajnirani i korišteni na način koji koristi društvu i slijedi etička načela. 
Pitanja poput pravednosti, transparentnosti, privatnosti i sigurnosti važna su etička razmatranja.

Slide Image
Zašto je etika važna za UI?

UI ima potencijal za ogroman utjecaj, i pozitivan i negativan. 
UI sustavi sve se više povjeravaju odlukama visokog rizika koje utječu na ljudske živote i društvo. 
UI uči iz podataka, koji mogu kodirati ljudske pristranosti i predrasude. Neetičke primjene mogle bi automatizirati ili pogoršati nepravdu.
Kako UI postaje sposobniji i autonomniji, moramo održavati ljudsku odgovornost i kontrolu. 
Etička pitanja vezana uz korištenje umjetne inteligencije, poput narušavanja privatnosti ili gubitka radnih mjesta, zahtijevaju pažljivo razmatranje kako bi se izbjegla javna reakcija. 

Etika pomaže osigurati da razvoj i korištenje umjetne inteligencije bude usmjereno u društveno odgovornom smjeru.

Odgovorna umjetna inteligencija je okvir koji usmjerava kako bismo trebali pristupiti izazovima umjetne inteligencije s etičkog, tehničkog i pravnog aspekta. 

  • Moramo razriješiti nejasnoće o tome gdje leži odgovornost ako nešto pođe po zlu! 
  • Ovaj okvir oslanja se na temeljna načela: 
    • Odgovornost 
    • Interpretabilnost 
    • Pravednost 
    • Sigurnost 
    • Privatnost

 

Odgovornost: tko će preuzeti odgovornost?
  • Ljudi bi trebali biti odgovorni za UI sustave. 

 

  • Ovo načelo je osnova, stoga se svi ostali principi mogu promatrati kao grane. 
  • Neke važne ideje su: 
  • Implementirajte i koristite pristup dizajnu usmjeren na čovjeka.
  • Identificirajte više metrika za procjenu obuke i praćenja kako biste osigurali da su metrike prikladne za kontekst i ciljeve sustava.
  • Pregledajte sirove podatke (npr. nedostajuće vrijednosti, netočne oznake, pristranosti, redundantnost značajki).
  • Razumite ograničenja baza podataka i modela.
  • Naučite najbolje kako biste osigurali da UI sustav radi kako treba i da mu se može vjerovati.
  • Nastavite testirati, pratiti i ažurirati sustav nakon implementacije.
Pravednost: kako se nositi s pristranošću?
  • UI modeli uče iz postojećih podataka prikupljenih iz stvarnog svijeta, pa tako točan model može naučiti ili čak pojačati problematične već postojeće pristranosti u podacima na temelju osjetljivih karakteristika.
  • Što se tiče ovog pitanja, trebali bismo: 

 

  • Komunicirajte sa društvenim znanstvenicima i drugim relevantnim stručnjacima kako biste razumjeli i uzeli u obzir različite perspektive
  • Razmotrite kako će tehnologija i njezin razvoj tijekom vremena utjecati na različite slučajeve upotrebe (npr. koje ishode ova tehnologija omogućuje)
  • Procijenite pravednost u našim skupovima podataka (npr. identificiranje zastupljenosti i pripadajućih ograničenja)
  • Provjerite sustav zbog nepravednih pristranosti
  • Analizirajte performanse sustava, uzimajući u obzir različite metrike.
Slide Image
Sigurnost: postizanje pouzdanih i sigurnih UI sustava
  • Sigurnost i zaštita osiguravaju da UI sustavi djeluju kako je zamišljeno, bez obzira na to kako napadači pokušavaju intervenirati.
  • Što se tiče ovog pitanja, trebali bismo: 

 

  • Razmislite postoje li poticaji da se sustav loše ponaša.
  • Identificirajte koje bi neželjene posljedice mogle proizaći iz pogreške sustava i procijenite vjerojatnost i ozbiljnost tih posljedica.
  • Izgradite rigorozan model prijetnji kako biste razumjeli sve moguće vektore napada.
  • Istraživanje suparničkog strojnog učenja, jer ono nastavlja nuditi poboljšane performanse obrana i dokazivih jamstava.
  • Provjerite postoje li druge ranjivosti u lancu opskrbe umjetnom inteligencijom.
Slide Image
Privatnost: može li UI otkriti aspekte svojih podataka za treniranje?
  • UI sustavi moraju dati prioritet i štititi privatnost i prava potrošača te pružiti izričita jamstva korisnicima o tome kako će se njihovi osobni podaci koristiti i štititi.
  • Što se tiče ovog pitanja, trebali bismo: 

 

  • Utvrdite mogu li se UI modeli trenirati bez korištenja osjetljivih podataka.
  • Anonimizacija i agregacija dolaznih podataka korištenjem najboljih praksi za čišćenje podataka (npr. uklanjanje osobnih podataka (PII) i vrijednosti odstupanja ili metapodataka koje bi mogle omogućiti deanonimizaciju).
  • Trenirajte modele koristeći federirano učenje, gdje se flota uređaja koordinira za treniranje zajedničkog globalnog modela iz lokalno pohranjenih podataka za treniranje.
  • Provedite testove temeljene na mjerenjima "izloženosti" ili procjeni zaključivanja članstva kako biste procijenili pamti li model nenamjerno ili izlaže osjetljive podatke.

 

Etička razmatranja za razvoj Al-a
Ljudska agencija i nadzor: Tehnička robusnost i sigurnost:  Privatnost i upravljanje podacima:
Sve odluke pregledavaju ljudi, a ljudi su "zaduženi" za konačne odluke. AL-alati ne sadrže pogreške i njihovo korištenje ne uzrokuje štetu. Postoje stroga pravila o podacima ljudi i načinu na koji ih Al može koristiti.
Raznolikost, nediskriminacija i pravednost
Al bi trebao jednako dobro funkcionirati za različite ljude i u različitim kontekstima. Prednosti Al-a trebale bi se dijeliti jednako.
Društvena i okolišna dobrobit
Al bi trebao pozitivno utjecati na okoliš i društvo.
Transparentnost
Moguće je reći koje odluke Al donosi, koji su ga koraci doveli do tih odluka i koji su ga podaci oblikovali.
Odgovornost
Znamo tko je odgovoran za Al i možemo riješiti probleme ili nametnuti sankcije kad nešto pođe po zlu.
Hoćemo li svi moći pronaći posao u svijetu s umjetnom inteligencijom?

Automatizacija se često smatra prijetnjom fizičkom radu. Roboti zamjenjuju tvorničke radnike i poljoprivrednike, dok autonomni automobili dolaze na posao ljudskih vozača.

No UI je također obučen za obavljanje intelektualnijih zadataka poput prevođenja, programiranja, pisanja, medicinske dijagnoze ili podučavanja.

Slide Image

 

Pitanja za razmotriti
  • Tko bi trebao biti kriv kad Alove odluke dovode do štete?
  • Koje su razlike između pravila koja bi trebala vrijediti za etičkog Ala i onih koja upravljaju našim vlastitim etičkim ponašanjem?
  • U kojoj mjeri možemo zanemariti rizike Al-a kako bismo uživali u prednostima koje donosi?
  • Što možemo učiniti kao građani da utječemo na način na koji se Al koristi?

 

Koje etičke probleme UI može predstavljati.?

Od algoritamske pristranosti i kršenja privatnosti do pitanja odgovornosti i autonomije, etičke dimenzije Al-a postaju sve dublje i višeslojne. 

Sljedeće istražuje složenu mrežu etičkih pitanja vezanih uz umjetnu inteligenciju, osvjetljavajući ključne čimbenike koji podupiru odgovoran razvoj i primjenu Al tehnologija.

Slide Image
Pristranost i pravednost:
Al sustavi mogu naslijediti pristranosti prisutne u svojim podacima za treniranje, što dovodi do diskriminacije određenih skupina. Osiguravanje pravednosti u donošenju odluka Al-a predstavlja značajan izazov.

Privatnost: 
AL-tehnologije, osobito u nadzoru i analizi podataka, mogu narušiti prava pojedinaca na privatnost. Postizanje ravnoteže između sigurnosti i osobne privatnosti ključno je.

Odgovornost:
Utvrđivanje tko je odgovoran kada Al sustavi naprave pogreške ili štetne odluke često je nejasno. Uspostava pravnih i etičkih okvira za odgovornost predstavlja izazov.

Transparentnost: 
Unutarnji rad nekih algoritama Al je nejasan, što otežava razumijevanje zašto donose određene odluke. Ovaj nedostatak transparentnosti može narušiti povjerenje.

Više etičkih problema koje umjetna inteligencija može donijeti

Sigurnosni rizici:
Korištenje Al-a u kibernetičkim napadima i mogućnost da Al generira dezinformacije predstavljaju sigurnosne rizike. Zaštita od tih prijetnji stalni je izazov.

Etika u istraživanju Al: 
Etička razmatranja protežu se i na sama istraživanja i razvoj Al-a, uključujući pitanja vezana uz prikupljanje podataka, eksperimentiranje i suradnju.

Etičko usklađivanje:
Istraživači i inženjeri AL-a često se suočavaju s dilemama hoće li uskladiti svoj rad s etičkim načelima ili dati prednost komercijalnim interesima. Pronalaženje ravnoteže može biti izazovno.

Intelektualno vlasništvo i otvoreni izvori: 
Rasprava o otvorenom kodu nasuprot vlasničkoj Al tehnologiji otvara etička pitanja o pristupu i kontroli nad Al inovacijama.

Kako biste vi koristili UI?

Etička upotreba AL-a uključuje transparentno rukovanje podacima, minimiziranje pristranosti, osiguranje privatnosti i donošenje odluka u najboljem interesu društva. 
Zahtijeva stalnu budnost, otvorenu komunikaciju i predanost odgovornom razvoju Al-a kako bi se maksimizirale koristi uz ublažavanje štete.

Slide Image

 

Potencijalni etički dobici umjetne inteligencije

Učinkovitost: Automatizacija, preciznost, brzina i skalabilnost procesa znače niže troškove i bolju zatvorsku uslugu u cjelini.

Prevencija: Sustavi umjetne inteligencije sposobni otkriti neprimjereno ponašanje i upozoriti službenike mogu smanjiti kriminal, samoubojstva, nasilje i krijumčarenje krijumčarene robe.

Predviđanje: Snaga strojnog učenja može se iskoristiti za generiranje novih uvida i predviđanja koja se mogu koristiti za smanjenje recidivizma.

Inteligencija: Rudarenje podataka može dovesti do znanja koje se može dijeliti s drugim državnim tijelima ili koristiti u Cjelinaedovim akcijama s policijom.

Pravda: Ljudi su poznati po tome da su loši u donošenju pravednih odluka. Često smo pristrani, nedosljedni i često donosimo procjene koje su pod utjecajem naših osobnih osjećaja. Dobro dizajniran UI sustav mogao bi dovesti do veće pravednosti u procesima donošenja odluka.

Slide Image

 

Ublažavanje rizika
Kvaliteta podataka: Kvalitetni podaci koji su reprezentativni i generirani uz svijest o etičkim rizicima ublažit će sklonost modela da postanu pristrani ili iskrivljeni.
Znanje i svjesnost: Smanjenje rizika započinje sviješću o rizicima i poznavanjem u kojim se situacijama oni vjerojatno mogu pojaviti. Može biti potrebna edukacija za sve članove organizacije, kao i kontinuirano istraživanje među stručnjacima.
Upravljanje: Procesi upravljanja i strukture upravljanja koje usklađuju AI rješenja sa strateškim ciljevima organizacije. Poboljšanje performansi, smanjenje rizika i osiguranje najboljeg interesa svih dionika.
Centar izvrsnosti: Interdisciplinarni tim posvećen održavanju, razvoju i kontinuiranom unapređenju AI rješenja u organizaciji, pružajući tehničku funkcionalnost i nove uvide usmjerene na postizanje organizacijskih ciljeva.
Transnacionalna suradnja: Dijeljenje podataka, uvida i najboljih praksi preko granica potaknut će učinkovita rješenja i mudriju primjenu napredne umjetne inteligencije u zatvorskoj službi

 

Polazna točka u vašem radu s UI-jem uvijek bi trebala biti gledati na UI kao na podršku, a ne kao na donositelja odluka. To znači da ste odgovorni za ono što isporučujete ili proizvodite, čak i ako vam je UI dao prijedloge ili dokumentaciju. UI nije zamjena za ljudsku prosudbu. U nekoliko navrata, odvjetnici su pokušali, primjerice, zatražiti pravnu pomoć od Chat GPT-a za određena pitanja, ali su otkrili da u odgovorima uopće nisu u skladu s trenutnim pravnim okvirom. 
Dakle, odgovori koje vam UI daje ne moraju biti točni, čak i ako jezik koji koristi zvuči ispravno. Stoga je uvijek važno biti "kritičan prema izvorima" i dvaput provjeriti odgovore koje ste dobili od UI-a!

Razmisli: Kada UI postane dio procesa odlučivanja/rada – tko je na kraju odgovoran?
Što smijete raditi – i što NE biste smjeli raditi?

U ovom dijelu razgovarat ćemo o tome što dobivate, a što biste trebali izostaviti kada je riječ o radu s umjetnom inteligencijom.

Sve više ljudi želi koristiti UI usluge poput Copilota, ChatGPT-a ili drugih tekstualnih alata u svom radu.

To je pozitivno – ali važno je razumjeti što možete, a što ne možete učiniti.

 

Osnovno pravilo je jednostavno

NE smijete davati povjerljive informacije, osobne podatke ili osjetljive informacije vanjskim UI uslugama. 
To vrijedi čak i ako se čini kao "samo nacrt" ili ako koristite UI uslugu putem web preglednika na radnom računalu.  

Zašto?
UI usluge često se nalaze u drugim zemljama i, na primjer, ne znamo točno kako se podaci obrađuju ili pohranjuju. 
Informacije mogu izmaknuti našoj kontroli – i to se ne smije dogoditi!

 

Što se podrazumijeva pod vanjskim UI uslugama?

Vanjske UI usluge su one koje isporučuju vanjski akteri, a vaša tvrtka sama ne upravlja niti nad njima ima potpunu kontrolu. 
Primjeri su alati za chat na webu ili UI usluge s komercijalnih platformi. 
Oni se često nalaze u drugim zemljama i ne znamo točno kako se podaci obrađuju.

Interna UI rješenja?
To su UI sustavi za koje je sama tvrtka odgovorna ili se isporučuju putem IT okruženja tvrtke gdje imate kontrolu nad zaštitom i pohranom podataka.

 

Razmislite
Kako tvrtke mogu općenito imati koristi od UI usluga, a da pritom ne ugrozi zakonske zahtjeve, informacijsku sigurnost ili kontrolu općine nad vlastitim materijalom?

 

UI je podrška – VI KONTROLIRATE!

Nećete biti zamijenjeni umjetnom inteligencijom. 
Vi ste ti koji poznaješ svoje poslovanje, svoje kolege i svoje potrebe – ti koji stvaraš stvarne koristi od UI-a. 
Tehnologija je alat, ali u kombinaciji s vašim iskustvom i razumijevanjem postaje moćan alat. 
Ako se pravilno koristi, postoji veliki potencijal za pojednostavljenje rada i oslobađanje vremena za zadatke koji donose više vrijednosti.

 

Primjer
Primjer može biti podrška osoblju u sektoru skrbi. 
  • Ovdje, primjerice, umjetna inteligencija može olakšati osoblju pronalazak informacija poput kontrolnih popisa i rutina. 
  • UI također može pojednostaviti tekstove ili ih prevesti na drugi jezik. To osoblju daje više prostora da bude blizu korisnika, a istovremeno smanjuje rizik od odstupanja. Rad s umjetnom inteligencijom također je izvrsna prilikaCjelinay za istraživanje novih područja i učenje više. UI može pružiti inspiraciju, nove perspektive i pomoći vam da brzo dobijete pregled tema koje vas zanimaju. Zato koristite UI i kao potporu tamo gdje ste već sigurni – i kao alat za rast. Bolje da ne može bolje biti!

 

Studija slučaja

Studija slučaja 1: UI u zdravstvu: 

Integracija umjetne inteligencije (UI) u zdravstvo donijela je transformativnu promjenu u pristupu medicinskoj dijagnozi, liječenju i skrbi za pacijente. Međutim, iako UI nudi brojne prednosti, njegova upotreba u tim ključnim područjima također otvara značajna etička pitanja koja se moraju pažljivo razmotriti kako bi se osiguralo da tehnologija služi najboljem interesu svih pacijenata.

Studija slučaja 2: UI u autonomnim vozilima:

 Autonomna vozila (AV) predstavljaju revolucionarnu inovaciju u prometu, obećavajući smanjenje prometnih nesreća, poboljšanje sigurnosti na cestama i revoluciju u mobilnosti. Međutim, primjena AVS-a također uvodi duboke etičke dileme, osobito u situacijama kada vozilo mora donositi odluke koje uključuju situacije života i smrti. Za razliku od ljudskih vozača.

 

Kako izbjeći algoritamsku pristranost?

Raznolikost je ključ

1. Raznolikost podrijetla tima (kako bi se izbjeglo "grupno razmišljanje")
2. Raznolikost načina razmišljanja (Testiranje osobnosti)
3. Raznolikost podataka
4. Raznolikost algoritamskih modela

Slide Image

 

Zaštita privatnosti i sigurnosti podataka

Načela: Anonimizirajte podatke gdje je moguće i ograničite pristup.
Primjeri MMSP-a: Šifrirajte i zaštitite podatke korisnika u UI alatima, primjerice korištenjem UI chatbotova.
Zaštitne mjere: Implementirajte osnovnu enkripciju i koristite obrasce za pristanak. 
Imajte na umu: Sigurne prakse upravljanja podacima omogućuju prediktivnu analitiku bez proboja.

Izgradnja transparentnosti i odgovornosti

Komunikacija:

Informirajte zaposlenike i kupce o korištenju UI-a (npr. oznake poput "UI-generirani odgovor").

Dokumentacija:

Vodite evidenciju odluka o UI-u za revizije.

Odgovornost:

Dodijelite uloge za nadzor UI-a u poslovanju.

Praktični primjer: MMSP dodjeljuje ulogu "UI nadzornika" za dnevnike alata, osiguravajući odgovornost i smanjujući pogreške. 

Korisni predložak dnevnika: Datum, korištenje UI-ja, odluka, bilješke za recenziju.
Promicanje umjetne inteligencije usmjerene na čovjeka

Uloga ljudi: UI kao alat, a ne zamjena—npr. korištenje UI-a za rutinske zadatke kako bi se oslobodilo vrijeme za kreativnost.

Etičko donošenje odluka: Okviri za to kada nadjačati UI (npr. u etičkim dilemama).

Poticanje povjerenja: Obuka osoblja o etici umjetne inteligencije radi izgradnje unutarnjeg povjerenja.

MMSP: Trgovina koristi UI za zalihe, a ljude za odluke.

Praktični primjer: Kafić MSP obučava osoblje kako nadjačati UI prijedloge u sporovima s kupcima, održavajući odnose i povećavajući zadovoljstvo.

Praktični zadatak

Upute:

  • Razmislite o UI pristranosti u vašem MMSP-u (npr. ciljanje kupaca). 
  • Opišite problem (5-10 rečenica).
  • Predložite 3 mjere ublažavanja uz ljudski nadzor.
  • Primjer: "UI oglasi ciljaju samo mlade demografske skupine — ublažene raznolikim podacima.

Cilj: Odgovornost za vrijednost.

Praktični primjer: MMSP opisuje pristranost prema zapošljavanju UI-a, ublažava se raznolikim podacima o obuci i ljudskim pregledima; Procjena pravednijih ishoda.

 

 

Sažetak
0%
Sažetak

 

UI je augmentacija

To je strateški alat koji oslobađa timove od ponavljajućih zadataka, potičući učinkovitost i inovacije u MMSP-ovima

 

Etika je upravljanje

Načela poput pravednosti, transparentnosti i odgovornosti nisu opcionalna; Oni su srž pravne usklađenosti i pouzdanog angažmana na tržištu.

   

Regulacija je temeljena na riziku

Okvir EU-a (GDPR i Zakon o umjetnoj inteligenciji) zahtijeva proporcionalnu usklađenost. MSP-ovi moraju klasificirati razinu rizika svojih UI alata.

 

Ključ uspjeha

Počni s malim, daj prednost etici!

Zapamtite: UI pojačava, ne zamjenjuje!
Identificirajte jednu niskorizičnu, ali visoku vrijednost i automatizirajte je UI alatom kako biste testirali situaciju.

Samoprocjena
  • Pružatelj: CCG EQF razina: 4
Ključne riječi: Umjetna inteligencijaOsnove UI-aMSP-oviEU AI ActGDPRIOS42001Eti?ka UIStrojno u?enjeDuboko u?enjeUskla?enost s UI-jemOdgovorna UISmanjenje pristranostiPrivatnost podataka
Ciljevi and Ishodi učenja
Ciljevi:
  • Pružiti vlasnicima, menadžerima i zaposlenicima MSME-a temeljno razumijevanje koncepata umjetne inteligencije (UI), prilagođeno poslovnim primjenama, bez potrebe za tehničkom stručnošću. 
  • Iznijeti ključne regulatorne zahtjeve, kao što su EU AI Act i GDPR, te njihove praktične implikacije za usklađenost u malim operacijama. 
  • Poticanje svijesti o etičkim pitanjima u korištenju umjetne inteligencije, s naglaskom na pravednost, transparentnost i pristupe usmjerene na čovjeka radi izgradnje povjerenja i održivosti.
  • Pružiti sudionicima praktične savjete za odgovornu integraciju UI-a u svakodnevne poslovne procese, poput korisničke podrške ili upravljanja zalihama.
Ishodi učenja:

Znanje: 

  • Razumjeti osnovne definicije i koncepte umjetne inteligencije, uključujući razlike između umjetne inteligencije i tradicionalnih alata; 
  • Razumjeti osnovne regulatorne okvire za umjetnu inteligenciju i njihovu relevantnost za poslovanje; 
  • Razumjeti ključna načela pravednosti, transparentnosti i privatnosti u korištenju umjetne inteligencije.

Vještine: 

  • Izraziti potencijalnu poslovnu vrijednost UI-a kroz jednostavne primjere. 
  • Identificirati zajedničke zahtjeve usklađenosti i primijeniti osnovne provjere, poput procjene rizika. 
  • Prepoznati odgovorne prakse i primijenite jednostavne mjere zaštite, kao što su pregled rezultata i zaštita osjetljivih podataka.

Stavovi: 

  • Razvijati znatiželju prema mogućnostima umjetne inteligencije uz održavanje realnih očekivanja; 
  • Dati prioritet etičkim i pravnim razmatranjima u usvajanju UI-a kako bi se izgradilo povjerenje i izbjegle kazne; 
  • Cijeniti odgovornost i održavati povjerenje u način na koji se UI primjenjuje. 
     
Predloženi zadatak

Za edukatore (priprema sesija uz pomoć UI):
-    "Kao stručnjak za umjetnu inteligenciju, izradite pregled u obliku 5 slajdova za uvod u osnove umjetne inteligencije namijenjen vlasnicima MSP-ova. Uključite jedan stvarni primjer iz maloprodaje, jednu analogiju za strojno učenje i jednu točku koja razbija mitove. Pobrinite se da je jezik jednostavan i zanimljiv netehničkoj publici."
-    Kreirajte pet interaktivnih pitanja za raspravu temeljenu na mitovima o umjetnoj inteligenciji u odnosu na stvarnost za MSP-ove, uključujući primjere iz stvarnog svijeta iz maloprodaje ili uslužnih djelatnosti, kako biste potaknuli znatiželju i realna očekivanja o usvajanju umjetne inteligencije.

Za polaznike (samorefleksija): 
-    "Razmislite o svom MMSP-u: Opišite jedan način na koji biste mogli koristiti UI (npr. za upravljanje zalihama) i istovremeno osigurati usklađenost s klasifikacijom rizika prema EU AI Actu – uključite jednostavan popis koraka koje trebate poduzeti."
-    "Kao UI asistent, pomozite mi izraditi jednostavnu kontrolnu listu za usklađivanje implementacije UI-a u mom malom maloprodajnom poduzeću. Usredotočite se na zahtjeve EU Zakona o umjetnoj inteligenciji, upravljanje GDPR podacima i etičke aspekte poput smanjenja pristranosti i transparentnosti. Uključite korake prilagođene MSP-ovima, koristeći primjere kao što su sustavi za preporuke kupcima ili prognoziranje zaliha. Pobrinite se da odgovor bude praktičan, netehnički i naglasi važnost ljudskog nadzora."

Za etičku raspravu: 
-    Koristeći principe iz Cjeline 1.3, osmislite scenarij u kojem bi pristranost umjetne inteligencije mogla utjecati na vaše poslovanje, primjerice pri ciljanju kupaca, te izložite tri koraka ublažavanja s naglaskom na ljudski nadzor.
Za samostalno učenje: 
-    Objasnite kako ISO 42001 može pomoći malom pružatelju usluga u uspostavi politike umjetne inteligencije, uključujući prednosti za usklađenost i upravljanje rizicima, jednostavnim riječima, uz primjer nacrta politike.
Za procjenu: 
-    Dizajnirajte kviz s višestrukim izborom o etičkim principima umjetne inteligencije, koji obuhvaća pravednost, transparentnost i privatnost, sa scenarijima relevantnim za MSP-ove, poput korištenja UI chatbotova za korisničku podršku.

 

Rječnik
Umjetna inteligencija (UI)

Sustavi ili strojevi koji oponašaju ljudsku inteligenciju radi izvršavanja zadataka i mogu se iterativno poboljšavati na temelju prikupljenih informacija.

Strojno učenje (ML):

Podskup umjetne inteligencije koji omogućuje računalima da uče i napreduju iz iskustva bez eksplicitnog programiranja, često koristeći podatke za predviđanja ili donošenje odluka.

EU AI Act

Sveobuhvatna uredba Europske unije (na snazi od 2024. s faznom provedbom) koja kategorizira UI sustave prema razinama rizika i propisuje zahtjeve za sigurnost, transparentnost i odgovornost.

GDPR (Opća uredba o zaštiti podataka)

Zakon EU-a o zaštiti podataka i privatnosti regulira izvoz osobnih podataka izvan EU-a te zahtijeva suglasnost i zakonitu obradu osobnih podataka.

Algoritamska pristranost

Sustavne i ponovljive pogreške u računalnom sustavu koje dovode do nepravednih ishoda, često zbog predrasuda u procesu strojnog učenja.

Reference
×
Asistente de lectura