Objavljeno: 25. siječnja 2024.
Opasna je onoliko koliko mi ljudi dozvolimo. Takvi sustavi nemaju „svijest“, „osjećaje“ i „osobna iskustva“, nego su to vrhunski alati. I kao sa svakim alatom, moramo znati odgovorno rukovati njime. Ne smijemo si dopustiti da se ključne odluke koje neki sustav izbaci uzmu „zdravo za gotovo“, da ih neka osoba ili više njih ne analiziraju ili odobre.
Tražeći osobu koja će nam reći nešto više o umjetnoj inteligenciji srećom nismo morali daleko tražiti. Njome se, naime, bavi otac naše novinarke Miriam – izv. prof. dr. sc. Emmanuel Karlo Nyarko, predavač na Katedri za automatiku i robotiku osječkoga Fakulteta elektrotehnike, računarstva i informacijskih tehnologija (FERIT). Njegovo su znanstveno područje i polje zanimanja upravo tehničke znanosti i računarstvo.
Što je, ukratko, umjetna inteligencija?
Izraz „umjetna inteligencija” prvi je put spomenut davne 1956. na jednom skupu istraživača kao stroj ili sustav koji koristi prirodni jezik, može oblikovati koncepte, obavljati zadatke koji su inače rezervirani za ljude, i samostalno se poboljšati. Danas joj definicija glasi:
„Grana računalne znanosti koja se bavi stvaranjem sustava i programa sposobnih obavljati zadatke koji obično zahtijevaju ljudsku inteligenciju. Ovi zadaci uključuju prepoznavanje uzoraka, učenje, planiranje, obradu prirodnog jezika, prepoznavanje govora, percepciju, donošenje odluka i druge aktivnosti. Cilj umjetne inteligencije je stvaranje sustava koji mogu razmišljati, učiti i prilagoditi se okolini, čime simuliraju neke aspekte ljudske inteligencije. To se postiže korištenjem različitih tehnika, uključujući strojno učenje, duboko učenje, genetske algoritme, logičko programiranje i druge pristupe.“ (NAPOMENA: Tekst je u potpunosti generiran pomoću umjetne inteligencije, točnije ChatGPT-a.)
Ukratko, možemo reći da je umjetna inteligencija bilo koji sustav koji može obavljati poslove za koje smatramo da ih mogu obavljati samo ljudi.
IMA DUGU POVIJEST
Kako ona utječe na današnji svijet?
Umjetna inteligencija već ima značajan utjecaj na današnji svijet i očekuje se da će u budućnosti rasti. Primjerice, u obrazovanju omogućuje personalizirano učenje, tj. sadržaj, redoslijed i tempo učenja prilagođeni su individualnim potrebama učenika. Učiteljima alati temeljeni na umjetnoj inteligenciji mogu pomoći u analizi savladavanja znanja učenika i u stvaranju prilagođenih nastavnih materijala.
Smatram da je taj utjecaj uglavnom pozitivan, a za ono negativno smo mi ljudi sami krivi. Teško je reći kakav će svijet biti u budućnosti. Svakako će biti dinamičan odnos između ljudi i umjetne inteligencije, a uspješnost će ovisiti o ravnoteži između tehnološkog napretka, etičkih smjernica i društvenih prilagodbi. Važno je razvijati i primjenjivati umjetnu inteligenciju uz odgovorno upravljanje kako bi se maksimizirale koristi i minimizirali rizici.
Sigurno će nestajati neka radna mjesta te će se vrlo brzo pojaviti nova, koja sada ne možemo ni zamisliti. (Prije 25 godina, tko je mogao zamisliti pojam ili posao „influencer“, „social media manager“ ili „podatkovni znanstvenik“?)
Koliko se već dugo umjetna inteligencija upotrebljava?
Kao područje računalne znanosti počela se razvijati sredinom 20. stoljeća, uglavnom kao teorije i koncepti. Tada su se razvijali i jezici simbola i logike za modeliranje inteligentnog ponašanja. Računala su bili golemi strojevi smiješnih tehničkih karakteristika, u usporedbi s onim što skoro svatko nosi u ruci – pametni telefon. (Jedna digresija – sredinom 1940. navodno je tadašnji predsjednik IBM-a izjavio da će svijetu biti potrebno najviše 5 računala.) Sredinom 70-ih godina prošlog stoljeća pojavila su se osobna računala te 80-ih i ranih 90-ih, zbog mogućnosti (kao i predviđanja) primjene osobnih računala, interes i istraživanje za umjetnu inteligenciju drastično opada. Sredinom 90-ih počinje interes oko umjetne inteligencije u obliku više istraživanja i mogućnosti jednostavnih primjena metoda umjetne inteligencije. Ona se ponovno budi jer je razvoj tehnologije, posebno računalne snage i velikih skupova podataka, omogućio primjenu i testiranje kompleksnih algoritama umjetne inteligencije koji se nisu mogli ranije isprobati. Posebno su napredovale metode strojnog učenja, uključujući duboko učenje, što je dovelo do postizanja značajnih rezultata u područjima poput prepoznavanja slika, prirodnog jezika i igara.
Dakle, umjetna inteligencija ima dugu povijest, ali su značajni napredci postignuti u posljednjih 15-ak godina.
TREBA ISKORISTITI PREDNOSTI
Kada je postala popularna?
U istraživačkom svijetu postala je popularna tijekom posljednjih 20-ak godina. U poslovnom svijetu velike su je tvrtke primjenjivale, a ljudi još nisu primijetili – ili jesu, ali nisu obraćali veću pozornost. Primjeri u svakodnevnom životu: Google pretraživač, Google prevoditelj, sustavi za preporuke (Youtube, Facebook, Instagram, TikTok) – gledate nešto, „lajkate“ i vidjet ćete sve više sličnih sadržaja – sustavi za prepoznavanje lica, Google Assistant, Siri. Svaki put kada se nešto inovativno pojavi, privuče se pozornost javnosti. Umjetna inteligencija već igra važnu ulogu u svakodnevnom životu kroz aplikacije u pametnim telefonima, pretraživačima, virtualnim asistentima i drugim tehnologijama.
Samo su istraživači sveučilišta, velike tvrtke (Google, Facebook, IBM, Microsoft), specijalizirane tvrtke (npr. OpenAI) kao i entuzijasti pratili i radili na razvoju. Zbog povećanja interesa iz komercijalnog sektora, ulaganja u istraživanje umjetne inteligencije tehnoloških divova, istraživačkih institucija i startupova razvija se i popularizira ovo polje. Negdje oko 2012. dogodio se skok u napretku u obradi slika, odnosno prepoznavanju objekata na slici zbog primjene grafičkih procesora (osim samo običnih procesora). Napredak u hardverskoj tehnologiji pružio je potrebnu računalnu snagu za brzo treniranje kompleksnih modela. Paralelno se razvijaju algoritmi i modeli za prirodni jezik.
Svakako se najveći „boom“ dogodio 30. 11. 2022. kada je OpenAI pustio u javnosti ChatGPT. Od tada doslovce svi pričaju o umjetnoj inteligenciji – zato što su tada prvi put i ljudi koji se time ne bave imali osjećaj kao da komuniciraju s inteligentnim sustavom.
Trebamo li se više štititi od nje ili više početi koristiti njezine prednosti?
Imam protupitanje: „Trebamo li se štititi od vatre? Od noža?“
Odgovor: „Trebamo naučiti odgovorno i pravilno rukovati vatrom i nožem“.
Zbog ogromnog potencijala koji umjetna inteligencija ima u donošenju pozitivnih promjena u različitim sektorima društva, moramo se usmjeriti na pravilno korištenje njezinih prednosti i istovremeno razvijati strategije za minimiziranje rizika.
UČITI KRITIČKI RAZMIŠLJATI
Je li teško naučiti koristiti se njome?
Krajnji korisnici koji se koriste nekim sustavom umjetne inteligencije već su navikli na to da bilo koji sustav ili softver kojim se koriste bude što jednostavniji za upotrebu, inače ih neće ni upotrebljavati. Za takve korisnike su sustavi napravljeni da budu jako jednostavni, primjerice TikTok, pričanje s chatbotom ili sl.
Za korisnike koji žele kreirati malo složenije sustave – ovisno o kompleksnosti sustava koji žele razviti – postoje dostupni alati i platforme koji omogućuju lakše i brže eksperimentiranje s modelima. Tu se očekuje da korisnik ima neko predznanje. Što je bolje predznanje, to složenije modele odnosno sustave može napraviti.
Uspješnost onih koji razvijaju sustave umjetne inteligencije ovisi o nekoliko čimbenika – predznanja u području računalne znanosti, matematike i statistike.
Koristi li ju više mladež ili stariji ljudi?
Mladi će prije testirati i usvojiti neku novu tehnologiju, ali bojim se da će bez kritičnog razmišljanja prihvatiti što god taj sustav izbaci ili generira. Stariji ljudi nisu skloni upotrebljavati novije tehnologije, ali oni koji to rade, češće su puno kritičniji i provjeravaju izlaz takvog sustava.
Bi li bilo dobro poučavati djecu u osnovnoj školi kako se koristiti njome?
Svakako. Posebno da shvate da je to alat i da treba kritički razmišljati prije nego što donose neke odluke. Tako ćemo ih pripremiti za digitalno društvo. To će im pomoći da razumiju tehnologije koje će vjerojatno susresti u svakodnevnom životu. Također će steći i digitalne vještine učeći o osnovama programiranja, logike i analize podataka. A samim time i razvijanje analitičkog razmišljanja.
OPASNA JE KOLIKO DOPUSTIMO
Koja je najuspješnija tvrtka koja se time bavi u svijetu, a koja u Hrvatskoj?
Ima jako puno uspješnih firmi na svjetskoj razini. Uglavnom velike svjetske kompanije prednjače zbog toga što imaju ogromne resurse u smislu financiranja, ljudskih potencijala, kao i računalne resurse: Google, Microsoft, Facebook, Amazon, Nvidia, OpenAI, DeepMind itd.
Isto vrijedi i za Hrvatsku – ne postoji najuspješnija firma budući da se većina njih pokušava profilirati u određenu nišu primjenom umjetne inteligencije. Neke najpoznatije tvrtke koje svakako primjenjuju umjetnu inteligenciju u nekom segmentu su npr. Microblink, Infobip, Rimac Automobili, Photomath (kojega je prošle godine kupio Google)… U Osijeku postoji nekolicina malih tehnoloških startup firmi koje primjenjuju metode umjetne inteligencije u različitim područjima, kao npr. Protostar.
Prikupljaju li programi/aplikacije naše informacije i gdje one idu?
Nažalost, vrijedi ona fraza: „Ako je nešto besplatno, onda ste vi proizvod“. Sustavi kao Facebook, Instagram, TikTok i sl. prikupljaju informacije o tome što gledamo, klikamo, „lajkamo“, komentiramo i na temelju toga stvaraju personalizirane sadržaje kao i ciljane reklame. Također, web shopovi mogu analizirati podatke kako bi stekli uvid u tržište, ponašanje korisnika ili koji se proizvod bolje/lošije prodaje, koji korisnici su skloniji kupovanju određenih proizvoda i sl.
Podatci idu gdje vlasnici tih kompanije odluče (uglavnom u SAD i Kinu). Jedino EU inzistira da se ti podatci zadrže unutar EU, naročito privatni podatci. Moramo biti svjesni da velike kompanije doslovce mogu prodati (iako možda ilegalno) te podatke nekim trećim stranama koje onda mogu koristiti podatke za nepoznate ciljeve. Ostavljam čitatelju da malo istraži „Cambridge Analytical data scandal“.
Koliko je umjetna inteligencija opasna? Možemo li se nekako zaštititi od nje?
Opasna je onoliko koliko mi ljudi dozvolimo da bude. Moramo shvatiti da takvi sustavi nemaju „svijest“, „osjećaje“ i „osobna iskustva“, nego su to vrhunski alati. I kao sa svakim alatom, moramo njime znati odgovorno rukovati. Ne smijemo si dopustiti da se ključne odluke koje neki sustav izbaci uzmu „zdravo za gotovo“, da ih neka osoba ili više njih ne analiziraju ili odobre.
Slikoviti primjer – ako upalimo auto, stavimo ciglu na gas i pustimo auto bez vozača, može se dogoditi nesreća s ekonomskim i životnim posljedicama. Isto vrijedi i za sustave umjetne inteligencije. Pitanje sigurnosti umjetne inteligencije i njezine potencijalne opasnosti raznoliko je i uključuje različite elemente.
Razgovarala: Angelina Higi, 8. b
ZA ONE KOJI ŽELE ZNATI VIŠE
Nekoliko područja u kojima umjetna inteligencija igra već ima značajnu ulogu, u nekima ključnu, i kako bi zapravo mogla oblikovati budući svijet.
Gospodarstvo i industrija:
Automatizacijom procesa i proizvodnje povećala se učinkovitost proizvodnje, zbog čega imamo kvalitetnije proizvode uz manji trošak proizvodnje i u konačnici manju cijenu proizvoda krajnjem kupcu. Primjenom umjetne inteligencije možemo dobiti ono što trenutačno nazivamo
Pametna tvornica: upotreba naprednih robotskih sustava koji mogu raditi u okolinama u kojima se kreću i rade ljudi, a ne u strogo kontroliranim uvjetima; povezivanje različitih uređaja, senzora i strojeva unutar tvornice putem interneta omogućuje praćenje i prikupljanje podataka u stvarnom vremenu radi bolje analize i optimizacije procesa; primjenom naprednih analitičkih alata i tehnika, kao što su metode strojnog učenja mogu se obraditi velike količine podataka kako bi se dobile dublji uvidi, identificirali uzorci i optimizirala proizvodnja.
Pametna poljoprivreda: primjena autonomnih vozila, dronova i robota za obavljanje različitih zadataka, kao što su sjetva, prskanje, žetva ili čak praćenje stoke; povezivanje različitih senzora, pametnih uređaja i drugih rješenja mogu se pratiti uvjeti tla, vremenski uvjeti, rast biljaka te zdravlje stoke; primjenom naprednih analitičkih alata i tehnika, kao što su metode strojnog učenja, mogu se analizirati i interpretirati podatci kako bi se dobili uvidi te na taj način pomoći poljoprivrednicima u donošenju informiranih odluka, poput optimalnog vremena za sadnju ili prskanje usjeva.
Autonomna vozila: automobili koji samostalno voze bez ljudske pomoći svakako će između ostalog povećati i sigurnost na cesti.
Sigurnost i praćenje:
Metode umjetne inteligencije primjenjuju se u sustavima za prepoznavanje lica, analizi videa i u drugim sigurnosnim aplikacijama s ciljem poboljšanja nadzora i identifikacije.
Zdravstvo:
Pomoću umjetne inteligencije brže će se i preciznije analizirati medicinski podatci i time pridonijeti boljoj dijagnostici i liječenju bolesti. Algoritmima umjetne inteligencije već se istražuju i razvijaju novi lijekovi. Započela su i istraživanja u smjeru razvoja personalizirane medicine.
„Personalizirana medicina, poznata i kao precizna medicina, inovativan je pristup medicinskom liječenju i zdravstvenoj skrbi koji uzima u obzir individualne razlike u genima, okolini i životnom stilu pacijenata. Cilj personalizirane medicine je prilagoditi medicinsku skrb i planove liječenja jedinstvenim karakteristikama svakog pacijenta, s ciljem postizanja učinkovitijih ishoda i smanjenja nuspojava.“ (NAPOMENA: Tekst je u potpunosti generiran pomoću umjetne inteligencije, točnije ChatGPT-a.)
ZA ONE KOJI ŽELE ZNATI VIŠE O SIGURNOSTI
Nekoliko ključnih pitanja i načina na kojima se može raditi radi povećanja sigurnosti:
Nepoželjna autonomija (samostalno ponašanje): Treba implementirati mehanizme za ograničavanje autonomije kao i sigurnosne mjere kako bi se spriječilo nepredviđeno ponašanje.
Sigurnost podataka: Trenutačni sustavi umjetne inteligencije razvijeni su tako da se modeli treniraju na određenom skupu podataka. Što je veći skup, i što su raznovrsniji podatci, to je model točniji. I zato je kvaliteta podataka koji se koriste za treniranje modela umjetne inteligencije ključna za njegovu točnost i pouzdanost. Osiguranje sigurnosti podataka, uključujući zaštitu privatnosti i sprječavanje zlonamjernih manipulacija podatcima, bitan je aspekt sigurnosti umjetne inteligencije.
Pouzdanost i transparentnost algoritama: Algoritmi umjetne inteligencije često su kompleksni i teško ih je potpuno razumjeti. Rad na razvoju pouzdanih i transparentnih algoritama može pomoći u smanjenju rizika od nepredviđenih ili neželjenih rezultata. Treba priznati da sada većina trenutačnih sustava umjetne inteligencije nisu transparentna – jako je teško zaključiti na koji način donose svoje odluke. Često se dogodi da donose čudne odluke, a nama ljudima je kristalno jasno o čemu se radi.
Primjer:
Šta vidite na slici? Znak – stop. Kakvo je to pitanje?!
Jedan sustav za prepoznavanje znakova (koji se može ubaciti npr. u autonomno vozilo) je prepoznao to kao znak za ograničenje brzine od 45 km/h. I to samo zbog naljepnica. Ako se maknu naljepnice, sustav to prepoznaje kao „stop“ znak[1].
Etički i pravni
okviri: Postavljanje etičkih smjernica i pravnih okvira za razvoj i primjenu
umjetne inteligencije može pomoći u ograničavanju njezine potencijalne
opasnosti. Ovo uključuje pitanja poput prava na privatnost i odgovornosti za
štetne rezultate.
Primjer:
Pretpostavimo scenarij gdje imamo samo autonomna vozila na cesti i dogodi se nesreća – tko odgovara?
Sigurnosna ispitivanja i testiranja: Aktivnosti poput etičkog hakiranja i testiranja sigurnosti pomažu identificirati i adresirati potencijalne ranjivosti sustava umjetne inteligencije.
Emmanuel Karlo Nyarko
[1] Vidjeti K. Eykholt, I. Evtimov, E. Fernandes, B. Li, A. Rahmati, C. Xiao, A. Prakash, T. Kohno, and D. Song, “Robust physical-world attacks on deep learning visual classification,” in Conference on Computer Vision and Pattern Recognition (CVPR), 2018.
