text size
Alex Karp, direktor kompanije Palantir, izjavio je za CNBC da kompanije "troše vreme i novac na tokene, često ne dobijajući nikakvu vrednost, a AI kompanije im uzimaju intelektualnu svojinu". Akcije Palantira skočile su devet odsto istog dana, iako upravo njegova kompanija prodaje platforme koje obećavaju kontrolu nad podacima kao rešenje za problem na koji upozorava. Izjava je brzo obišla internet jer pogađa dilemu koju sebi mora da postavi svaka kompanija koja koristi ChatGPT ili Claude, da li time hrani tuđe modele sopstvenim poslovnim tajnama.
Karp je pogrešio adresu problema
Fortune je proverio Karpove tvrdnje i zaključio da su uglavnom netačne ili kontradiktorne. Vodeći AI provajderi ugovorno ne koriste podatke poslovnih korisnika za treniranje modela, osim ako kompanija na to izričito ne pristane. Međutim, nijedan ugovor sa AI provajderom ne može da zaštiti kompaniju od zaposlenog koji poverljiv dokument kopira na lični nalog i koristi ga svojevoljno.
Slične kritike poslednjih meseci iznosi i Satya Nadella, direktor Microsofta, ali iz drugog ugla. On dovodi u pitanje odnos između cene AI tokena i poslovne vrednosti koju kompanije zaista dobijaju. Pravi rizik nalazi se na sasvim drugom mestu.
Prema istraživanju bezbednosne kompanije Zscaler, samo ChatGPT je prošle godine bio povezan sa više od 410 miliona kršenja internih pravila o zaštiti podataka. Ovo se desilo isključivo zato što su zaposleni sami unosili poverljive informacije u javne AI alate, ne razmišljajući kako će se ti podaci dalje koristiti.
Zaposleni često koriste lične naloge jer firme ne žele platiti skuplje Enterprise/API licence, pa zaposlenici iz navike koriste besplatne ili privatne naloge koji po defaultu dele podatke. To je propust i samih kompanija jer ne razume potrebe svojih zaposlenih.
Tipičan primer izgleda sasvim bezazleno. Programer kopira deo izvornog koda kako bi mu AI objasnio grešku. Advokat ubaci nacrt ugovora da predloži bolje formulacije. Komercijalista zalepi Excel tabelu sa cenama i maržama kako bi napravio izveštaj za sastanak. Marketinški tim unese plan lansiranja novog proizvoda da bi dobio ideje za kampanju.
Depositphotos
U većini slučajeva cilj je ušteda nekoliko minuta rada, a ne namerno kršenje pravila firme. Međutim, ako kompanija nema jasna pravila šta sme, a šta ne sme da napusti njen informacioni sistem, upravo zaposleni postaju najveći bezbednosni rizik.
Region tek ulazi u ovu fazu
Američke kompanije raspravljaju o pravilima nakon nekoliko godina masovnog korišćenja generativne veštačke inteligencije. Naš region tek pravi prve korake, što je u ovom slučaju i prednost da se postave pravi procesi za budućnost.
Prema istraživanju ICT Huba i Srpske asocijacije menadžera na uzorku od 157 kompanija, veštačku inteligenciju koristi svega 34 odsto firmi u Srbiji. Kao glavne prepreke kompanije navode visoke troškove i nedostatak interne ekspertize, dok je sigurnost podataka u drugom planu. Podatak da 85 odsto velikih kompanija ima AI strategiju stvara lažnu sliku. Reč je uglavnom o papiru koji je predložio eksterni konsultant, dok je stvarna operativna primena u procesima drastično manja.
Istovremeno, prvo regionalno istraživanje o uticaju AI na zaposlene i kompanije, koje su pokrenuli HeartCount i Joberty u Srbiji, Hrvatskoj, Bosni i Hercegovini, Severnoj Makedoniji i Crnoj Gori, tek treba da pokaže koliko organizacija uopšte ima definisana pravila o korišćenju AI alata.
Odbrana počinje pre prvog upita
Zaštita podataka ne počinje izborom između ChatGPT-a i Claudea, već odlukom o tome ko sme da koristi AI, preko kog naloga i sa kojim podacima.
Veće kompanije mogu da uvedu i DLP (Data Loss Prevention - sprečavanje gubitka podataka) sistem, koji prepoznaje poverljive informacije i sprečava njihovo kopiranje ili slanje u neodobrene AI servise. Microsoft, na primer, već omogućava blokiranje unošenja osetljivih podataka u potrošačke verzije ChatGPT-a i drugih AI alata.
Ukoliko se koristi lični nalozi, pojedinci mogu da isključe opciju “Improve the model for everyone” (engl. unapredi model za sve korisnike), nakon čega se novi razgovori ne koriste za obuku modela. Korisnici Claudea mogu da isključe dozvolu za korišćenje razgovora radi unapređenja modela i da obrišu stare razgovore, koji se zatim uklanjaju iz sistema u roku do 30 dana, uz izuzetke povezane sa bezbednošću i zakonskim obavezama.
Iako postoje sumnje da OpenAI i Anthropic "kradu" intelektualnu svojinu, bitno je da direktori kompanija razumeju šta njihovi zaposleni svakodnevno unose u AI alate, da li koriste lični profil, ili firmin profil, i koji nivo pristupa vašim podacima ste dozvolili AI alatima da imaju. Dok veštačku inteligenciju u regionu prosečno koristi tek trećina firmi, imamo još prilike da pravila postavimo na početku. Američke korporacije tu lekciju sada uče mnogo skuplje, nakon godina stihijskog korišćenja AI-a.
.webp){kind=icon}
