Koje rizike po kompanije nosi korišćenje ChatGPT-ja

U svetu sveprisutne digitalizacije, teško da na poslu možete pobeći od četbotova. U poslovnom okruženju, oni imaju široku primenu - koriste se za podršku korisnicima, automatsko odgovaranje na pitanja, obavljanje transakcija, kao i prikupljanje i analizu podataka. Ovi alati pomažu kompanijama da poboljšaju komunikaciju sa klijentima, smanje operativne troškove i pruže bolje korisničko iskustvo. Međutim, oni nose sa sobom i neke rizike po kompanije.

Istraživači kompanije Kaspersky navode da su pre samo nekoliko meseci ChatGPT i drugi četbotovi zasnovani na velikim jezičkim modelima (LLM) i dalje su bili novina. Korisnici su ih koristili za komponovanje pesama i tekstova u stilu poznatih umetnika (Nick Cave, na primer, nije bio impresioniran njihovom verzijom pesme u 'njegovom stilu'), istraživači su pominjali i dizanje u vazduh centara podataka kako bi sprečili da veštačka inteligencija oslobodi Armagedon, dok su stručnjaci za bezbednost ubeđivali tvrdoglavog četbota da im da uputstva za prisluškivanje telefona i krađu automobila.

Dok su neke kompanije potpuno zabranile alate poput ChatGPT-ja ili ograničile njegovu upotrebu, navodeći kao razlog zabrinutost o bezbednosti informacija, druge su uložile sve u generativnu veštačku inteligenciju, pokušavajući da naprave i pokrenu programe obuke za celu kompaniju kako bi zaposleni po brzom postupku naučili da koriste alate.

Danas se mnogi od njih oslanjaju na ChatGPT u svom poslu. Bilo kako bilo, činjenica da se četbotovi sve više koriste na radnom mestu postavlja pitanje: da li im se može verovati sa korporativnim podacima? Istraživači kompanije Kaspersky su identifikovali ključne rizike povezane sa upotrebom ChatGPT-ja i sličnih tehnoloških rešenja u poslovnom okruženju. 

Potencijalne pretnje za privatnost

Većina četbotova zasnovanih na LLM (kao što su ChatGPT, Microsoftov Bing Chat, Googleov Bard i drugi) usluge su koje su zasnovane na oblaku. Korisnik kreira nalog i dobije pristup botu. Neuronska mreža, ogroman sistem sa velikim resursima, radi na strani provajdera, što znači da vlasnik usluge ima pristup korisničkim razgovorima sa četbotom. Štaviše, mnogi četbotovi vam omogućavaju da sačuvate istoriju ćaskanja na serveru da biste se kasnije vratili, objašnjavaju stručnjaci u Kasperskyju. Iako pomažu zaposlenima, mogu da ugroze biznise, zaključuju oni.

1. Curenje ili hakovanje podataka od strane provajdera

Iako su čatbotovi bazirani na jezičkim modelima velikih tehnoloških kompanija, čak ni one nisu imune na hakovanje ili slučajno curenje podataka. Jedan od primera može biti incident u kojem su korisnici ChatGPT-ja mogli videti poruke iz istorije drugih aktivnih sagovornika. Ovakvi slučajevi predstavljaju ozbiljan bezbednosni rizik za kompanije.

2. Curenje podataka preko četbotova

Teoretski, razgovori sa četbotovima mogu se koristiti za obuku budućih modela. Međutim, s obzirom na to da je jezički model baziran na neuronskim mrežama podložan "neželjenom pamćenju", postoji opasnost da se memorišu osetljivi podaci, kao što su brojevi telefona ili lične informacije. Ako ovi podaci dospeju u trening module, to može predstavljati ozbiljan bezbednosni rizik.

3. Zlonamerni klijent 

Ovaj rizik može prerasti u veliki problem, posebno tamo gde su zvanične ChatGPT usluge blokirane. Korisnici koji pokušavaju da pronađu nezvanične alternative često su izloženi malverima koji se maskiraju kao klijenti ili aplikacije. To otvara vrata različitim zlonamernim aktivnostima.

Depositphotos

4. Hakovanje naloga

Napadači mogu pokušati da pristupe korisničkim nalozima zaposlenih i njihovim podacima putem fišing napada ili upotrebom ukradenih informacija za prijavu. 

Kako zaključuju istraživači u Kasperskyju, prilikom korišćenja četbotova, gubitak podataka je glavni rizik, kako za korisnike, tako i za poslovne subjekte. Kako dodaju, rizik od curenja osetljivih podataka najveći je onda kada zaposleni koriste lične naloge za poslovne potrebe.

"Zato treba raditi na podizanju svesti zaposlenih o neophodnosti odgovornog korišćenja ovakvih tehnologija. S jedne strane, zaposleni treba da razumeju koji su podaci poverljivi, bilo da su lični ili poslovna tajna, kao i da razumeju razloge zbog kojih ovakve podatke ne smeju poslati četbotu. S druge strane, kompanija mora da navede jasna pravila za korišćenje takvih usluga, ukoliko su dozvoljene", komentariše Ana Larkina, stručnjak za bezbednost i privatnost kompanije Kaspersky.

Zabrinutost deli i Team8, preduzetnička kompanija sa sedištem u Izraelu, čiji izveštaj pokazuje da bi široko usvajanje novih AI četbotova moglo da učini kompanije ranjivim na curenje podataka i tužbe. Kompanije koje koriste generativne alate veštačke inteligencije kao što je ChatGPT mogle bi da ugroze poverljive informacije o klijentima i poslovne tajne, navodi se u izveštaju, prenosi Bloomberg. Postoji strah da bi hakeri mogli da iskoriste botove za pristup osetljivim korporativnim informacijama ili za vršenje određenih akcija protiv kompanije. Takođe postoji zabrinutost da bi AI kompanije mogle da iskorite poverljive informacije koje se sada unose u četbotove u budućnosti.

Bloomberg Mercury

Velike tehnološke kompanije, uključujući Microsoft Corp. i Alphabet Inc. obučavaju svoje modele na podacima sa interneta kako bi korisnicima pružili sveobuhvatno rešenje za njihove upite. Ako se ovim alatima daju poverljivi ili privatni podaci, biće veoma teško izbrisati informacije, navodi se u izveštaju.

"Ako kompanija koristi generativni AI, to može dovesti do pristupa i obrade osetljivih informacija, intelektualne svojine, izvornog koda, poslovnih tajni i drugih podataka, putem direktnog korisničkog unosa ili API-ja, uključujući informacije o klijentima ili privatne i poverljive informacije", navodi se u izveštaju koji klasifikujuje rizik kao 'visok'. U izveštaju je navedeno da je rizicima moguće upravljati ako se uvedu odgovarajuće zaštitne mere.

Kako biste sigurno koristili četbotove, stručnjaci kompanije Kaspersky preporučuju sledeće: 

• Koristite jake, jedinstvene lozinke
• Čuvajte se fišing napada 
• Ažurirajte softver
• Ograničite deljenje korporativnih podataka
• Verifikujte URL adrese i veb-lokacije
• Koristite rešenje za korporativnu bezbednost

Trenutno nema komentara za vest. Ostavite prvi komentar...

Ostavi komentar