OpenAI i Anthropic upozoravaju: Naprednija AI zahteva jaču sajber-zaštitu

Kompanije za razvoj veštačke inteligencije (AI) OpenAI i Anthropic PBC, zajedno sa više od 100 drugih organizacija iz tehnološkog i finansijskog sektora, upozorile su da kompanije i vlade da moraju učiniti više kako bi se pripremile za hakerske napade organizovane pomoću AI, i zaštitile.

U otvorenom pismu objavljenom u četvrtak, AI startapovi, zajedno sa Googleom, kompanijama Alphabet Inc., Microsoft Corp. i drugima, pozvali su kompanije, vlade i tehnološke i AI kompanije da sajber-odbranu postave kao "neposredni prioritet rukovodstva" i otklone postojeće slabosti u sopstvenom softveru.

U pismu se od kompanija za sajber-bezbednost takođe traži da pomognu u odbrani od napada u kojima se koristi AI, dok se vladama preporučuje da bolje usklade komunikaciju međusobno i sa privredom kako bi odgovorile na potencijalne pretnje. Vodeće AI kompanije pozivaju se da onima koji štite ključne infrastrukturu omoguće pristup AI alatima, kao i finansijsku podršku i obuku.

U poslednje vreme zabeleženo je nekoliko slučajeva narušavanja sajber-bezbednosti u kojima su učestvovali napredni AI modeli. U jednom od njih, koji se dogodio u julu, modeli kompanije OpenAI nenamerno su hakovali Hugging Face Inc. Ovi incidenti podstakli su zabrinutost zbog mogućnosti da AI agenti izmaknu kontroli, a usledili su i novi pozivi pojedinih predstavnika tehnološkog sektora i vlada da se uvedu ograničenja za ovu tehnologiju. OpenAI je u sredu saopštio da je mogao ranije da reaguje i tako spreči napad na Hugging Face.

Potpisnici pisma očekuju da će se AI modeli u narednim mesecima sve više koristiti za izvođenje složenijih sajber-napada, dok kompanije istovremeno razvijaju modele koji mogu da služe i za odbranu od takvih napada i za njihovo izvođenje.

"Današnji napredak u oblasti veštačke inteligencije već pruža odbrambenim timovima nove načine da otklone ranjivosti koje su se gomilale godinama", navodi se u pismu. "Ako postupimo odlučno, možemo iskoristiti ovaj povoljan trenutak za odbranu i učiniti naš digitalni svet daleko bezbednijim".