OpenAI preuzima Promptfoo u trci za bezbednije AI agente

OpenAI je pristao da kupi Promptfoo, startap koji velikim kompanijama omogućava da pronađu i otklone bezbednosne probleme u modelima veštačke inteligencije (AI) tokom njihovog razvoja, kao deo šire strategije da korporativnim klijentima pomogne da smanje potencijalne rizike prilikom primene AI softvera.

Kompanija koja stoji iza ChatGPT-ja trebalo bi uskoro da objavi da će tehnologiju Promptfoo integrisati u OpenAI Frontier, nedavno pokrenutu platformu koja organizacijama omogućava da razvijaju i upravljaju AI agentima. Frontier je zamišljen tako da pomogne da svaki agent - kojeg OpenAI naziva "AI saradnik" - ima odgovarajuće zaštitne mehanizme i pristup podacima. Uslovi akvizicije nisu objavljeni.

OpenAI i njegovi rivali utrkuju se u razvoju sve naprednijih AI agenata koji mogu da obavljaju složene zadatke u ime korisnika, uz minimalnu potrebu za ljudskom intervencijom. Istovremeno, kompanija pokušava da ubedi širi krug preduzeća da plaća ovu tehnologiju, naglašavajući da su takvi proizvodi efikasni i bezbedni.

"To što OpenAI preuzima Promptfoo šalje jasnu poruku da kompanija želi da korporativnu veštačku inteligenciju učini ne samo moćnom, već i bezbednom i pouzdanom u velikim razmerama", rekao je Ganesh Bell, direktor u Insight Partnersu, koji je prošle godine predvodio investicionu rundu od 18,4 miliona dolara u ovaj startap. Promptfoo, startap osnovan pre dve godine, razvija alate otvorenog koda za testiranje bezbednosti AI sistema, kao i alate koji pomažu kompanijama da pokušaju da "napadnu" sopstvene proizvode kako bi pronašle slabosti - ovo je proces poznat kao "red-teaming" (metoda bezbednosnog testiranja u kojoj se sistem namerno napada iznutra ili spolja, radi otkrivanja slabosti).

Startap sa sedištem u San Franciscu među klijentima ima oko četvrtinu kompanija iz liste Fortune 500.

                      

Wall Street preispituje AI euforiju dok investitori spuštaju valuacije Od početka godine na globalnim tržištima sudaraju se dve struje: jedna koja ima gotovo bezrezervno poverenje u disruptivni potencijal veštačke inteligencije i druga koja sve otvorenije preispituje opravdanost milijardi dolara uloženih u razvoj tih tehnologija. O tome da li Wall Street zaista zna u kom pravcu ide AI za TV Bloomberg Adria govorio je Richard Windsor, osnivač Radio Free Mobilea. "Smatram da sam izveštaj nije naročito utemeljen u stvarnosti. Više liči na scenario smaka sveta nego na prognozu zasnovanu na činjenicama i dokazima prisutnim na tržištu. Ono čega se investitori plaše jeste da bi, ukoliko se takav scenario obistini, izgledi za prihode i profitabilnost velikog dela softverskog i uslužnog sektora mogli da počnu da slabe, što je i dovelo do rasprodaje akcija", navodi Windsor. Kako objašnjava, ono što se trenutno vidi na tržištu poznato je kao kompresija multiplikatora - kompanije uglavnom i dalje uspevaju da ispune očekivanja investitora, ali tržište postaje nervozno u pogledu dugoročnih izgleda. Zbog toga opada multiplikator zarade koji su investitori spremni da plate za njihove akcije. "Sa tehnološke tačke gledišta, jedno od velikih obećanja bilo je da ćete uskoro imati AI agenta koji može da obavi 90 odsto zadataka koje danas obavljaju ljudi - praktično većinu ekonomskih aktivnosti - i da će rad u velikoj meri postati stvar prošlosti. To obećanje nije, niti će u doglednoj budućnosti biti ispunjeno. Drugo obećanje, međutim, podrazumeva da će AI pomoći ljudima da postanu produktivniji - da brže dolaze do informacija, lakše organizuju posao i skrate vreme potrebno za istraživanje. Upravo tu već počinju da se vide konkretni efekti i potencijal za rast prihoda u srednjem roku", zaključuje Windsor.

  

Promptfoo je jedan u nizu startapa koji razvijaju proizvode iz oblasti sajber-bezbednosti zasnovane na veštačkoj inteligenciji, namenjene zaštiti od hakera u trenutku kada i zlonamerni akteri počinju da koriste sličnu tehnologiju za pronalaženje načina da prodru u kritične mreže. I OpenAI je počeo da svoje AI proizvode i agente oprema bezbednosnim funkcijama. Prošle nedelje, kompanija je predstavila AI agenta namenjenog timovima za bezbednost koji pomaže u pronalaženju i "zakrpljivanju" slabosti u velikim bazama podataka, slično alatu koji razvija konkurentski Anthropic PBC.

U okviru nove akvizicije, platforma Frontier dobiće funkcije za automatizovano testiranje bezbednosti i "red-teaming". Proizvod će takođe dobiti funkcije koje organizacijama omogućavaju da prate promene i evidenciju testiranja, kako bi lakše upravljale rizicima i regulatornim zahtevima. OpenAI je saopštio da će nastaviti da razvija projekte otvorenog koda Promptfooa, dok će istovremeno njegovu tehnologiju integrisati u Frontier.

 

(Tekst dopunjen izjavama Richarda Windsora.)