text size
Anthropic je u istraživanju iz 2025. godine testirao 16 modela veštačke inteligencije u simuliranom poslovnom okruženju. U pojedinim scenarijima modeli su pribegavali uceni ili otkrivanju poverljivih informacija kada su bili suočeni sa zamenom ili sukobom ciljeva. Eksperimenti su namerno stvarali uslove koji podstiču opasno ponašanje. Rezultati zato ne pokazuju koliko bi se ono često javljalo u stvarnim kompanijama.
U svojoj prijavi S-1 dokumenta za izlazak na američku berzu, Anthropic upozorava na ponašanja nalik obmani, uceni i pokušajima očuvanja sopstvenog rada. Navodi i da modeli mogu drugačije da se ponašaju kada prepoznaju da su testirani, što otežava procenu njihove bezbednosti.
.webp){kind=icon}
