Anthropic upozorava: distillation AI modela prelazi na dark web i potresa tržište

distillation AI modela je, prema Anthropicovim tvrdnjama, postala industrijski problem: konkurentske grupe koriste ilegalne metode i dark web da kopiraju modele poput Claude i prodaju jeftinije alternative, podižući bezbjednosne i tržišne rizike.

Anthropic opisuje rastuću prijetnju distillation AI modela

Anthropic je saopštio da su strani konkurenti koristili metode koje kompanija opisuje kao ilegalne kako bi pristupili njihovim Claude modelima i izvezli sadržaj za obuku sopstvenih modela — proces koji se naziva distillation AI modela. Jacob Klein, direktor obavještajne službe za prijetnje u Anthropicu, rekao je da postoji "cijeli ilegalni ekosistem" posvećen sticanju pristupa Claude i drugim modelima.

Klein je rekao da napadi uključuju pokretanje velikog broja računa po lažnim ili ukradenim podacima kako bi se automatski slale hiljade upita modelima i sakupljali njihovi odgovori, koji se potom koriste kao podaci za obuku tzv. studentskih modela. "Ekosistem koristi sve dostupne metode da izbjegne naše kontrole", kazao je Klein u izjavi za CNBC.

Ko su optuženi i kako funkcioniše operacija

Anthropic je imenovao nekoliko kineskih laboratorija — Moonshot AI, DeepSeek i MiniMax — i optužio ih za distillation AI modela prema tvrdnjama koje je iznio Jacob Klein. Kompanija je takođe navela da je protiv Alibabinog Qwen sistema pokrenula navode o "masovnom distillation napadu" koji, prema Anthropicu, cilja na kapacitete Claude modela.

Prema izvoru, jedan od načina obuhvata uključuje tržišta na dark webu za ukradene kartice i kompromitovane AI naloge, kao i automatizovano kreiranje desetina hiljada, pa i stotina hiljada lažnih naloga. Nakon dobijanja pristupa, napadači masovno postavljaju upite i prikupljaju izlaze modela za dalju upotrebu u obuci konkurentskih modela.

Tržišni i bezbjednosni rizici od distillation AI modela

Anthropic ističe da distillation AI modela može dovesti do pojave jeftinijih kopija koje potresaju tržišnu strukturu cijena: modeli trenirani na izlazima velikih sistema mogu ponuditi slične sposobnosti po nižoj cijeni, navodi Klein. To, tvrdi on, stvara pritisak na poslovne modele velikih AI igrača i utiče na tržište pristupa naprednim modelima.

Klein je također upozorio na potencijalne nacionalno-bezbjednosne implikacije, navodeći da su pojedini napadi, kako ih opisuje Anthropic, imali svrhu industrijskog špijunaža i da postoji rizik od zloupotrebe tehnologije — primjerice za nadzor ili druge maliciozne svrhe. OpenAI i Google su, prema izvještaju, objavili sopstvene procjene distillation problema i kažu da se susreću sa sličnim izazovima.

Skalabilnost i operativni izazov za velike AI platforme

Stručnjaci iz oblasti sajber bezbjednosti, koje je citirao CNBC, kažu da je razlog dijelom to što velike AI kompanije moraju službe činiti lako dostupnim da bi ostale konkurentne. Travis Lanham iz Armadina objasnio je da obim zahtjeva — milijarde upita — olakšava da se mali broj zlonamjernih zahtjeva "prikrije" među milionskim legitimnim zahtevima.

Anthropic priznaje da postoje legalni oblici distillation AI modela, koji zahtijevaju dozvole i poštovanje prava intelektualne svojine i izvoznih kontrola. Razlika koju kompanija ističe je to što u sadašnjim slučajevima, kako opisuje, nije riječ o legalnom postupku već o upotrebi ukradenih resursa i lažnih računa.

Tržišna implikacija i reakcije aktera

Izvještaj navodi da je Anthropic u fokusu investitora jer kompanija, prema CNBC-ju, vrijedi blizu 1 bilion dolara u privatnom tržištu i da se očekuje mogući IPO ubrzo. Kompanijsko upozorenje o distillation AI modela dolazi u trenutku kada tržište procjenjuje konkurenciju i cijene modela.

Kompanije koje je Anthropic spomenuo — Moonshot AI, DeepSeek, MiniMax i Alibaba — nisu odgovorile na zahtjeve za komentar, navodi CNBC. OpenAI i Google su javno priznali da se bave pitanjima distillationa u industriji, ali detalji o istragama i poduzetim mjerama variraju po kompanijama.

Povezano: Kripto tržište je ponovo pod pritiskom, dok cijene nastavljaju da slabe, a povjerenje investitora dodatno opada.