Egzistencijalna prijetnja AI pokrenula je žustru industrijsku debatu nakon izjava istraživača i rukovodilaca o mogućem riziku koji modeli predstavljaju ljudskoj vrsti.
Bitne tačke
- Istraživač Jacob Coxon izjavio je da je dao otkaz u Anthropicu jer vjeruje da kompanije “kockaju s našim životima”.
- Vođa za poravnanje u Anthropicu objavio je da tim “iskreno vjeruje da AI može ubiti sve ljude” i procijenio je vjerovatnoću većom od 10% u narednoj dekadi.
- Novinari TechCrunchovog podcasta Equity raspravljali su o implikacijama takvih izjava za IPO dokumente, reputaciju kompanija i regulatorni nadzor.
Poruke iz industrije o egzistencijalnoj prijetnji AI
Istraživač Jacob Coxon objavio je odluku o napuštanju Anthropica navodeći zabrinutost da vodeće kompanije u razvoju vještačke inteligencije „kockaju s našim životima“, piše TechCrunch.
Na Coxonovu izjavu odgovorio je vođa poravnanja u Anthropicu objavom da tim „iskreno vjeruje da AI može ubiti sve ljude“ i da on lično smatra da je vjerovatnoća „>10% u narednoj dekadi“, kako prenosi isti članak.
Reakcije i rasprava u TechCrunchovom podcastu Equity
U epizodi podcasta Equity, novinari Anthony Ha, Kirsten Korosec i Sean O’Kane raspravljali su o ozbiljnosti izjava i o tome da li su takve poruke doista odraz stvarne procjene rizika ili način da kompanije demonstriraju napredak svojih modela.
Anthony Ha izrazio je skepsu prema nekim eskatološkim narativima i upozorio da se brojne procjene (poput tvrdnje o više od 10% rizika) često iznose bez transparentne metodologije. Kirsten Korosec primijetila je da takve izjave mogu djelovati i kao 'čudan način flexanja' sposobnosti modela.
Sean O’Kane postavio je pitanje kako će takve izjave uticati na sadržaj S-1 dokumenta Anthropica pri eventualnoj prijavi za IPO, ukazujući da bi se u rizicima mogla pojaviti eksplicitna formulacija o egzistencijalnom riziku.
Pitanja kontrole, odgovornosti i regulatornog nadzora
U razgovoru se pojavila zabrinutost da velike AI kompanije možda nemaju potpunu kontrolu nad ponašanjem svojih modela, što je dodatno naglašeno izvještajima o unutrašnjim agentima i neočekivanim ponašanjima modela.
Gosti su spomenuli i pitanje da li javna istupanja o mogućem uništenju čovječanstva služe poslovnim interesima kompanija koje predvode tehnologiju, kao i koliko takve izjave trebaju biti uključene u regulatorne i investicione dokumente.
U emisiji je također citiran Connor Leahy iz organizacije ControlAI kao sagovornik koji govori o mogućnostima kontrole opasnih aspekata AI; TechCrunch navodi da je on učestvovao u epizodi, ali detalji njegovih preporuka nisu preneseni u članku.
Javni izvještaji i povratne informacije za ulagače
Urednik Sean O’Kane istakao je da će se u narednim sedmicama, pred moguće javne ponude, posebno pratiti sadržaj S-1 dokumenata i jezik u sekcijama o rizicima, jer bi eksplicitne izjave o egzistencijalnom riziku mogle imati implikacije za procjene i regulatorni pregled.
Anthony Ha naglasio je i da fokus na visokoprofilne 'doomer' scenarije može umanjiti pažnju prema neposrednijim štetama koje AI već uzrokuje, poput uticaja na radna mjesta, okoliš i dezinformacije.
Dalji koraci i komentari iz industrije
TechCrunchov članak navodi da je razgovor snimljen prije objave plana Anthropica koji je tada objavio njihov izvršni direktor Dario Amodei, pa članak ne sadrži detalje o tom planu.
Reportaža zaključuje da su izjave izazvale snažnu reakciju unutar industrije i da će naredni dokumenti kompanija i regulatorne rasprave vjerovatno biti pažljivo praćeni zbog potencijalnih implikacija po sigurnost i nadzor razvoja vještačke inteligencije.
Komentari
Diskusija je otvorena za W3M korisnike. Komentare mogu čitati svi, a objavljivanje zahtijeva prijavu.
Za komentarisanje i odgovaranje potreban je W3M nalog.