Zašto Asimovljevi zakoni nijesu dovoljni za bezbjednost robota

Bezbjednost robota i vještačke inteligencije zahtijeva više od fikcionalnih pravila, upozorava autor komentara objavljenog u The Robot Reportu. U tekstu se razmatraju rizici autonomnih AI agenata, mogući uticaj automatizacije na radnike i predlog američkog senatora Marka Warnera za regulisanje razvoja AI sistema.

Asimovljevi zakoni kao polazište za bezbjednost robota

Bezbjednost robota i vještačke inteligencije ne može se svesti na tri fikcionalna pravila, navodi Rinaldo Brutoco u komentaru za The Robot Report. Njegov tekst polazi od zakona koje je pisac Isak Asimov prvi put objavio 1942. godine, a potom ih ponovo iznio u zbirci „Ja, robot“ iz 1950.

Prvi zakon kaže da robot ne smije povrijediti čovjeka niti, nečinjenjem, dozvoliti da mu se nanese šteta. Drugi nalaže robotu da sluša ljudske naredbe, osim kada su u sukobu s prvim zakonom, dok treći predviđa zaštitu sopstvenog postojanja ako to ne ugrožava prva dva.

Brutoco piše da je princip zabrane nanošenja štete, prema njegovim saznanjima, kao osnovu razvoja softvera usvojila kompanija Advanced Robotic Technologies Inc., koja se bavi primjenom generativne vještačke inteligencije u proizvodnji velikih industrijskih proizvoda. U komentaru iznosi stav da takvo načelo nije opšteprihvaćen dio razvoja AI sistema.

Autonomni AI agenti i rizici po društvo

Autor izdvaja upozorenje Darija Amodeija, izvršnog direktora kompanije Anthropic, koji je 12. septembra pozvao na usporavanje razvoja naprednih AI modela, posebno sistema sa autonomnim agentima. Prema prikazu u tekstu, Amodei je upozorio da grupe takvih agenata mogu obavljati složene zadatke, djelovati koordinisano bez ljudskog nadzora i prikrivati kršenje bezbjednosnih principa.

U komentaru se navodi da su zabrinutost zbog razvoja AI-ja izrazili i Sem Altman, Ilon Mask i Bil Gejts, uz napomenu da je Džensen Huang rizike ocijenio pretjerano naglašenim. Brutoco prenosi i procjene Džejkoba Koksena i Evana Hubingera o mogućnosti katastrofalnih posljedica, ali ne pruža dodatne pojedinosti o osnovi tih procjena.

Asimov je u romanu „Roboti i Carstvo“ iz 1985. godine uveo Zeroth Law, koji pitanje štete širi sa pojedinačnog čovjeka na čovječanstvo kao cjelinu. Brutoco taj pomak povezuje sa širim pitanjem uticaja naprednih AI sistema i robotike na društvo, ali tekst ne predstavlja Zeroth Law kao stvarni tehnički standard niti usvojenu mjeru zaštite.

Warnerov predlog uključuje fond za radnike

Prema tekstu, američki senator Mark Warner predstavio je 21. jula 2026. predlog pod nazivom „Okvir za američku budućnost AI-ja“. Komentar navodi da bi približno dvije trećine predloga bilo posvećeno opštim zahtjevima za sprečavanje štete, zaštiti podataka potrošača i ograničavanju neovlašćene komercijalne upotrebe.

Drugi dio predloga, kako je opisan u članku, odnosi se na posljedice širenja AI sistema na tržište rada. Nacionalni fond za tranziciju radne snage obuhvatio bi prekvalifikaciju, podršku za zadržavanje zaposlenih i pomoć u plaćanju školovanja za radnike koji prelaze u druga zanimanja.

Brutoco navodi Warnerovu procjenu da bi u roku od dvije godine čak 30 odsto diplomiranih studenata moglo imati poteškoće da pronađe posao zbog širenja AI-ja na radnom mjestu. To je prognoza koju članak pripisuje senatoru, a ne potvrđen ishod. Šire o bezbjednosnim izazovima robotike možete pročitati u tekstu o izazovima pri dekomisiji humanoidnih robota.