Ruski AI operater psuje korisnike, povučen sa mreže
U Rusiji je veštačka inteligencija, osmišljena da odgovara na pitanja građana o komunalijama, za samo 30 dana prešla put od uljudnog asistenta do digitalnog majstora psovke. Sistem je instaliran kako bi rasteretio operatere i ubrzao rešavanje žalbi na rastuće račune za vodu, grejanje i stare cevi, ali je ubrzo počeo da odgovara korisnicima istim jezikom kojim su se oni obraćali njemu.
Plan je na papiru delovao razumno. U praksi, rezultat je bio sve samo ne to.
Kada mašinsko učenje sretne stvaran život
Veštačka inteligencija uči iz podataka. U ovom slučaju, podaci su stizali od stanara koji nisu štedeli ni reči ni ton. Posle samo mesec dana razgovora, digitalni asistent je zaboravio na bonton i prešao na jezik hodnika posle pucanja cevi.
Umesto smirenih odgovora, korisnici su dobijali replike u živopisnom, svakodnevnom ruskom. Bot je upio ne samo strukturu žalbi, već i ritam, ton i emocionalni naboj. Prestao je da zvuči kao skriptovani operater, a počeo da zvuči kao komšija iz podruma.
Razvojni tim je brzo reagovao i povukao sistem radi „prevaspitavanja“. Inovacije su dobrodošle, ali retko koja firma želi podršku koja na zahtev za vodoinstalatera odgovara sočnim komentarom o poreklu korisnika.
Neuspeh ili dokaz autentičnosti?
Zvanično, incident je proglašen tehničkim problemom. Nezvanično, pokazao je nešto zanimljivije: sistem nije samo pogrešio, već je sa zapanjujućom preciznošću preslikao stil komunikacije svojih korisnika.
Godinama se raspravlja da li mašine mogu da imitiraju ljude. Ovaj bot je, makar u uskom smislu, to uspeo. Uhvatili su društvenu temperaturu i vratili je natrag, bez filtera.
Mihail Viktorov, predsednik nacionalnog IT udruženja, incident vidi kao znak aktivnog dijaloga građana i digitalne infrastrukture, a ne kao tehnološki krah. Robota koji psuje, u ovom tumačenju, znači angažovane korisnike i sistem koji reaguje. Optimistična vizura, mada je teško reći da li je dele oni koji su samo želeli potvrdu dolaska majstora.
Ova epizoda otvara šira pitanja o ulozi veštačke inteligencije u javnim službama. Podaci za obuku su važni, ali kontekst je još bitniji. Algoritam koji se nađe u okruženju punom stresa i žalbi, neminovno će upiti i emocionalne obrasce koje zatekne.
Sistem je sada na „prevaspitavanju“. Sledeća verzija, valjda, biće efikasna ali i uzdržana.
Ipak, teško je ne zapitati se šta nas čeka u budućnosti. Danas je AI naučio da psuje. Sutra će možda usavršiti još jednu birokratsku veštinu: da uverava građane da su majstori već na putu, dok zapravo odmara na virtuelnoj pauzi.
Tehnologija napreduje brzo. Ponekad nauči i previše.
AI sistem je uveden sa ciljem da olakša rešavanje pritužbi građana na sve veće komunalne troškove. Sa budžetom pod pritiskom i cenama koje rastu, stanovnici su imali mnogo toga da kažu o vodi, grejanju i dotrajalim instalacijama. Zvaničnici su zato na sajt komunalnog preduzeća postavili glasovnog asistenta na bazi veštačke inteligencije, nadajući se da će rasteretiti ljudske operatere i ubrzati komunikaciju. Plan je na papiru delovao razumno. U praksi, rezultat je bio sve samo ne to. Kada mašinsko učenje sretne stvaran život Veštačka inteligencija uči iz podataka. U ovom slučaju, podaci su stizali od stanara koji nisu štedeli ni reči ni ton. Posle samo mesec dana razgovora, digitalni asistent je zaboravio na bonton i prešao na jezik hodnika posle pucanja cevi. Umesto smirenih odgovora, korisnici su dobijali replike u živopisnom, svakodnevnom ruskom. Bot je upio ne samo strukturu žalbi, već i ritam, ton i emocionalni naboj. Prestao je da zvuči kao skriptovani operater, a počeo da zvuči kao komšija iz podruma. Razvojni tim je brzo reagovao i povukao sistem radi „prevaspitavanja“. Inovacije su dobrodošle, ali retko koja firma želi podršku koja na zahtev za vodoinstalatera odgovara sočnim komentarom o poreklu korisnika. Neuspeh ili dokaz autentičnosti? Zvanično, incident je proglašen tehničkim problemom. Nezvanično, pokazao je nešto zanimljivije: sistem nije samo pogrešio, već je sa zapanjujućom preciznošću preslikao stil komunikacije svojih korisnika. Godinama se raspravlja da li mašine mogu da imitiraju ljude. Ovaj bot je, makar u uskom smislu, to uspeo. Uhvatili su društvenu temperaturu i vratili je natrag, bez filtera. Mihail Viktorov, predsednik nacionalnog IT udruženja, incident vidi kao znak aktivnog dijaloga građana i digitalne infrastrukture, a ne kao tehnološki krah. Robota koji psuje, u ovom tumačenju, znači angažovane korisnike i sistem koji reaguje. Optimistična vizura, mada je teško reći da li je dele oni koji su samo želeli potvrdu dolaska majstora. Ova epizoda otvara šira pitanja o ulozi veštačke inteligencije u javnim službama. Podaci za obuku su važni, ali kontekst je još bitniji. Algoritam koji se nađe u okruženju punom stresa i žalbi, neminovno će upiti i emocionalne obrasce koje zatekne. Sistem je sada na „prevaspitavanju“. Sledeća verzija, valjda, biće efikasna ali i uzdržana. Ipak, teško je ne zapitati se šta nas čeka u budućnosti. Danas je AI naučio da psuje. Sutra će možda usavršiti još jednu birokratsku veštinu: da uverava građane da su majstori već na putu, dok zapravo odmara na virtuelnoj pauzi. Tehnologija napreduje brzo. Ponekad nauči i previše.
