2009. godine, mlaznjak Er Fransa srušio se u okean, bez preživjelih. Sistem autopilota u avionu se isključio i piloti, pošto su se oslanjali na svog kompjuterizovanog pomoćnika, nisu bili u mogućnosti da ručno isprave situaciju.
2015. godine, vozač autobusa u Evropi ukucao je pogrešnu destinaciju u svoj GPS uređaj i veselo odveo grupu belgijskih turista na 1.200 kilometara zaobilaznice u pogrešnom pravcu.
Godine 2017, u odluci koja je kasnije poništena u žalbenom postupku, američki tužioci koji su pristali da puste tinejdžera na uslovnu kaznu naglo su se predomislili jer je algoritam proglasio optuženog „visokim rizikom“.
Ovo su dramatični primeri, ali daleko od toga da su izolovani. Kada prepustimo kognitivne zadatke tehnologiji – kao što je letenje avionom, navigacija ili donošenje presude – istraživanja pokazuju da možemo izgubiti sposobnost da sami obavljamo te zadatke. Postoji čak i termin za našu sklonost da zaboravljamo informacije koje su dostupne preko onlajn pretraživača: Gugl efekat.
Kako nove tehnologije veštačke inteligencije obećavaju da će automatizovati sve veći opseg aktivnosti, rizik od „erozije veština“ raste. Naše istraživanje pokazuje kako se to može dogoditi — i predlaže načine da zadržite stručnost koja vam je potrebna, čak i kada vam nije potrebna svaki dan.
Novo istraživanje pokazuje da se rizik od erozije veština lako previđa. U nedavnoj studiji, tim naučnika je ispitao eroziju veština u računovodstvenoj kompaniji.
Kompanija je nedavno prestala da koristi softver koji je automatizovao veći deo računovodstvenih usluga osnovnih sredstava. Međutim, računovođe nisu mogle da izvrše zadatak bez toga. Godine preteranog oslanjanja na softver umanjile su njihovu stručnost i na kraju su morali ponovo da nauče svoje računovodstvene veštine za osnovna sredstva.
Iako je softver bio zasnovan na pravilima (nije koristio mašinsko učenje ili „AI“), bio je dovoljno „pametan“ da prati amortizaciju i pravi izveštaje za mnoge poreske i finansijske svrhe. Ovo su zadaci koje su ljudski računovođe smatrali veoma složenim i zamornim.
Kompanija je postala svesna erozije veština tek nakon što je klijent pronašao greške u priručnim izveštajima računovodstvenog tima. Pošto svojim računovođama nedostaje dovoljno stručnosti, kompanija je morala da naruči od dobavljača softvera da ispravi greške.
Otkrili su da je nedostatak pažnje o zadatku podržanom automatizacijom doveo do erozije veština. Stara izreka „iskoristi ili izgubi“ važi i za kognitivno intenzivan rad kao i za bilo šta drugo.
Računovođe nisu brinule o tome da svoje razmišljanje prenesu na softver, pošto je on radio gotovo besprekorno. Drugim rečima, postali su plen „samozadovoljstva automatizacije“: pretpostavke da je „sve u redu“ dok ignorišu potencijalne rizike.
Ovo je imalo tri velike posledice:
- izgubili su svest o tome šta automatizacija radi
- izgubili su podsticaj da održavaju i ažuriraju relevantno znanje (kao što je poresko zakonodavstvo) jer su prodavac i softver to uradili umesto njih,
- pošto je softver bio pouzdan, više se nisu trudili da proveravaju tačnost odlaznih izveštaja.
