2011. g. 18. aprīlī Amazon pārdošanā esošās grāmatas "The Making of a Fly" cena uzkāpa līdz pārsteidzošiem 23 698 655,33 $. Tā bija kļūda, vēlāk cena tika nomainīta uz 106 $, bet šo astronomisko summu par vienu grāmatu radīja kļūdains algoritms.
Šī acīmredzamā kļūda tika pamanīta un izlabota, bet cik ir tādu lietu, kas nav pamanāmas un saprotamas, ka tās nav kļūdas? Ja realitāte arvien vairāk ir atkarīga no mākslīgā intelekta un tā algoritmiem, tad kur paliek vieta cilvēkiem?
Izrādās, ka laika gaitā mēs jau esam pārsnieguši to robežu, kad cilvēki ietekmēja algoritmus. Pēc profesora Alena Lī algoritmi tagad mūs ietekmē un kontrolē. Mēs dzīvojam tehnoloģiskā pasaulē ar aizvien mazākām iespējām kaut ko izlemt.
Ir radīta programmatūra, kas ļauj paredzēt iespējamos krminālnoziedzniekus. Tā vietā, lai tiesniši pieņemtu lēmumu par priekšlaicīgu atbrīvošanu, to dara programmas.
Pasaules lielākās firmas ļauj programmām atfiltrēt informāciju no CV, bet, kā parādīja Amazon neizdevies eksperiments, tad programmatūra var apmācīt sevi un sekas var būt diskriminējošas.
Atliek vien atcerēties Microsoft čatbotu, kas nokļūstot Twitter kļuva par rasistisku, ar seksu apsēstu neonacistu. Tādas kļūdas notiek, tomēr neskatoties uz to darbs pie algoritmiem turpinās.
Mūsdienās 85% no tirdzniecības biržās tiek veikta ar algoritmu palīdzību. 2010. g. notika "Flash Crash", kad Dow jones index minūšu laikā noslīdēja par 9%. Tā nebija kļūda. Piecu mēnešu izmeklēšana vien spēja norādīt uz iespējamajiem cēloņiem, jo patiesībā neviens īsti nezina kā algoritmi mācās.
Finanšu tirgos 215 milisekundes, kamēr cilvēks nospiež pogu, ir pārāk ilgs. Tas padara tos ļoti atkarīgus no automatizētām sistēmām. Cilvēku loma tiek ierobežota vien līdz algoritmu korigēšanai, ja sistēma kļūdās.
Mums vajadzētu uzmanīgāk apieties ar algoritmiem un noteikt robežas, cik tālu tas var sniegties. Tomēr, atcerēsimies, ka mēs jau esam kļuvuši par līdzekļiem mašīnu dominētā pasaulē. Varbūt derētu izraut štepceli, kamēr nav par vēlu?
''Atliek vien atcerēties Microsoft čatbotu, kas nokļūstot Twitter kļuva par rasistisku, ar seksu apsēstu neonacistu. ''©
izklausās savā ziņā - piedūrīgi .... 
Ne, ne, nevajaga. Viss ir cilvēku programēts. Algortimi ir solis-pa-solim formula kas atkārto pati sevi un tā mācās. Lielākais mīts ko cilvēki ir izdomājuši, ir - ka algoritmi ir vainīgi.
Viens ir tas, ka objektīvus algoritmus nav iespējams ieprogrammēt. Otrs ir tas, ka vienmēr ir ieliktas vērtības, kuras administrācija nesaka skaļi.
Kaut vai tie paši tiesas darbi. Slavenākais piemērs bija ASV: 'bias' radās jo algoritmi bija ieprogrammēti ņemt vērā rasi, ģimenes stāvokli un reģistrēto dzīvesvietu. Kā rezultātā izrādījās, ka 'algoritmi ir rasistiski'. Līdzīgs gadījums bija par filtru ūdens krānam - kur sensors neatpazina tumšas ādas krāsas roku.
Jautājumam vienmēr ir jābūt - kurš ir programējis. Tā cilvēka vērtības un kas ir/nav ņemts vērā.
