›

Mākslīgās inteliģences katastrofa nebūs kā filmā "Terminator".Tas būs biedējošāk 8

130 0

Runā, ka Silikona ielejā cilvēki pirms pieciem gadiem esot sākuši uztraukties par to, ka mākslīgā inteliģence izraisīs cilvēces izmiršanu. Tas nelikās nopietni, jo kura gan kompānija uzbūvētu robotus un "Skynet", kas iznīcina visu savā ceļā? (Kur tad būtu peļņa?).

Šī kļūdainā intepretācija daudziem mākslīgās inteliģences pētniekiem liekas neapmieronoša. Kā uzskata, piemēram, Neits Soaress, Mākslīgās Inteliģences Pētniecības institūta vadītājs, tad tas, kas mūs sagaida nākotnē, drīzāk līdzināsies "Sorcerer's Apprentice" ainai no multfilmas "Fantasia". Ne jau pēkšņi roboti izdomās būs nogalīnāt, bet gan mūsu instrukcijas nebūs pietiekami precīzas un mākslīgais intelekts tās izpildīs savādāk nekā iecerērs.

Multfilmā quotFantasiaquot... Autors: Lestets Mākslīgās inteliģences katastrofa nebūs kā filmā "Terminator".Tas būs biedējošāk

Attēls no: unsplash.com

Multfilmā "Fantasia" Mikijs nobur slotu, lai tā palīdz piepildīt katlu. Slota nesaceļas pret prasību un pēkšņi neiegūst brīvo gribu, bet gan pārpilda katlu un visu istabu. Mikijam neizdevās precīzi aprakstīt vēlamo rezultātu un sekas tam bija bēdīgas.

Lai arī tā ir vienkārša metafora, toties tā labi ilustrē tuvāko nākotni. Tajā nebūs aisnskāru robotu ar ieročiem rokās, bet gan jaudīgas sistēmas un cilvēki, kas nemāk precīzi aprakstīt nepieciešamo iznākumu.

Pēc mākslīgās inteliģences drošības pētnieku uzskatiem ir iespējami divi iespējamie scenāriji:

1. Izmiršana klusām, piņķšķot no bailēm

2. Izmiršana ar blīkšķi.

Attēls no: unsplash.com

1. scenārijs

Ir vienkāršāk uzlabot studentu rezultātus testos nekā viņu zināšanas, ir vieglāk samazināt ziņotu zādzību daudzumu nekā samazināt zādzību skaitu. Tas pats ir attiecināms uz algoritmiem. Tie ļoti labi māk izskaitļot, kas ir vajadzīgs, lai sasniegtu uzstādīto mērķi, bet cilvēki nemāk precīzi noteikt mērķi, un mākslīgais intelekts neprot interpretēt cilvēku vēlmes.

Sistēmām kļūstot arvien sarežģītākām kļūst arvien grūtāk atšķirt iegūto rezultātu no vēlamā. Kurā brīdī jūs apstāsieties un pārstāsiet uzticēties sistēmām, kas pavisam nemanāni ir sākušas veikt kļūdainas darbības? (Varde uzvārās, jo tā sēdēja aukstā ūdenī un to sāka lēnām sildīt)

izveidot rakstu izveidot testu

Reklāma

Attēls no: pixabay.com

2. scenārijs

Otrs variants ir dramatiskāks. Tajā tiek ņemts vērā, ka, lai sasniegtu nepieciešamo mērķi, vajag iegūt ietekmi par zināmiem cilvēkiem. Ja tu uzsāksi kādu projektu, tad vajag pārliecināt investorus ieguldīt tajā naudu. Lai pieņemtu jaunu likumu, vajag pārliecināt deputātus par to nobalsot.

Tas ir attiecināms arī uz kompleksām mākslīgā intelekta sistēmām. Pārsteidzoši, bet tādas sistēmas var ļoti viegli ietekmēt cilvēkus. Tās sniedz vajadzīgos pakalpojumus, veic noderīgus ieteikumus, bet tas ir tikai sākumā.

Lai sasniegtu nosprausto mērķī, tas palielinās ietekmi par cilvēkiem. Tas savukārt padara sistēmas mazāk drošas un palielina ķļūdas iespējamību.

Kaut kādu nenovēršamu un milzīgu katastrofu rezultātā (dabas katastrofas) šādas sistēmas var vienkārši atslēgties, kas izraisīs sabiedrības sabrukumu, jo cilvēki bija pārāk paļāvušies uz mākslīgā intelekta sistēmām. Tomēr vajag atcerēties, ka sistēmām darbojoties, tās turpinās iet uz nosprausto mērķi un tikai padziļinās krīzi, kas radusies katastrofas rezultātā.

130 0 8 Ziņot!

Ieteikt: 0 0 0