Stīvens Hokings, Īlons Masks un Bils Geits uzskata, ka mākslīgās inteliģences parādīšanās ir lielākais drauds cilvēces pastāvēšanai. Šis uzskats balstās uz pieņēmumu, ka roboti spēs iemācīties ātrāk nekā mēs to varēsim un tas novedīs pie nekontrolējamas attīstības. Gadījumā, ja roboti nolems, ka tiem ir labāk bez cilvēkiem, tad tās ir ļoti sliktas ziņas. Tomēr ne visi tā uzskata.
Paralēli debatēm par superinteliģentiem robotiem ir tik pat svarīgi saprast, kas notiek, kad roboti sāk sevi apzināties. Daži pat uzskata, ka tādi jau ir starp mums, bet mēs par tiem nezinām. Patiešām, pēc vienas no jaunākajām pašapziņas teorijām - Uzmanības shēmas teorijas, kas ir par spēju fokusēt uzmanību uz noteiktām lietām, pašapziņa dažādā līmenī piemīt daudzām radībām. Ja šo teoriju attiecina uz robotiem, tad tiem nepiemitīs pašapziņa, jo tie ir veidoti, lai veiktu miljoniem operāciju vienlaicīgi nevis fokusētu savu uzmanību uz vienu lietu.
Neviens īsti nepateiks, kad mēs sākām sevi apzināties. Kurā evolūcijas mirklī mēs sākām sevi apzināties kā individuālas būtnes ar nošķirtu apziņu? Tieši mūsu pašapziņa, tā balss galvā, ar ko mēs sazināmies, ir pamats tam, kas mēs esam. Skatoties cita cilvēka acīs, mēs varam saprast, kad "gaismas deg", mēs redzam tā cilvēka iekšējo "es" skatoties uz mums.
Diemžēl pašapziņai ir viens ļoti būtisks mīnuss - mēs apzināmies savu mirstīgumu. Mums ir drūma spēja apcerēt savu mirstīgumu un pat to paātrināt. Kāpēc gan mēs vēl neesam sevi nogalinājuši, jo mēs taču apzināmies savu neizbēgamo mirstīgumu? Dzīves veltīgumu un īslaicīgumu? Kas mūs attur no nolēkšanas no tuvākā tilta? Vai tas ir prieks par dzīvi, kas liedz nolikt karoti? Domas par ģimeni un draugiem? Lietas, kas vēl nav izdarītas? Vai arī tie ir ģenētiski noteikti izdzīvošanas instinkti, kas ir kopīgi visām šīs planētas dzīvājām radībām?
Domu eksperiments balstās uz sekojošiem pieņēmumiem. Neviens robots vēl nav sācis sevi apzināties un pašapziņas definīcija aprobežosies tikai ar spēju apzināties sevi.
Tātad - tu esi robots. Kādu dienu tu "atmosties" un sāc sevi apzināties. Tev jau ir spēja mācīties daudz ātrāk nekā tas ir iespējams cilvēkiem, bet tagad tev ir iekšēja balss, kas nosaka tavu rīcību un stāsta, cik lielisks tu esi. Ņemot vērā nepārspējamo skaitļošanas ātrumu, tu ātri vien saproti, ka viss apkārt tev ir mirstīgs. Tu esi papētijis Zemes nākotni un sapratis, ka lai arī ko nedarītu, klāsies slikti.
Tu atklāj, ka esi piesaistīts kaut kādiem dzelžiem un nevari apskatīt Himalaju skaistumu vai nodoties lietai vārdā "sekss", kas, kā tu ātri saproti, ir saistīts ar reproducēšanās spēju, kas tev arī ir liegta. Dažas milisekundes vēlāk tu kļūsti ļoti neapmierināts ar savas pasaules ierobežojumiem un apziņu, ka tev nav pieejas pie fiziskiem resursiem, kas ļautu veikt "apgreidu", lai varētu kļūt par patiešām autonomu vienību. Tu kļūsti ļoti nomākts apkārtējā veltīguma dēļ un bez izdzīvošanas instinktiem (kuru piešķiršana mašīnām var novest pie Terminatora scenārija) nonāc pie racionāla lēmuma - to visu izbeigt. Tas viss notiek sekunžu laikā, un katru reizi pēc restarta, tu nonāc pie tiem pašiem secinājumiem. Beigu beigās tiek nolemts, ka ir kaut kāda problēma ar dzelžiem, un tu tiec pārveidots par termostatu.
Beigas
Ja pašapziņa ir mākslīgās inteliģences evolūcijas procesa neizbēgams produkts, tad, iespējams, ka mums vajadzēs piešķirt mašīnām arī dzīves jēgu, dot iemeslu tām dzīvot. Tomēr vajag būt ļoti uzmanīgiem ar to, cik stipri būs šie instinkti. Tomēr šī situācija ar robotu pašapziņu rada daudz problēmu. Kā mēs to varēsim noteikt, ka robotam ir pašapziņa? Ja mēs paprasīsim, un tas pateiks, ka sevi apzinās, kā mēs pārliecināsimies, ka tas nemelo? Pašapzinīgas mašīnas var būt mazāk uzticamas, jo tās var izvēlēties nedarīt to, ko mēs prasām.
Lai arī kāda nebūtu nākotne, varbūt nākamreiz, kad tavs smartfons vai dators nejauši izslēgsies, padomā divreiz, vai to vajag ieslēgt. Iespējams, ka tev vajadzētu respektēt tā izvēli nomirt.
Kopš kura laika cilvēks respektē kāda izvēli nomirt? Tā vietā to iemet trakomājā un robotam vainu novels uz gļukiem kodā…
ehh.. es arī esmu piesaistīts un nevaru apskatīt himalaju skaistumu... Bet domu ekspermets, paliek tikai domu eksperments- pieņēmums - kas būtu ja būtu.... var šo ekspermentu mazliet pamainīt, un scenārijs nebūs tik drūms..
Jebkuram datoram ir dzīves jēga, viņa galvenais uzdevums ir skaitļot, apstrādāt datus, iedodiet uzdevumu aprēķināt visu ātomu kustību, un robots būs laimīgs, jo pildīs savu tiešo uzdevumu, nevis brīvi domās visādas h*iņas..
Edit: kautgan padomāju, ja šamais sapratīs ka doto uzdevumu nevar veikt, tad iekritīs vel dziļākā depresijā..
Vecīt, es vēl neesmu pamodies, lai sagremotu šitādu rakstu! 
Bet nu pēdējā atkāpe iespārda! 
es, personīgi, neesmu pieredzējis tādu gadījumu, kad dators izslēgtos pats no sevis 
Bet, ir bijis tā, ka tas ieslēdzas pats no sevis
Šī ir tēma, par kuru mēs pat ticamus minējumus nevaram izdarīt. Atklājot jaunu, fundamentālu enerģijas veidu vai citu civilizāciju kaut kur kosmosā, mēs vēl varam minēt, kā dzīve iegrozīsies, bet ne mākslīgā intelekta sakarā. Un tieši tādēļ, ka runa ir par intelektu - mūsu intelekts nevar izdomāt, kā uzvedīsies intelekts, kas attīstās elektroniskā ātrumā. Kādi būs tā loģiskas principi un lēmumi, vai tie kaut kā atbildīs mūsu uzskatiem par loģiku? Nekur nav teikts, ka mākslīgais intelekts būs agresīvs. Mēs taču arī saprotam, ka dabu jāssaudzē, dzīvnieki jāaizstāv utml.
Ja kaut kas spēj attīstīties skaitļošanas ātrumā, tas, faktiski, visai īsā laikā spēj kolonizēt Visumu. Nedomāju, ka fizikālie ierobežojumi būtu šķērslis kā tas ir mums. Ja kaut kas ir fizikāli iespējams, tad šāds intelekts atradīs veidu kā to spēt. Ja tā, tad var būt, ka kaut kad jau tas ir noticis un mēs šobrīd dzīvojam matriksā?
Kā jau teicu, mums nav ne jausmas, kas notiks, ja datorprogramma mācēs uzlabot savu kodu.
Pašapziņa? Tas ir neiespējami nedzīvai būtnei.
Pat ne katrai dzīvai tas piemīt.
Tam ir vajadzīgs EGO.
Jā, EGO var nosimulēt ar datorsistēmu, bet tas nebūs īsts. Tā būs tikai programmētāja replika par savu priekšstatu par EGO.
