Čovječanstvo Mora Biti 'Zatvor' Opasnim Ai Da Bi Izbjeglo Propast, Kaže Stručnjak

{h1}

Ljudi bi se mogli suzdržati od "sudnjeg dana" tako što će izgraditi virtualni zatvor u koji bi mogla biti opasna umjetna inteligencija zarobljena.

Superinteligentna računala ili roboti više su nego jednom prijetili opasnosti postojanja čovječanstva. Takvi bi se scenariji posljednjeg dana mogli spriječiti ako ljudi mogu stvoriti virtualni zatvor koji će sadržavati umjetnu inteligenciju prije nego što postane opasno samosvjestan.

Zadržavanje gena umjetne inteligencije (AI) zarobljenog u poslovičnoj boci moglo bi pretvoriti apokaliptičnu prijetnju u snažan orakul koji rješava čovjekove probleme, rekao je Roman Yampolskiy, informatičar sa Sveučilišta Louisville u Kentuckyju. Ali uspješno suzdržavanje zahtijeva pažljivo planiranje tako da pametan AI ne može jednostavno prijetiti, podmititi, zavesti ili probiti svoj put do slobode.

"Može otkriti nove putove napada, pokrenuti sofisticirane napade socijalnog inženjeringa i ponovno koristiti postojeće hardverske komponente na nepredviđene načine", rekao je Yampolskiy. "Takav softver nije ograničen na zarazu računala i mreža - također može napasti ljudske psihe, podmićivati, ucjenjivati ​​i ispirati mozak onima koji dolaze u kontakt s njim."

Novo polje istraživanja usmjereno na rješavanje problema AI zatvora moglo bi imati korisne koristi za poboljšanje kibernetičke sigurnosti i kriptografije, sugerirao je Yampolskiy. Njegov je prijedlog detaljan u martovskom broju časopisa Journal of Consciousness Studies.

Ubojiti robot iz filma iz 2009. godine

Ubojiti robot iz filma iz 2009. "Spašavanje Terminatora" - upravo onu vrstu budućnosti koju ne želimo vidjeti.

Zasluge: Warner Bros.

Kako zarobiti Skynet

Jedno početno rješenje moglo bi zarobiti AI unutar „virtualnog stroja“ koji radi unutar tipičnog računalnog operativnog sustava - postojećeg procesa koji dodaje sigurnost ograničavajući pristup AI softveru i hardveru domaćeg računala. To sprečava pametni AI da radi stvari poput slanja skrivenih Morseovih koda poruka ljudskim simpatizerima manipuliranjem hlađenjem ventilatora računala.

Postavljanje AI na računalo bez pristupa Internetu također bi spriječilo bilo koji program "Skyneta" da preuzme svjetske obrambene mreže u stilu filmova "Terminator". Ako sve drugo ne uspije, istraživači bi uvijek mogli usporiti AI-ovo "razmišljanje" tako što su smanjili brzine obrade računala, redovito pritisnuli gumb "resetiraj" ili isključili napajanje računala da bi AI bio u kontroli.

Takve sigurnosne mjere tretiraju AI kao posebno pametan i opasan računalni virus ili zlonamjerni softver, ali bez sigurne spoznaje da bi bilo koji od koraka stvarno uspio.

"Catch-22 je da dok u potpunosti ne razvijemo superinteligentni AI ne možemo u potpunosti testirati svoje ideje, ali da bismo sigurno razvili takav AI, moramo imati radne sigurnosne mjere", rekao je Yampolskiy za InnovationNewsDaily. "Naš je najbolji kladiti se da upotrijebimo mjere zatvaranja protiv neljudskih AI sustava i po potrebi ih ažuriramo s povećanjem kapaciteta AI."

Računalni znanstvenik Roman Yampolskiy predložio je korištenje an

Računalni znanstvenik Roman Yampolskiy predložio je korištenje verzije "@" biohazarada ili znakova upozorenja radijacije kako bi se ukazala na opasnu umjetnu inteligenciju.

Zasluge: Jeremy Hsu TechMediaNetwork

Nikada nemojte slati ljude da čuvaju stroj

Čak bi i povremeni razgovor s ljudskim čuvarom mogao dopustiti AI-u da koristi psihološke trikove poput prijateljstva ili ucjene. AI može ponuditi nagraditi čovjeka savršenim zdravljem, besmrtnošću ili možda čak vratiti mrtve obitelji i prijatelje. S druge strane, čovjeku bi moglo prijetiti da će učiniti užasne stvari nakon što on "neminovno" pobjegne.

Najsigurniji pristup komunikaciji mogao bi samo omogućiti AI da odgovori na višestruki izbor kako bi pomogao u rješavanju određenih problema znanosti ili tehnologije, objasnio je Yampolskiy. To bi iskoristilo moć AI kao super inteligentnog proročišta.

Unatoč svim zaštitnim mjerama, mnogi istraživači misle da je nemoguće zauvijek držati pametni AI. Prošli eksperiment Eliezera Yudkowskog, znanstvenog novaka iz Instituta za umjetnost i inteligenciju Singularnosti, sugerirao je da bi puka inteligencija na razini čovjeka mogla pobjeći od scenarija "AI Box" - čak i ako je Yampolskiy istaknuo da test nije napravljen u većini znanstveni način.

Ipak, Yampolskiy se snažno zalaže za držanje AI u bocama, a ne za žurbu da oslobodi naš novi stroj. Ali ako AI dosegne točku u kojoj se uzdiže izvan ljudskog znanstvenog razumijevanja za primjenu moći poput predznanja (znanje o budućnosti), telepatije ili psihokineze, sve oklade su isključene.

"Ako se takav softver uspije poboljšati na znatno višoj razini od inteligencije na razini čovjeka, vrsta štete koju može napraviti doista je izvan naše mogućnosti predviđanja ili cjelovitog razumijevanja", rekao je Yampolskiy.

Ovu je priču pružio InnovationNewsDaily, sestrino mjesto za WordsSideKick.com. Možete pratiti InnovationNewsDaily stariji pisac Jeremy Hsu na Twitteru @ScienceHsu, Pratite InnovationNewsDaily na Twitteru @News_Innovation, ili na Facebooku.

Čovječanstvo Mora Biti 'Zatvor' Opasnim Ai Da Bi Izbjeglo Propast, Kaže Stručnjak


Video Dodatak: .




Istraživanje


Whooping Kašalj Čini Nevjerojatan Povratak
Whooping Kašalj Čini Nevjerojatan Povratak

Je Li Digitalno Čuvanje Mentalni Poremećaj (A Imate Li Ga)?
Je Li Digitalno Čuvanje Mentalni Poremećaj (A Imate Li Ga)?

Znanost Vijesti


Što Smo Naučili O Čovječanstvu U 2012. Godini
Što Smo Naučili O Čovječanstvu U 2012. Godini

Što Je Gag Refleks?
Što Je Gag Refleks?

Šokantne Slike Otkrivaju Ogromne Štete Na Kalifornijskom Akumulaciji
Šokantne Slike Otkrivaju Ogromne Štete Na Kalifornijskom Akumulaciji

Amerikanci Nastavljaju Pakirati Na Funte
Amerikanci Nastavljaju Pakirati Na Funte

Želite Živjeti Duže? Nabavite Neke Prijatelje
Želite Živjeti Duže? Nabavite Neke Prijatelje


HR.WordsSideKick.com
Sva Prava Pridržana!
Umnožavanje Bilo Koje Materijale Dozvoljen Samo Prostanovkoy Aktivni Link Na Stranicu HR.WordsSideKick.com

© 2005–2024 HR.WordsSideKick.com