Conștiința, conștiența, inteligența artificială și inteligența mixtă – ESSENTIALS

Cautarea inteligenta a omului, Definiția inteligenței artificiale

Istorie[ modificare modificare sursă ] Unul dintre Cautarea inteligenta a omului autori care și-a exprimat îngrijorarea cu privire la faptul că mașinile extrem de avansate ar putea prezenta riscuri existențiale pentru omenire a fost romancierul Samuel Butlercare a scris următoarele în eseul său din Darwin printre mașini "Darwin among the Machines" : [11] Rezultatul este pur și simplu o chestiune de timp, dar faptul că va veni momentul în care mașinile vor deține supremația reală asupra lumii și a locuitorilor ei este ceea ce nicio persoană cu o minte cu adevărat filosofică nu poate pune la îndoială nicio clipă.

Nu s-ar pune problema morții mașinilor și ar putea discuta între ele pentru a-și ascuți inteligența. Astfel, prima mașină ultrainteligentă este ultima invenție pe care omul trebuie să o facă vreodată, cu condiția ca mașina să fie suficient de docilă pentru a ne spune cum să o ținem sub control.

Inteligența Artificială și drepturile omului

Este curios că acest punct este realizat foarte rar în afara science-fiction-ului. Uneori merită să luați în serios science-fiction-ul. Good însuși [16] au conținut îngrijorări filozofice conform cărora o superinteligență ar putea prelua controlul, dar nu au conținut nicio chemare la acțiune.

CALEA STIINTEI SPRE DUMNEZEU

Experții au menționat că unii roboți au dobândit diferite forme de semi-autonomie, inclusiv posibilitatea de a găsi singuri surse de energie și posibilitatea de a alege în mod independent ținte pentru a ataca cu arme. Au ajuns la concluzia că conștientizarea de sine așa cum este descrisă în science fiction este puțin probabilă, dar că există alte pericole și capcane potențiale.

Căi, pericole, strategii. Un stol de vrăbii decide să găsească un pui de bufniță și să-l crească ca servitor. Celelalte vrăbii se împotrivesc; căutarea unui ou de bufniță va fi deja suficient de grea: "De ce să nu ai bufnița mai întâi și să rezolvi detaliile fine mai târziu?

Căi, pericole, strategii a stimulat o cantitate semnificativă de discuții publice și de dezbateri.

Cautarea inteligenta a omului

Russell și Roman Yampolskiyprecum și antreprenorii Elon Musk și Bill Gates își exprimau îngrijorarea cu privire la riscurile superinteligenței. Chiar dacă proiectanții de sistem au intenții bune, două dificultăți sunt comune atât sistemelor informatice IA, cât și celor care nu sunt IA: Implementarea sistemului poate conține erori de rutină neobservate inițial, dar catastrofale.

Se pare că browser-ul dvs. a dezactivat JavaScript.

O analogie este cea a sondelor spațiale: în ciuda cunoștințelor că erorile din sondele spațiale scumpe sunt greu de remediat după lansare, inginerii nu au reușit din punct de vedere istoric să prevină apariția erorilor catastrofale. De exemplu, chatbot-ul Tay de la Microsoft s-a comportat inofensiv în timpul testelor de pre-implementare, dar a fost prea ușor atras într-un comportament ofensator atunci când a interacționat cu utilizatori reali.

Scrisoarea, intitulată Priorități de cercetare pentru o inteligență artificială robustă și benefică: o scrisoare deschisă, stabilește prioritățile detaliate de cercetare într-un document însoțitor de douăsprezece pagini.

Cautarea inteligenta a omului

Este posibil ca o astfel de mașină să nu aibă la bază interesele umanității; nu este evident dacă i-ar păsa câtuși de puțin de bunăstarea umană. Dacă este posibilă IA superinteligentă și dacă este posibil ca obiectivele superinteligenței să intre în conflict cu valorile umane de bază, Cautarea inteligenta a omului IA prezintă un risc al dispariției omului.

Bostrom sugerează un scenariu în care, de-a lungul deceniilor, IA devine mai puternică. Desfășurarea pe scară largă este inițial afectată de accidente ocazionale - un autobuz fără șofer intră pe contrasens sau o dronă militară trage într-o mulțime nevinovată. Apoi mulți activiști solicită o supraveghere și o reglementare mai strictă, iar unii chiar prezic catastrofe iminente. Dar pe măsură ce dezvoltarea continuă, se dovedește că activiștii au greșit. Pe măsură ce IA auto devine mai inteligentă, suferă mai puține accidente; pe măsură ce roboții militari realizează o direcționare mai precisă, acestea cauzează mai puține daune colaterale.

De ce este importantă IA?

Pe baza datelor, cercetătorii deduc din erori o lecție largă - cu cât IA este mai inteligentă, cu atât este mai sigură. Pentru siguranță, echipa păstrează IA într-o cutie în care este în mare parte incapabilă să comunice cu lumea exterioară și i se dă sarcina să inunde piața prin companii de tip shell, mai întâi cu sarcini Amazon Mechanical Turk și apoi cu producerea de filme animate și emisiuni TV.

Mai târziu, alte companii de tip shell produc medicamente biotehnologice de succes și alte invenții, investind profiturile înapoi în IA. Echipa se confruntă, de asemenea, cu riscul ca decizia sa de a pune proiectul într-o cutie să întârzie proiectul suficient de mult pentru ca un alt proiect să îl depășească.

Marţi, 23 decembrieScience - Tehnologie Ray Kurzweil Foto: Wikimedia Commons Ray Kurzweil, celebru promotor al inteligentei artificiale, a publicat un articol in revista TIME pentru a-i contrazice pe cei care spun ca oamenii risca sa creeze masini atat de inteligente, incat ne vor distruge.

Funcția de utilitate este un algoritm matematic care are ca rezultat un singur răspuns definit în mod obiectiv. Mai mult, o funcție de utilitate care exprimă unele valori, dar nu altele, va tinde să treacă peste valorile care nu sunt reflectate de funcția de utilitate.

Bostrom, Russell și alții susțin că Cautarea inteligenta a omului de decizie mai inteligente decât omul ar putea ajunge la soluții mai neașteptate și extreme la sarcinile atribuite și ar putea să se modifice singure sau mediul lor în moduri care să compromită cerințele de siguranță.

Legile lui Asimov au fost menite să împiedice roboții să facă rău oamenilor.

Risc existențial cauzat de inteligența artificială puternică

În povestirile lui Asimov, problemele legilor tind să apară din conflictele dintre regulile menționate și intuițiile morale și așteptările oamenilor. Aceasta presupun că roboții supraomeni inteligenți ar dezvolta obiective precum cucerirea stăpânilor lor sau preluarea lumii"; poate în schimb "inteligența artificială se va dezvolta în mod natural pe linii feminine: pe deplin capabile să rezolve probleme, dar fără dorința Cautarea inteligenta a omului a anihila inocenții sau de a domina civilizația.

Cautarea inteligenta a omului

Acele obiective sunt programate în creierul nostru, dar nu există absolut niciun motiv pentru a construi roboți care au același tip de obiective", în timp ce Russell susține că o mașină suficient de avansată" va avea autoconservare chiar dacă aceasta nu este programată Deci, dacă îi dați vreun obiectiv, acesta are un motiv pentru a-și păstra propria existență pentru a atinge acest obiectiv.

La extrem, dacă moralitatea face Cautarea inteligenta a omului din definiția inteligenței, atunci prin definiție o mașină superinteligentă s-ar comporta moral.

Acesta este un antropomorfism fictiv: în realitate, în timp ce o inteligență artificială ar putea fi programată în mod deliberat cu emoții umane sau ar putea dezvolta ceva similar cu o emoție ca mijloc către un scop final, dacă este util să o facă, nu ar dezvolta spontan emoții umane fără niciun scop, așa cum este descris în ficțiune. Unii sceptici acuză susținătorii antropomorfismului pentru că ei cred că o IA puternică ar dori în mod natural puterea; susținătorii acuză unii sceptici de antropomorfism pentru că cred că o IA puternică ar aprecia în mod natural normele etice umane.

Armarea inteligenței artificiale[ modificare modificare sursă ] Unele surse susțin că armarea continuă a inteligenței artificiale ar putea constitui un risc catastrofal. O superinteligență armată conștientă ar afecta supremația tehnologică militară actuală a SUA și ar transforma războiul; prin urmare, este foarte de dorit pentru planificarea militară strategică și războiul interstatal. Imaginați-vă ce se întâmplă atunci când aceste computere devin experți în programarea computerelor inteligente.

În curând vom împărți planeta cu mașini de mii sau milioane de ori mai inteligente decât suntem noi.

Cautarea inteligenta a omului

Și, în tot Femeile din Niort timp, fiecare generație a acestei tehnologii va fi armată. Nereglementat, va fi catastrofal. La o extremă, pionierul IA Herbert A. Patru sondaje efectuate în și au sugerat că presupunerea medie a experților pentru momentul în care va apare AGI a fostîn funcție de sondaj.

Pe aceeași temă

Majoritatea roboticienilor încă încearcă să obțină o mână de robot care să ridice o minge sau facă un robot să alerge fără să cadă. Atkinson, s-a plâns că Musk, Hawking și experții IA spun că IA este cea mai mare amenințare existențială pentru umanitate.

Cu toate acestea, multe dintre punctele de vedere opuse împărtășesc un punct comun. Russell cu privire la riscul AI.