streda, 30 októbra, 2024

Americký vedec tvrdí, že umelá inteligencia by mohla zničiť ľudstvo. Má to však jeden háčik

Spolu s rozvojom umelej inteligencie sa vo verejnej a vedeckej diskusii čoraz častejšie objavujú aj obavy z možných rizík.

Zatiaľ čo niektorí výskumníci považujú umelú inteligenciu len za užitočný nástroj, iní vydávajú alarmujúce varovania pred možnými katastrofickými dôsledkami. Jedno z takýchto varovaní pochádza od výskumníka Romana Jampolského, ktorý tvrdí, že AI má 99,9 % šancu zničiť ľudstvo v nasledujúcich 100 rokoch.

Alarmujúce predpovede a štatistiky

PodcasterLex Fridman vo svojej relácii viedol rozhovor s niekoľkými odborníkmi na umelú inteligenciu , v ktorom odhalil, že odhady celkového rizika, že umelá inteligencia zničí ľudstvo, sa pohybujú od 1 do 20 %.

Nedávny prieskum medzi 2700 výskumníkmi v oblasti umelej inteligencie ukázal, že pravdepodobnosť, že umelá inteligencia povedie k vyhynutiu ľudstva, je 5 %. Fridman zdôrazňuje význam dialógu s odborníkmi, aby sme lepšie pochopili potenciálne riziká.

Spomedzi hostíFridmanovho podcastu vykreslil najpesimistickejšiu víziu budúcnosti Roman Jampolskij – podľa neho existuje 99,9 % šanca, že AI vyhladí ľudstvo v nasledujúcich 100 rokoch. Riziko, ako vysvetlil, spočíva najmä v schopnosti ľudí vytvoriť vysoko komplexný a bezchybný softvér, čo považuje za nepravdepodobné.

Technológie umelej inteligencie, ktoré sú dnes k dispozícii, dokážu vykonávať špecifické úlohy, ako napríklad rozpoznávanie obrazu alebo preklad.

Týmto systémom chýba všeobecná inteligencia alebo schopnosť autonómneho rozhodovania, ktoré by mohli viesť ku katastrofálnym výsledkom. Všeobecná umelá inteligencia schopná chápať a uplatňovať inteligenciu podobným spôsobom ako človek je stále nereálnym cieľom vzhľadom na technické problémy.

Aké sú potenciálne riziká?

Nevhodné používanie technológie

Bezprostredné riziko spočíva v tom, že ľudia by mohli zneužiť umelú inteligenciu na vytvorenie autonómnych zbraní, uskutočnenie kybernetických útokov alebo manipuláciu s informáciami a ekonomikami, čo by spôsobilo značné škody a globálnu nestabilitu.

Problém správnej kontroly

Ak bude vyvinutá všeobecná umelá inteligencia, bude nevyhnutné zabezpečiť, aby konala v súlade s ľudskými hodnotami a nesledovala ciele škodlivé pre ľudstvo.

Nezamýšľané dôsledky

Ide o možnosť, že umelá inteligencia, ktorej úlohou je optimalizovať daný cieľ, môže na jeho dosiahnutie prijať extrémne opatrenia bez toho, aby zohľadnila vedľajšie účinky.

Čo si o tom všetkom myslia odborníci?

Názory odborníkov na umelú inteligenciu sa značne líšia, pričom existujú optimistické aj pesimistické predpovede. Niektorí sa domnievajú, že pri starostlivom vývoji, regulácii a etických aspektoch môže byť AI užitočná a jej riziká zvládnuteľné. To by si však vyžadovalo transparentnosť a medzinárodnú spoluprácu.

Iní odborníci varujú, že riziká sú príliš vysoké. Významné osobnosti, ako napríklad Stephen Hawking a Elon Musk, vyjadrili obavy z rizík, ktoré predstavuje umelá inteligencia, a vyzvali na vytvorenie pevného súboru pravidiel.

Výskum bezpečnosti umelej inteligencie

Cieľom výskumu bezpečnosti umelej inteligencie je vyvinúť metódy, ktoré zabezpečia, aby boli systémy umelej inteligencie spoľahlivé, overiteľné a v súlade s ľudskými hodnotami.

Vypracovanie etických usmernení a noriem pre vývoj a používanie umelej inteligencie môže pomôcť zmierniť riziká. Tie zahŕňajú zásady, ako sú spravodlivosť, zodpovednosť a transparentnosť.

Vlády a medzinárodné organizácie čoraz viac uznávajú potrebu regulácie na riešenie rizík spojených s UI. Patria sem politiky na predchádzanie zneužitiu, zaistenie bezpečnosti a podporu prospešného využívania UI.

Hoci riziká, ktoré predstavuje UI, nemožno zanedbávať a treba ich brať veľmi vážne, proaktívne opatrenia v oblasti výskumu a regulácie môžu tieto riziká znížiť. Táto technológia môže byť mimoriadne užitočná, ale len vďaka koordinovanému a zodpovednému prístupu môžeme dúfať, že využijeme jej výhody bez ohrozenia budúcnosti ľudstva.

No Title

Roman Yampolskiy is an AI safety researcher and author of a new book titled AI: Unexplainable, Unpredictable, Uncontrollable.

Zaujal Vás článok, ktorý ste práve čítali? Budeme radi, ak ho podporíte lajkom, zdieľaním alebo komentárom. Ďakujeme 🙂

Najnovšie

Matku po pôrode jej prvého dieťaťa nazvali „hrozným“ človekom: „Cítila som sa veľmi vinná

Lindsey Marsonová z Pensylvánie mala len dva roky, keď...

Muž ju opustil, dcéra ju začala nenávidieť…a pritom ona bola obeťou

V najnovšom príbehu Adriany Macháčovej Daj mi svoj strach...

„Zlé myšlienky sú nebezpečnejšie ako akákoľvek choroba“ – ako vyliečiť svoje myslenie podľa Helena Roerich

Koľkokrát ste zažili presne také nešťastné udalosti, aké ste...

Prečítaj si aj

Matku po pôrode jej prvého dieťaťa nazvali „hrozným“ človekom: „Cítila som sa veľmi vinná

Lindsey Marsonová z Pensylvánie mala len dva roky, keď...

Muž ju opustil, dcéra ju začala nenávidieť…a pritom ona bola obeťou

V najnovšom príbehu Adriany Macháčovej Daj mi svoj strach...

„Zlé myšlienky sú nebezpečnejšie ako akákoľvek choroba“ – ako vyliečiť svoje myslenie podľa Helena Roerich

Koľkokrát ste zažili presne také nešťastné udalosti, aké ste...

Lekár použil na svoj nádor na mozgu vlastnú experimentálnu liečbu – O rok neskôr sa choroba neopakovala

Austrálsky lekár Richard Scolyer použil svoj vlastný výskum na...
Romana
Romana
Volám sa Romana a som redaktorkou pre portál Mysmezeny.sk Medzi moje obľúbené témy patrí história, vzťahy a náboženstvo 🙏

Matku po pôrode jej prvého dieťaťa nazvali „hrozným“ človekom: „Cítila som sa veľmi vinná

Lindsey Marsonová z Pensylvánie mala len dva roky, keď jej diagnostikovali zriedkavú a nevyliečiteľnú poruchu, ktorá ovplyvnila kvalitu jej života. Vtedy si jej rodičia...

Muž ju opustil, dcéra ju začala nenávidieť…a pritom ona bola obeťou

V najnovšom príbehu Adriany Macháčovej Daj mi svoj strach sa hlavná hrdinka po traumatickom zážitku pohrúži do sebaobranného zabúdania. Monika Regentová žije v ilúzii,...

Muž odmietol byť vynechaný z fotografie svojej ženy s Jasonom Momoa a výsledok nemohol byť zábavnejší

Určite ste už počuli o Jasonovi Momoovi, ktorý na seba prvýkrát upozornil ako Jason Ioane v seriáli Baywatch, preslávil sa ako Khal Drogo v...
Verified by MonsterInsights