Spolu s rozvojom umelej inteligencie sa vo verejnej a vedeckej diskusii čoraz častejšie objavujú aj obavy z možných rizík.
Zatiaľ čo niektorí výskumníci považujú umelú inteligenciu len za užitočný nástroj, iní vydávajú alarmujúce varovania pred možnými katastrofickými dôsledkami. Jedno z takýchto varovaní pochádza od výskumníka Romana Jampolského, ktorý tvrdí, že AI má 99,9 % šancu zničiť ľudstvo v nasledujúcich 100 rokoch.
Alarmujúce predpovede a štatistiky
PodcasterLex Fridman vo svojej relácii viedol rozhovor s niekoľkými odborníkmi na umelú inteligenciu , v ktorom odhalil, že odhady celkového rizika, že umelá inteligencia zničí ľudstvo, sa pohybujú od 1 do 20 %.
Nedávny prieskum medzi 2700 výskumníkmi v oblasti umelej inteligencie ukázal, že pravdepodobnosť, že umelá inteligencia povedie k vyhynutiu ľudstva, je 5 %. Fridman zdôrazňuje význam dialógu s odborníkmi, aby sme lepšie pochopili potenciálne riziká.
Spomedzi hostíFridmanovho podcastu vykreslil najpesimistickejšiu víziu budúcnosti Roman Jampolskij – podľa neho existuje 99,9 % šanca, že AI vyhladí ľudstvo v nasledujúcich 100 rokoch. Riziko, ako vysvetlil, spočíva najmä v schopnosti ľudí vytvoriť vysoko komplexný a bezchybný softvér, čo považuje za nepravdepodobné.
Technológie umelej inteligencie, ktoré sú dnes k dispozícii, dokážu vykonávať špecifické úlohy, ako napríklad rozpoznávanie obrazu alebo preklad.
Týmto systémom chýba všeobecná inteligencia alebo schopnosť autonómneho rozhodovania, ktoré by mohli viesť ku katastrofálnym výsledkom. Všeobecná umelá inteligencia schopná chápať a uplatňovať inteligenciu podobným spôsobom ako človek je stále nereálnym cieľom vzhľadom na technické problémy.
Aké sú potenciálne riziká?
Nevhodné používanie technológie
Bezprostredné riziko spočíva v tom, že ľudia by mohli zneužiť umelú inteligenciu na vytvorenie autonómnych zbraní, uskutočnenie kybernetických útokov alebo manipuláciu s informáciami a ekonomikami, čo by spôsobilo značné škody a globálnu nestabilitu.
Problém správnej kontroly
Ak bude vyvinutá všeobecná umelá inteligencia, bude nevyhnutné zabezpečiť, aby konala v súlade s ľudskými hodnotami a nesledovala ciele škodlivé pre ľudstvo.
Nezamýšľané dôsledky
Ide o možnosť, že umelá inteligencia, ktorej úlohou je optimalizovať daný cieľ, môže na jeho dosiahnutie prijať extrémne opatrenia bez toho, aby zohľadnila vedľajšie účinky.
Čo si o tom všetkom myslia odborníci?
Názory odborníkov na umelú inteligenciu sa značne líšia, pričom existujú optimistické aj pesimistické predpovede. Niektorí sa domnievajú, že pri starostlivom vývoji, regulácii a etických aspektoch môže byť AI užitočná a jej riziká zvládnuteľné. To by si však vyžadovalo transparentnosť a medzinárodnú spoluprácu.
Iní odborníci varujú, že riziká sú príliš vysoké. Významné osobnosti, ako napríklad Stephen Hawking a Elon Musk, vyjadrili obavy z rizík, ktoré predstavuje umelá inteligencia, a vyzvali na vytvorenie pevného súboru pravidiel.
Výskum bezpečnosti umelej inteligencie
Cieľom výskumu bezpečnosti umelej inteligencie je vyvinúť metódy, ktoré zabezpečia, aby boli systémy umelej inteligencie spoľahlivé, overiteľné a v súlade s ľudskými hodnotami.
Vypracovanie etických usmernení a noriem pre vývoj a používanie umelej inteligencie môže pomôcť zmierniť riziká. Tie zahŕňajú zásady, ako sú spravodlivosť, zodpovednosť a transparentnosť.
Vlády a medzinárodné organizácie čoraz viac uznávajú potrebu regulácie na riešenie rizík spojených s UI. Patria sem politiky na predchádzanie zneužitiu, zaistenie bezpečnosti a podporu prospešného využívania UI.
Hoci riziká, ktoré predstavuje UI, nemožno zanedbávať a treba ich brať veľmi vážne, proaktívne opatrenia v oblasti výskumu a regulácie môžu tieto riziká znížiť. Táto technológia môže byť mimoriadne užitočná, ale len vďaka koordinovanému a zodpovednému prístupu môžeme dúfať, že využijeme jej výhody bez ohrozenia budúcnosti ľudstva.
