| | | |
NEWSEXCHANGE SI | Nesreča nas bo doletela! Ustvarjalci umetne inteligence pozivajo k globalnemu sodelovanju, da bi preprečili, da bi ROBOTI UBIJALCI uničili človeštvo ...| | | |
|
| Četrtek, 19.September 2024 ob 17:06:18 |
  |
Skupina vplivnih znanstvenikov na področju umetne inteligence z vsega sveta poziva k mednarodnemu organu, ki bi nadzoroval razvoj umetne inteligence in preprečil morebitne "katastrofalne rezultate", saj tehnologija hitro napreduje.
New York Times poroča, da so se vodilni znanstveniki na področju umetne inteligence iz Združenih držav, Kitajske in drugih držav zbrali, da bi izdali ostro opozorilo o morebitnih tveganjih, ki jih predstavlja hitro napredujoča tehnologija umetne inteligence.
Skupina, ki vključuje pionirje in vplivne osebnosti na tem področju, poziva države, naj ustvarijo globalni sistem nadzora, da bi ublažili ta tveganja in zagotovili varen razvoj umetne inteligence.
Znanstveniki, ki so pomagali postaviti temelje za sodobno umetno inteligenco, so izrazili zaskrbljenost v izjavi, objavljeni v ponedeljek. Opozorili so, da bi lahko tehnologija umetne inteligence v nekaj letih presegla zmožnosti svojih ustvarjalcev in da bi lahko "izguba človeškega nadzora ali zlonamerna uporaba teh sistemov umetne inteligence povzročila katastrofalne posledice za celotno človeštvo."
Poziv k ukrepanju prihaja sredi hitre komercializacije umetne inteligence, zaradi katere se je tehnologija premaknila z obrobja znanosti v glavne aplikacije v pametnih telefonih, avtomobilih in učilnicah. Vlade po vsem svetu se spopadajo z izzivom regulacije in izkoriščanja te zmogljive tehnologije.
Gillian Hadfield, pravna znanstvenica in profesorica računalništva in vlade na univerzi Johns Hopkins, je poudarila pomanjkanje načrta za nadzor sistemov umetne inteligence, če bi ti danes razvijali nevarne zmogljivosti. "Če bomo čez šest mesecev imeli kakšno katastrofo, če bomo ugotovili, da obstajajo modeli, ki se začnejo izboljševati sami od sebe, koga boste poklicali?" je vprašal dr. Hadfield.
Za reševanje tega kritičnega vprašanja je skupina znanstvenikov predlagala ustanovitev organov za varnost umetne inteligence v vsaki državi. Ti organi bi bili odgovorni za registracijo sistemov umetne inteligence znotraj svojih meja in sodelovanje pri dogovoru o nizu rdečih črt in opozorilnih znakov, kot je sposobnost sistema umetne inteligence, da kopira samega sebe ali namerno zavaja svoje ustvarjalce. Sodelovanje bi usklajo mednarodno telo.
Izjavo je podpisal impresiven seznam svetil umetne inteligence, med njimi Joshua Bengio, Andrew Yao in Jeffrey Hinton, vsi dobitniki Turingove nagrade, enakovredne Nobelovi nagradi za računalništvo. Skupina je vključa tudi znanstvenike iz več vodilnih raziskovalnih ustanov za umetno inteligenco na Kitajskem, od katerih jih nekatere financira država in svetujejo vladi.
Zero Point je že poročal, da je Geoffrey Hinton, znan kot "boter umetne inteligence", opozoril, da se izteka čas za ustrezno regulacijo umetne inteligence.
Hinton se ne izogiba osvetlitvi temnejših vidikov in negotovosti v zvezi z umetno inteligenco. Odkrito pravi: "Vstopamo v obdobje velike negotovosti, ko se ukvarjamo s stvarmi, ki jih še nikoli nismo počeli." In običajno, ko se prvič lotiš nečesa povsem novega, se zmotiš. In ne moremo si privoščiti, da bi te stvari naredili narobe.«
Eden najbolj perečih pomislekov, ki jih postavlja Hinton, je avtonomija sistemov umetne inteligence, zlasti njihova potencialna sposobnost pisanja in spreminjanja lastne računalniške kode. To je po njegovih besedah področje, kjer lahko nadzor človeku uide iz rok, posledice takšnega scenarija pa niso povsem predvidljive. Še več, ker sistemi umetne inteligence še naprej absorbirajo informacije iz različnih virov, postajajo vse bolj spretni pri manipulaciji človeškega vedenja in odločitev. Hinton že vnaprej opozarja: "Mislim, da bo čez pet let znal sklepati bolje od nas."
Srečanja, ki jih je organizirala neprofitna raziskovalna skupina Far.AI, so potekala v Benetkah in so služila kot redko prizorišče za sodelovanje kitajskih in zahodnih znanstvenikov sredi napete tehnološke konkurence med Združenimi državami in Kitajsko.
Kljub izzivom, ki jih prinaša nezaupanje med narodoma, so znanstveniki poudarili pomen njunih pogovorov in nujnost sodelovanja. Dr. Bengio je potegnil vzporednice s pogovori med ameriškimi in sovjetskimi znanstveniki v času hladne vojne, ki so pomagali vzpostaviti koordinacijo za preprečitev jedrske katastrofe.
|
 Komentarji 0Trenutno ni komentarja na na ta članek ... ...
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
|
|
|
|
Galerija:
| |
|
|
| | | |
| |
| |
|
| | | |
|
|
|
|
Četrtek, 19.September 2024 ob 17:06:18 
69 ogledov, 
0 komentarjev
