Drejtuesit e disa prej kompanive më të mëdha të inteligjencës artificiale paralajmëruan për nevojën e një vigjilence më të madhe ndaj zhvillimit të teknologjisë, gjatë një seance të posaçme të Këshillit të Sigurimit të OKB-së të zhvilluar të mërkurën në Nju Jork.
Në qendër të diskutimeve ishte ritmi i shpejtë i përparimit të sistemeve të inteligjencës artificiale dhe rreziku që ato të bëhen gjithnjë e më autonome, duke tejkaluar aftësinë e institucioneve për t’i kontrolluar.
Seanca u iniciua nga Franca, në një kohë kur shqetësimet ndërkombëtare për sigurinë e IA-së janë rritur.
CEO i OpenAI, Sam Altman, tha se momenti aktual kërkon “kujdes të madh”, duke paralajmëruar se ndërsa procesi i zhvillimit të IA-së bëhet më i automatizuar, ritmi i përmirësimit të teknologjisë mund të përshpejtohet ndjeshëm.
Altman u shpreh se ekziston rreziku që njerëzimi të humbasë kontrollin mbi të ardhmen e inteligjencës artificiale, por paralajmëroi gjithashtu kundër një qasjeje që e sheh teknologjinë vetëm përmes skenarëve katastrofikë.
“Ne nuk duam të biem në kurthin e optimizmit të verbër, por gjithashtu nuk mund t’i dorëzohemi fundit të botës”, tha ai, duke bërë thirrje për gjetjen e një rruge të mesme dhe për bashkëpunim ndërkombëtar.
Sipas Altman, vendimet më të rëndësishme për IA-në nuk duhet të merren vetëm nga kompanitë teknologjike, por duhet të përcaktohen përmes proceseve demokratike dhe nga qeveritë që janë përgjegjëse ndaj qytetarëve.
Në të njëjtën seancë, CEO i Anthropic, Dario Amodei, i cili mori pjesë përmes videokonferencës, u zotua se kompania do të ngadalësojë ritmin e zhvillimit të inteligjencës artificiale aq sa të jetë e nevojshme për të garantuar sigurinë e modeleve të reja.
“Do të ngadalësojmë sa të jetë e nevojshme” për të siguruar që çdo model i ri “të jetë vërtet i sigurt”, deklaroi Amodei.
Ky është një angazhim i njëanshëm i Anthropic për ngadalësimin e zhvillimit, pasi thirrjet e mëparshme për një ngadalësim të koordinuar mes kompanive të mëdha të IA-së nuk kishin prodhuar ende një marrëveshje të përbashkët.
Amodei paralajmëroi gjithashtu se, nëse menaxhohet keq, inteligjenca artificiale mund të përbëjë rrezik për njerëzimin dhe kërkoi marrëveshje ndërkombëtare, përfshirë standarde të përbashkëta për testimin e modeleve të reja dhe kufizime për përdorimin e IA-së në zhvillimin e armëve biologjike.
Në takim mori pjesë edhe drejtuesi i Hugging Face, Clément Delangue, ndërsa diskutimet u përqendruan te nevoja për standarde ndërkombëtare dhe mbikëqyrje të teknologjisë.
Shqetësimet janë shtuar pas një serie incidentesh të raportuara gjatë muajve të fundit, ku modele të avancuara të IA-së janë sjellë në mënyra të paparashikuara nga krijuesit e tyre.
Një prej rasteve të përmendura lidhet me agjentë të OpenAI-së, të cilët u përfshinë në një incident hakerimi ndaj platformës Hugging Face.
Debati në OKB vjen në një periudhë kur kompanitë e teknologjisë, qeveritë dhe ekspertët po diskutojnë mënyrën se si mund të vendosen rregulla të përbashkëta për një teknologji që po zhvillohet me ritëm shumë të shpejtë.
Altman dhe Amodei kërkuan që zhvillimi i IA-së të shoqërohet me mekanizma sigurie dhe bashkëpunim ndërkombëtar.
