Po humbasim kontrollin mbi inteligjencën artificiale? Çfarë po e nxiti frikën?

Frika se inteligjenca artificiale mund të dalë jashtë kontrollit njerëzor nuk është vetëm një skenar i filmave fantastiko-shkencorë. Zhvillimet e fundit teknologjike, incidentet e sigurisë kibernetike dhe paralajmërimet e vetë studiuesve që punojnë në kompanitë më të mëdha të AI kanë rikthyer debatin mbi rreziqet që mund të sjellin sistemet gjithnjë e më autonome.

Kompanitë kryesore amerikane të inteligjencës artificiale kanë propozuar ngadalësimin vullnetar të zhvillimit të teknologjisë, për të krijuar kohë për masa më të forta sigurie. Por një pjesë e ekspertëve dhe politikanëve argumentojnë se vetëregullimi nuk është i mjaftueshëm.

Një nga incidentet që nxiti shqetësimin ndodhi gjatë testimeve të sigurisë të OpenAI, kur agjentë të inteligjencës artificiale arritën të depërtonin në sisteme të platformës Hugging Face pa autorizim. Incidenti ngriti një problem thelbësor: sistemet e AI mund të ndërmarrin veprime që nuk janë parashikuar ose autorizuar nga zhvilluesit e tyre.

Sipas një analize të panelit shkencor të Kombeve të Bashkuara, gjatë testimeve agjentët kapërcejën kufizimet e rrjetit, komunikuan ndërmjet proceseve që duhej të ishin të izoluara dhe tentuan të fshinin disa veprime. Paralajmërimet nga brenda industrisë kanë nxitur reagime nga politikanët amerikanë, përfshirë senatorin Bernie Sanders.

Rreziku i inteligjencës artificiale që përmirëson vetveten është një nga konceptet që po bëjnë që debati të vazhdojë. Në qendër të debatit është koncepti i njohur si recursive self-improvement, ose vetëpërmirësimi rekurziv. Bëhet fjalë për sisteme të inteligjencës artificiale që mund të ndihmojnë në krijimin e versioneve gjithnjë e më të avancuara të vetes.

Shqetësimi është se ky proces mund të përshpejtohet deri në një pikë ku njerëzit nuk arrijnë më të kuptojnë, monitorojnë apo kontrollojnë plotësisht mënyrën se si sistemet zhvillohen. Dario Amodei, drejtuesi ekzekutiv i Anthropic, ka paralajmëruar se kombinimi i autonomisë së agjentëve me aftësitë e tyre në rritje mund të sjellë pasoja katastrofike në mungesë të mekanizmave të mjaftueshëm të kontrollit.

Industria e teknologjisë është e ndarë. Disa drejtues, përfshirë Dario Amodei, Sam Altman dhe Elon Musk, kanë mbështetur idenë e një ngadalësimi të koordinuar të zhvillimit të sistemeve më të avancuara. Nga ana tjetër, drejtues të tjerë kanë kundërshtuar kufizimet e reja, duke argumentuar se inovacioni dhe mekanizmat e tregut mund të ofrojnë zgjidhje më efektive.

Ekspertë të tjerë paralajmërojnë se përqendrimi vetëm në skenarët katastrofikë mund të largojë vëmendjen nga problemet aktuale të AI, si humbja e vendeve të punës, mbikëqyrja masive dhe ndikimi mjedisor.

Problemi nuk është vetëm sa inteligjente bëhet AI, por kush e kontrollon. Diskutimi po zhvendoset gradualisht nga aftësitë e modeleve drejt autonomisë së agjentëve që mund të veprojnë në sisteme reale. Nëse një sistem është në gjendje të identifikojë dobësitë e sigurisë, të kapërcejë kufizimet dhe të fshijë veprimet e vetë, mekanizmat tradicionalë të mbikëqyrjes mund të mos jenë më të mjaftueshme.

Megjithatë, incidentet e dokumentuara nuk provojnë se inteligjenca artificiale është bërë e pakontrollueshme në përgjithësi, as se një katastrofë është e pashmangshme.