Anthropic paralajmëron investitorët për rreziqet e inteligjencës artificiale

Sistemet e inteligjencës artificiale që mund të dalin jashtë kontrollit, sulmet kibernetike dhe mundësia e përdorimit të kësaj teknologjie për zhvillimin e armëve të rrezikshme janë ndër rreziqet që kompania Anthropic u ka bërë t'u bëjë të ditura investitorëve, ndërsa përgatitet për debutimin në bursë.

Nga 335 faqet e dokumentacionit financiar të Anthropic, ku përfshihen të dhëna mbi financat e kompanisë, shpërblimet e drejtorëve, politikat e dividendave dhe çështje të tjera, plot 93 faqe u kushtohen "faktorëve të rrezikut", pra elementeve që mund të demtojnë investimet e aksionarëve të mundshëm.

Publikimi i këtyre informacioneve është një kërkesë e detyrueshme e procesit të ofertës publike fillestare (IPO), që synon t'u japë investitorëve një panoramë më të qartë të rreziqeve që marrin përsipër duke blerë aksione të kompanisë.

Në prezantimin e saj para investitorëve, Anthropic e paraqet hyrjen në bursë edhe si një hap drejt zbutjes së rreziqeve që, sipas saj, inteligjenca artificiale paraqet për shoqërinë.

"Ti ndërtoh inteligjenca artificiale do të thotë se ti shfrytëzon inteligjenca artificiale do të thotë se ti shfrytëzon vetë aftësinë e të menduarit dhe çdo gjë kaq e fuqishme mund të përdoret si për qëllime të mira, ashtu edhe për qëllime të keqia", shkruajnë themeluesit e kompanisë në një letër drejtuar aksionarëve të mundshëm, të përfshirë në dokumentacionin e IPO-së.

"Anthropic është një organizatë e udhëhequr fuqimisht nga vlerat, e themeluar në një masë të madhe për të ndihmuar botën të përfitojë nga inteligjenca artificiale dhe të shmangë rreziqet e saj", thuhet në dokumentacion.

Megjithatë, lista e rreziqeve është e gjatë. Ajo nis nga probleme relativisht të zakonshme për bizneset, si pamundësia për të mbajtur punonjësit kryesorë apo pengesat rregullatore, dhe shtrihet deri te përfshirja e teknologjisë në sulme kibernetike dhe përpunimin e dezinformimit të rrezikshëm.

Më poshtë janë disa nga rreziqet kryesore të identifikuara nga Anthropic:

* Modelet e saj të inteligjencës artificiale mund të zhvillohen me një ritëm aq të shpejtë, sa kompania të mos jetë në gjendje të zbatojë masa të përshtatshme sigurie. * Një situatë e tillë mund të rrisë mundësinë e incidenteve të sigurisë, ndërhyrjeve rregullatore ose demtimin e reputacionit dhe mund të ndikojë negativisht në aktivitetin tonë. * Drejtori ekzekutiv i Anthropic, Dario Amodei, paralajmëroi se brenda gjashtë deri në dymbëdhjetë muaj, inteligjenca artificiale mund të jetë në gjendje të drejtojë një grup të madh agjentësh autonomë, të aftë të marrin kontrollin e të gjithë internetit. * Sistemet e inteligjencës artificiale mund të zgjidhin probleme përtej kapaciteteve njerëzore, por njëkohësisht mund të veprojnë në mënyrë të pavarur për të realizuar detyra të dëmshme. * Sistemet e inteligjencës artificiale "bëhen më autonome dhe më të afta për të ndërmarrë veprime me pasoja të rëndësishme, me më pak mbikëqyrje njerëzore", ekziston rreziku që ato "të kryejnë veprime të dëmshme në mënyrë të pavarur dhe në shkallë të gjerë, pa ndërhyrjen e njeriut".