Anthropic: Ka pasur tentativa për ta përdorur IA për armë biologjike

Kriminelë, grupe të mbështetura nga shteti, shitës të softuerëve spiunë, shkencëtarë dhe propagandues kanë tentuar të përdorin modelet e fuqishme të inteligjencës artificiale të kompanisë Anthropic për të projektuar raketa dhe bomba, për të krijuar patogjenë vdekjeprurës dhe për të mbikëqyrur disidentët. Sipas një raporti mbi kërcënimet, të publikuar nga vetë kompania, rastet janë shembuj të aktiviteteve kërcënuese më të spikatura dhe më të reja të identifikuara deri më tani. 

Në veçanti, kompania përshkroi pesë raste studimore të shkencëtarëve që përdornin modelet e saj të inteligjencës artificiale në kërkime biologjike. Në këto shembuj, Anthropic deklaroi se studiuesit anashkaluan masat mbrojtëse të krijuara për të penguar përdoruesit të hyjnë në "zona të pambrojtura”, si dhe u përpoqën të fshihnin qëllimin e punës së tyre.

"Keqpërdorimi biologjik është një nga rreziqet më serioze që lidhen me modelet më të avancuara të inteligjencës artificiale," thuhet në raport. "Pa masat e duhura mbrojtëse, aftësi të tilla mund të kenë pasoja katastrofike."

Anthropic njoftoi se i kishte bllokuar këto llogari. Kompania nuk i bëri publike emrat e institucioneve kërkimore apo vendet ku ndodhën keqpërdorimet, duke deklaruar se nuk ishte e sigurt për qëllimet e studiuesve.

Anthropic ofroi dhjetëra shembuj të tjerë të aktorëve kërcënues që përdornin modelet e saj të inteligjencës artificiale. Këtu përfshiheshin operacione kibernetike, si spiunazhi rus dhe sulmet kibernetike të shpejta e agresive ("smash-and-grab"); operacione mbikëqyrjeje, përfshirë një program me bazë në Kinë që kishte në shënjestër ujgurët në Siri dhe një tjetër që vinte në shënjestër disidentët e brendshëm; fushata propagande në Rusi, Malajzi, Iran dhe Bangladesh; si dhe përdorimi i modelit të saj të inteligjencës artificiale, Claude, në Jemen, Kinë dhe Rusi për të zhvilluar softuer për armë konvencionale, përfshirë armë zjarri, raketa, dronë të armatosur, bomba dhe municione të tjera.

Në një nga shembujt e kërkimit biologjik, Anthropic identifikoi një shkencëtar që përdorte Claude për të punuar mbi një aplikim për grant të mbështetur nga shteti, me qëllim studimin e virusit chikungunya. Ky virus shkakton një sëmundje që transmetohet nga mushkonjat – e ngjashme me malarien – dhe mund të shkaktojë dhimbje të forta, ethe e simptoma të tjera dobësuese për muaj të tërë.

Kërkime të tilla mund të përdoren për të zhvilluar vaksina, por gjithashtu mund të shfrytëzohen për krijimin e armëve biologjike. Anthropic i tha gazetës “Neë York Times” se ky rast ishte veçanërisht shqetësues, pasi kompania kishte konstatuar se studimi planifikohej të kryhej në një institut kërkimor ushtarak. Raporti vjen vetëm dy ditë pasi një punonjës i Anthropic, Jacob Coxon, shkaktoi bujë të madhe mediatike me dorëheqjen e tij. Ai deklaroi se u largua nga kompania sepse ajo nuk po vepronte në mënyrë të përgjegjshme gjatë krijimit të teknologjisë së saj. Coxon tha se Anthropic dhe rivali i saj, OpenAI, po "garonin drejt një super-inteligjence që vetëpërmirësohet", e cila do të shkaktonte zhdukjen e njerëzimit deri në vitin 2030. Punonjës aktualë të Anthropic shprehën publikisht mbështetjen e tyre për qëndrimin e tij.

Shumë ekspertë të inteligjencës artificiale thonë se kërcënimet e botës reale – si ato të përshkruara në raportin e Anthropic – janë shumë më shqetësuese për tre vitet e ardhshme sesa një apokalips i shkaktuar nga një inteligjencë e plotfuqishme.