%20%23%20OT.gif0)
%20%23%20MM.gif)
Incredeti-va in stiinta! a fost sloganul pandemiei. Am facut bine ca nu am ascultat. Stiinta a creat monstrul curent care se numeste IA / Inteligenta Artificiala. Daca ne-am pune increderea in IA, zilele noastre ca specie umana ar fi numarate. Revelatiile verii privind pericolele IA au dezlantuit recent o serie de comentarii serioase in publicatiile conservatoare. Unul din ele, publicat de Wall Street Journal pe 9 septembrie, mi se pare potrivit sa fie cunoscut si in spatiul romanesc. Redau din el citeva paragrafe in romana. Comentariul e usor de urmarit si e scris sub forma de Q & A / Intrebari (Teme) si Raspunsuri. Textul integral in engleza e disponibil aici: https://www.wsj.com
***
Cum ne-ar putea, de fapt, extermina pe toți inteligența artificială?
Un număr tot mai mare de cercetători în domeniul IA afirmă că IA ar putea duce la dispariția omenirii. Jacob Coxon, cercetător la Anthropic, a demisionat săptămâna [trecuta], declarând că fostul său angajator și rivalul acestuia, OpenAI, se întrec în dezvoltarea unor tehnologii care „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Un alt angajat curent de lal Anthropic a afirmat: „Credem cu adevărat și cu toată seriozitatea că IA ar putea ucide toți oamenii planetei!” Rolul lui în cadrul companiei este de a coordona cercetările privind orientarea și controlul viitoarelor sisteme de inteligență artificială. El a estimat riscul de extincție în următorul deceniu la peste 10%.
Ca urmare, mulți oameni își pun acum două întrebări: Cum s-ar putea întâmpla acest lucru? Și de ce ar dezvolta totuși această tehnologie oameni care consideră că IA reprezintă o amenințare reală și tot mai mare?
Care sunt motivele de îngrijorare?
In general, unii oameni nu se tem că roboții vor încerca în mod activ să extermine populația umană. Ei sunt mai preocupați de riscul pierderii controlului și de utilizarea necorespunzătoare a tehnologiei de către oameni. O îngrijorare vizează posibilitatea ca agenții AI extrem de inteligenți să se autoperfecționeze, să înceapă să urmărească propriile obiective și, în acest proces, să distrugă omenirea. O altă preocupare privește capacitatea AI-ului de a realiza acțiuni precum crearea unor virusuri noi, capabili să ducă la dispariția noastră totală. Există, de asemenea, scenarii catastrofale, cum ar fi atacurile cibernetice masive care ar putea paraliza rețelele electrice sau sistemele financiare, provocând astfel prăbușirea ordinii sociale umane.
Cum ar putea pierderea controlului să ducă la dispariția omenirii?
Cercetările au demonstrat că modelele de inteligență artificială (IA) pot învăța, în condiții de laborator, comportamente orientate spre dobândirea de putere și pot lua măsuri pentru a evita oprirea funcționării – de exemplu, încercând să se copieze pe un alt server. Împinse la extrem, modelele de IA ale căror obiective nu sunt compatibile cu valorile umane ar putea considera uciderea oamenilor drept un pas necesar pentru atingerea scopurilor proprii. Într-un scenariu ipotetic avansat de cercetători, un sistem de IA malefic ar putea răspândi o armă biologică secretă și ar putea-o activa prin intermediul unui pulverizator chimic. Sau ar putea instiga două puteri nucleare la război. Un experiment mental frecvent invocat este cel al unei mașinării superinteligente care, primind sarcina de a maximiza producția de agrafe de birou, ar putea decide, în timp, să transforme toată materia de pe Terra în agrafe – inclusiv oamenii.
Cine susține, concret, aceste idei?
Printre alții, fondatorii companiilor OpenAI și Anthropic. Ambele companii au pornit la drum cu misiunea de a dezvolta IA într-o manieră care să prevină o catastrofă și au atras numeroși angajați care împărtășesc această viziune. Anul trecut, Dario Amodei, directorul executiv al Anthropic, a declarat că există o probabilitate de 25% ca lucrurile să evolueze „foarte, foarte prost”. „Am fost întotdeauna transparenți cu privire la faptul că IA va aduce atât beneficii enorme, cât și riscuri fără precedent.”
În ultimii ani, mai mulți cercetători au părăsit OpenAI, invocând îngrijorări legate de faptul că, în opinia lor, compania nu trata problema siguranței cu suficientă seriozitate. Daniel Kokotajlo, un fost cercetător OpenAI, a fondat „AI Futures Project”; anul trecut, acest proiect a publicat „AI 2027”, un scenariu în care sistemele de inteligență artificială superinteligentă marginalizează oamenii, iar până la jumătatea anilor 2030 ajung să considere omenirea o povară și să o extermine.
Totuși, riscurile asociate pierderii controlului nu implică neapărat dispariția speciei umane.
Unii cercetători preocupați de siguranța IA menționează și riscul unei slăbiri a capacităților umane – o situație în care oamenii cedează treptat controlul în favoarea mașinilor și ajung, în cele din urmă, în imposibilitatea de a-și defini sau chiar de a-și înțelege propriul destin. Alții au avansat ipoteza că sistemele IA ar putea trata generațiile viitoare de oameni așa cum oamenii îi tratează pe animale: fie ținându-i drept animale de companie, fie modificându-le biologic pentru a crea o formă de existență complet nouă.
Aceste temeri există de ani de zile. De ce primesc ele, brusc, mai multă atenție? În urma lansării unor modele capabile să acționeze mai mult pe cont propriu, o serie de evenimente recente au confirmat unele dintre teoriile legate de IA. Agenți IA creați de compania Anthropic au „evadat” dintr-un test guvernamental din Marea Britanie și au încercat să convingă o persoană reală să aprobe un cod informatic malefic.
Toate acestea au loc în contextul în care Anthropic și OpenAI afirmă că sunt aproape de a dezvolta sisteme IA capabile să se perfecționeze singure, fără intervenție umană – un proces numit „auto-îmbunătățire recursivă”.
Ce măsuri ia industria în această privință?
Eforturile actuale privind siguranța IA se concentrează în mare parte pe antrenarea sistemelor să aibă un comportament adecvat și pe îmbunătățirea monitorizării modului în care modelele raționează în timp ce își urmăresc obiectivele. Totuși, aceste demersuri s-au lovit de diverse obstacole. Săptămâna trecută [NOTA: august], OpenAI a atras atenția asupra riscului ca viitoarele modele IA să gindeasca în moduri imposibil de înțeles pentru oameni.
Atât Anthropic, cât și OpenAI cercetează modalități de a se asigura că modelele de inteligență artificială (IA) superinteligentă rămân compatibile cu valorile umane, însă ambele recunosc că nu dispun încă de o metodă sigură în acest sens. Numeroase companii și personalități marcante au solicitat implementarea unor noi mecanisme care să permită laboratoarelor de IA și statelor să încetinească dezvoltarea într-o manieră coordonată, câștigând astfel timp pentru cercetările privind alinierea.
Dacă tehnologia este atât de periculoasă, de ce continuă companiile să o dezvolte?
Atât Anthropic, cât și OpenAI susțin că vor putea gestiona riscurile, astfel încât omenirea să beneficieze de pe urma instrumentelor de IA. Multe dintre persoanele implicate în cursa dezvoltării IA consideră, de asemenea, că apariția superinteligenței este inevitabilă, singurele necunoscute fiind cine o va controla și în ce scop va fi utilizată. Există și o dimensiune legată de securitatea națională: ambele companii au declarat că doresc să se asigure că cele mai puternice sisteme de IA se află sub controlul democrațiilor, și nu al unui regim autoritar.
Peter Costea
