Ce trebuie să știți despre super AI Q*
Avertismentul privind o evoluție a inteligenței artificiale care ar putea pune în pericol viața oamenilor ar fi jucat un rol important în demiterea lui Sam Altman din funcția de director al furnizorului de chatGPT OpenAI. Ce se ascunde în spatele presupusei superinteligențe Q*?
Până în urmă cu câteva zile, așa-zisa superinteligență era aproape o himeră. Mulți oameni erau uimiți de ceea ce inteligența artificială este deja capabilă să facă și de viteza cu care dezvoltatorii de software lansează programe noi și mai bune. Cu toate acestea, chiar și mulți experți nu-și puteau imagina că inteligența artificială va fi mai inteligentă decât oamenii, cel puțin nu încă. Potrivit multor experți, ar mai fi nevoie de ani pentru a dezvolta o superinteligență. Dar acum există speculații conform cărora s-ar putea ca un progres important să fi fost deja realizat.
Motivul este noul proiect al inventatorului ChatGPT, OpenAI, numit Q* ("Q-Star"). Se presupune că modelul ar fi capabil să rezolve în mod independent probleme matematice pe care nu le cunoștea înainte - experții consideră că aceasta ar fi o piatră de hotar în direcția "inteligenței generale artificiale", sau AGI pe scurt, sau cunoscută colocvial ca superinteligență.
După cum au relatat agenția de știri Reuters și revista "The Information", Q* ar fi jucat, de asemenea, un rol în demiterea directorului general, acum repus în funcție, și a cofondatorului OpenAI, Sam Altman. Potrivit celor două surse, o versiune de test a modelului, care circula probabil în cadrul OpenAI, a alarmat experții în securitate. O scrisoare internă adresată personalului ar fi avertizat că dezvoltarea lui Q* ar putea reprezenta o "amenințare la adresa umanității".
"Nimeni nu știe exact ce este"
Dar ce poate face programul care a declanșat un asemenea val de teamă în cadrul companiei de software? "Nimeni nu știe exact ce este", spune Damian Borth, directorul academic al programului de doctorat în informatică de la Universitatea din St. Gallen. "Nu există nicio postare pe blog sau nicio lucrare care să fi fost publicată. Există doar conjecturi și acesta este lucrul interesant". La fel ca mulți alții din comunitate, el suspectează că "Q" din nume este o referire la așa-numitul Q-learning. Acesta este un algoritm din învățarea prin întărire, o metodă de învățare automată. Mai simplu spus, programele interacționează cu mediul înconjurător, iau decizii și primesc o recompensă pentru o acțiune pozitivă. Acest lucru îl încurajează (întărire) și efectuează acțiunea mai des, și viceversa pentru acțiunile negative.
Cu toate acestea, alte persoane din comunitatea online OpenAI suspectează că în spatele numelui de cod al proiectului se află informatica cuantică. Calculatoarele cuantice sunt extrem de puternice și pot rezolva probleme complexe specifice cu multe variabile mai rapid decât calculatoarele convenționale. Cu toate acestea, Borth crede că acest lucru este puțin probabil. "OpenAI nu a făcut prea multe în acest domeniu, ci s-a concentrat în mod clar pe GPU, adică pe procesoarele grafice", spune el. "În învățarea prin întărire, pe de altă parte, OpenAI a fost întotdeauna foarte puternică. Alături de IA generativă, care include ChatGPT, acesta este unul dintre pilonii centrali."
În spatele asteriscului din Q*, comunitatea suspectează algoritmul "A*", care poate determina cea mai scurtă cale între două noduri sau puncte. Pentru a face acest lucru, acesta nu selectează orbește următorul nod disponibil, ci ia în considerare informații suplimentare pentru a accelera căutarea.
Utilizatorii își exprimă în mod deschis scepticismul
Deși până în prezent nu există aproape nicio informație fiabilă despre Q*, mulți membri ai comunității declară deja că noul model de inteligență artificială este "cea mai mare descoperire a civilizației umane", o "revoluție" și un sistem "revoluționar". Cuvinte mari pentru faptul că, potrivit Reuters și "The Information", Q* poate rezolva doar probleme de matematică la nivel de școală primară.
De aceea, unii utilizatori sunt sceptici în mod deschis: "Ca cineva care a făcut multe cercetări în domeniul inteligenței artificiale, pot spune că este foarte ușor să crezi că s-a realizat o descoperire", scrie unul dintre ei. Un altul scrie că "inteligența umană sau supraumană" are nevoie de o "arhitectură diferită". "Q* este o mișcare în această direcție, dar nu este deloc clar dacă este "asta"", scrie un utilizator de la OpenAI.
De fapt, se pare că ceea ce este special la Q* este faptul că poate rezolva sarcini matematice în mod independent. "Din câte știm până acum, este pentru prima dată când IA reușește să atingă genul de performanță intelectuală necesară pentru matematică", spune Borth. "Așadar, mașinăria nu doar papagalicește, așa cum spun scepticii de la ChatGPT, ci se presupune că Q* are capacitatea de a trage concluzii logice." Cu toate acestea, nu se poate spune încă dacă acesta este, de asemenea, un pas decisiv către AGI.
"În primul rând, definiția AGI nu este pe deplin clară. Este o mașină care este conștientă de ea însăși, care lucrează împotriva oamenilor sau care pur și simplu generalizează mai multe sarcini?", spune Borth. "Pe de altă parte, nu cred că AGI este necesară pentru a fi periculoasă pentru oameni. În funcție de modul în care gestionăm sistemele noastre actuale, acest lucru s-ar putea întâmpla deja."
Altman este considerată imaginea boom-ului AI
Neliniștea provine și din faptul că însăși compania ar fi avertizat în acest sens. Experții în securitate ar fi fost deosebit de alarmați de ritmul de dezvoltare, relatează The Information.
Altman, care este considerat chipul boom-ului IA și despre care se spune că ar fi avut ca obiectiv de la început să învețe computerele să învețe în mod independent, a comentat potențialele riscuri ale IA în cadrul unei audieri în Senatul SUA în acest an: "Cele mai mari temeri ale mele sunt că provocăm daune semnificative tehnologiei și industriei. [...] Cred că, dacă această tehnologie merge prost, poate merge foarte prost. Și vrem să fim vocali în legătură cu acest lucru", a declarat Altman, care acum este din nou CEO al OpenAI după un schimb de replici fără precedent.
Consiliul de administrație o demisese inițial pe Altman în urmă cu aproape două săptămâni, fără a oferi motive, și numise de două ori un CEO interimar. Cu toate acestea, miercurea trecută, presiunea din partea investitorului major Microsoft a devenit prea mare și Altman a revenit la postul său. În același timp, a fost numit un nou consiliu de administrație, din care face parte și fostul secretar al Trezoreriei americane Larry Summers. Potrivit lui Sarah Kreps, director al Tech Policy Institute din Washington, noul consiliu de administrație susține viziunea lui Altman de a accelera dezvoltarea inteligenței artificiale, luând, în același timp, măsuri de siguranță.
Acest articol a apărut pentru prima dată pe Capital.de.
Sursa: www.ntv.de