Ce este Doomsday Clock și cum îl influențează AI?

Oamenii de știință au confirmat săptămâna aceasta că Doomsday Clock va rămâne la 90 de secunde până la miezul nopții pentru al doilea an consecutiv.

Doomsday Clock este o metaforă a cât de aproape sunt oamenii de distrugerea lumii și a fost mutat ultima oară mai aproape de miezul nopții – punctul său final simbolic – în 2023, din cauza preocupărilor legate de climă și a războiului din Ucraina.

Buletinul Oamenilor de Știință Atomiști, care stabilește ora în fiecare an, a declarat că va rămâne la 90 de secunde, în ciuda războiului din Gaza, un alt an cel mai fierbinte înregistrat și – interesant – preocupărilor tot mai mari în legătură cu inteligența artificială .

Să aruncăm o privire la exact ce este Doomsday Clock și cum AI îl face să se apropie de anihilare.

Ce este Doomsday Clock?

Dezvoltat pentru prima dată în 1947 de J. Robert Oppenheimer și colegii săi de știință care au dezvoltat bomba atomică, Doomsday Clock descrie cât de aproape este umanitatea de distrugerea totală. A fost creat pentru a pune presiune asupra liderilor globali pentru a se asigura că armele nucleare nu vor mai fi folosite niciodată, în urma efectelor devastatoare ale celui de-al Doilea Război Mondial.

Începând cu șapte minute până la miezul nopții, acționările ceasului s-au mișcat de 25 de ori în total – chiar și s-au retras la 17 minute până la miezul nopții după încheierea Războiului Rece în 1991.

Războiul este motorul cheie din spatele multor calcule ale ceasului. Marți, Buletinul a afirmat că China, Rusia și SUA extinderea și modernizarea armelor nucleare a adăugat „pericolul mereu prezent de război nuclear prin greșeală sau calcul greșit”. În mod similar, războiul din Ucraina a creat, de asemenea, un „risc mereu prezent de escaladare nucleară”.

Cu toate acestea, instrumentele de inteligență artificială au fost, de asemenea, citate drept motiv pentru care ceasul rămâne cel mai aproape de Armaghedon.

Cum influențează AI numărătoarea inversă?

Membrii Buletinului Oamenilor de Știință Atomiști au inclus riscurile create de om, cum ar fi IA, în calculele lor din 2007.

Cu toate acestea, datorită progreselor dramatice și rapide în tehnologia AI generativă, cu chatbot-uri precum ChatGPT de la OpenAI care aparent fac titluri în fiecare două zile, mențiunea sa semnificativă în lista din acest an nu este o surpriză.

Buletinul spunea: „Subliniem o problemă de îngrijorare specială: convergența instrumentelor emergente de inteligență artificială și a tehnologiilor biologice [care] pot împuternici în mod radical indivizii să utilizeze biologia în mod abuziv.”

Afacerile și organizațiile culeg roadele inteligenței artificiale și ale modelelor de limbaj mari, datorită ajutorului lor la creșterea productivității și la minimizarea erorilor. Chiar și industria sănătății vede un efect pozitiv AI cu eficiență sporită în diagnosticare. Deci, ce anume dă motive de îngrijorare oamenilor de știință atomic?

Conform declarației Doomsday Clock :

„Preocuparea este că modelele de limbaj mari le permit persoanelor cărora altfel le lipsesc suficiente cunoștințe să identifice, să dobândească și să desfășoare agenți biologici care ar dăuna unui număr mare de oameni, animale, plante și alte elemente ale mediului.”

Mai mult decât atât, imprevizibilitatea IA generativă, plus potențialul său de a corupe informațiile și de a amplifica dezinformarea sunt toate amenințări la adresa democrației, care, la rândul lor, pot avea un impact puternic asupra modului în care gestionăm riscurile nucleare, pandemiile și schimbările climatice.

Vorbind dintr-un punct de vedere specific tehnologiei, există o scară foarte mare în ceea ce privește impactul AI asupra industriei.

Luați exemplul prost pentru afaceri, dar în cele din urmă inofensiv al chatbot-ului online al DPD, care a fost ușor manipulat pentru a se critica pe sine și compania. Deși nu este devastatoare la scară largă, este o greșeală jenantă care poate însemna pierderi monetare pentru companii.

La celălalt capăt al scalei vine un risc pentru viață. Anul trecut, Tesla a fost nevoită să recheme peste două milioane de vehicule din cauza unei defecțiuni a pilotului automat . Acest lucru s-a datorat unei serii de accidente care au inclus două mașini separate care s-au aruncat în spatele unei mașini de pompieri și a unei mașini de poliție parcate.

Oamenii de știință Atomic au declarat că „Progresele în inteligența artificială și inginerie genetică, de exemplu, au un potențial enorm, dar implică și riscuri considerabile în funcție de modul în care sunt utilizate aceste tehnologii”.

Reglementările AI ar putea ajuta?

Scopul principal al Doomsday Clock este de a crește gradul de conștientizare și, sperăm, de a evidenția problemele globale pentru a declanșa acțiuni în rândul politicienilor, liderilor mondiali și cetățenilor.

Președintele și CEO-ul Buletinului Oamenilor de Știință Atomiști, Rachel Bronson, a explicat: „Există două mesaje cheie în declarația noastră și acestea sunt unul singur: că 90 de secunde până la miezul nopții este profund instabil și nu trebuie să genereze automulțumire și doi: progresul tehnologiei se accelerează. și depășind capacitatea noastră de a le guverna”.

Aceasta înseamnă că „noile tehnologii disruptive” precum AI ar trebui gestionate cu legislația și reglementările adecvate.

În octombrie, președintele american Joe Biden a semnat un ordin executiv privind „IA sigură, sigură și de încredere” care cere protecție „împotriva riscurilor utilizării AI pentru a crea materiale biologice periculoase prin dezvoltarea de noi standarde puternice pentru screeningul sintezei biologice”. Deși nu este obligatoriu din punct de vedere juridic, această mișcare este un pas în direcția corectă.

În mod similar, multe țări din întreaga lume recunosc potențialul AI de a face rău și pun în aplicare reglementări de atenuare. Aceasta include un cadru de reglementare propus de către Uniunea Europeană, o declarație internațională pentru abordarea riscurilor IA și formarea unui nou organism consultativ al ONU.

Pentru a vă asigura că utilizați inteligența artificială în cel mai eficient și sigur mod personal, asigurați-vă că înțelegeți pe deplin limitările și riscurile fiecărui instrument de IA generativă cu care lucrați. Acest lucru vă va permite să controlați mai bine utilizarea acestora și, sperăm, să vă ajutați să țineți la distanță acel ceas.