Funcționează OpenAI pe GPT-5?

Sistemele AI contemporane devin acum competitive pentru oameni la sarcini generale și trebuie să ne întrebăm: ar trebui să lăsăm mașinile să ne inunde canalele de informații cu propagandă și neadevăr? Ar trebui să automatizăm toate sarcinile, inclusiv pe cele îndeplinite? Ar trebui să dezvoltăm minți non-umane care, în cele din urmă, ar putea să ne depășească numeric, să ne depășească și să ne înlocuiască? Ar trebui să riscăm să pierdem controlul asupra civilizației noastre? Astfel de decizii nu trebuie să fie delegate liderilor din domeniul tehnologiei nealeși.

Sistemele AI puternice ar trebui dezvoltate numai după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionate. Această încredere trebuie să fie bine justificată și să crească odată cu amploarea efectelor potențiale ale unui sistem. Declarația recentă a OpenAI cu privire la inteligența generală artificială afirmă că „La un moment dat, poate fi important să obținem o revizuire independentă înainte de a începe să antrenăm sisteme viitoare și pentru cele mai avansate eforturi de a conveni să limiteze rata de creștere a calculatoarelor utilizate pentru crearea de noi sisteme. modele.” Suntem de acord. Acest punct este acum.

Prin urmare, solicităm tuturor laboratoarelor de inteligență artificială să întrerupă imediat, timp de cel puțin 6 luni, instruirea sistemelor de inteligență artificială mai puternice decât GPT-4 . Această pauză ar trebui să fie publică și verificabilă și să includă toți actorii cheie. Dacă o astfel de pauză nu poate fi adoptată rapid, guvernele ar trebui să intervină și să instituie un moratoriu.

Laboratoarele de IA și experții independenți ar trebui să folosească această pauză pentru a dezvolta și implementa în comun un set de protocoale de siguranță partajate pentru proiectarea și dezvoltarea avansată a IA, care sunt auditate și supravegheate riguros de experți externi independenți. Aceste protocoale ar trebui să asigure că sistemele care aderă la acestea sunt sigure dincolo de orice îndoială rezonabilă. Acest lucru nu înseamnă o pauză în dezvoltarea AI în general, ci doar un pas înapoi de la cursa periculoasă la modele din ce în ce mai mari, imprevizibile, cu capacități emergente.

Cercetarea și dezvoltarea AI ar trebui să se reorienteze pe a face sistemele puternice și de ultimă generație de astăzi mai precise, sigure, interpretabile, transparente, robuste, aliniate, demne de încredere și loiale.

În paralel, dezvoltatorii de inteligență artificială trebuie să lucreze cu factorii de decizie pentru a accelera dramatic dezvoltarea unor sisteme robuste de guvernare a inteligenței artificiale. Acestea ar trebui să includă cel puțin: autorități de reglementare noi și capabile dedicate IA; supravegherea și urmărirea sistemelor AI de înaltă capacitate și a unor grupuri mari de capacități de calcul; sisteme de proveniență și de filigranare pentru a ajuta la distingerea reală de cea sintetică și pentru a urmări scurgerile de model; un ecosistem robust de auditare și certificare; răspunderea pentru prejudiciul cauzat de IA; finanțare publică solidă pentru cercetarea tehnică a siguranței AI; și instituții bine dotate pentru a face față perturbărilor economice și politice dramatice (în special ale democrației) pe care le va provoca IA.

Omenirea se poate bucura de un viitor înfloritor cu AI. După ce am reușit să creăm sisteme AI puternice, ne putem bucura acum de o „vară AI” în care culegem roadele, proiectăm aceste sisteme pentru beneficiul clar al tuturor și oferim societății șansa de a se adapta. Societatea a oprit alte tehnologii cu efecte potențial catastrofale asupra societății. O putem face aici. Să ne bucurăm de o vară lungă cu IA, să nu ne grăbim nepregătiți într-o toamnă.”