Ce este Shadow AI? Cea mai recentă amenințare de securitate de la Enterprise IT

Creșterea inteligenței artificiale din ultimii câțiva ani a zguduit întreaga industrie tehnologică, iar industria de securitate cibernetică a întreprinderilor nu face excepție: se confruntă brusc cu IA din umbră.

Termenul „Shadow AI” se referă la orice utilizare neautorizată a AI în cadrul unei organizații. Deoarece departamentul IT nu știe despre asta, nu au nicio modalitate de a urmări sau controla utilizarea AI.

Acest lucru lasă compania deschisă la potențialele exploatări sau alte probleme. Iată de ce IA din umbră ar putea fi o problemă în creștere și ce poate face compania dvs. în acest sens.

Ce este Shadow AI?

Shadow AI descrie angajații care folosesc AI pentru a-i ajuta să realizeze sarcini fără cunoștințele companiei sau fără acordul. Când angajații nu explică această utilizare companiei lor, compania respectivă nu este conștientă de utilizarea umbră a AI care are loc în rândurile sale. Ia-l? Pentru că utilizarea AI are loc... în umbră.

Sarcinile pot fi realizate mai repede, dar fără vizibilitate și linii directoare privind utilizarea AI, este imposibil să controlezi pe deplin rezultatele. Și pentru orice manager de afaceri, această lipsă de control este un steag roșu pentru succesul continuu al afacerii.

Există o mulțime de dovezi care sugerează că IA din umbră este deja o mare problemă în multe industrii, chiar dacă încă nu a dus la nicio eșec catastrofal de securitate. Cel puțin, nimic despre care am auzit: la urma urmei, o minoritate considerabilă de companii de tehnologie nu reușesc să raporteze hackurile după fapt.

Iată un fapt suplimentar important care oferă un context suplimentar în jurul potențialei amenințări a IA din umbră.

Doar 4,39% dintre companii au instrumente AI complet integrate în organizația lor

Este doar 1 din 25 de companii care au linii directoare ferme de AI, conform datelor din raportul Tech.co 2024 privind impactul tehnologiei la locul de muncă .

În schimb, 44% dintre respondenții unui alt sondaj au spus că au folosit IA în medii profesionale, precum și în medii personale. Sondajul respectiv, care a analizat în special companiile franceze, a estimat că 28% dintre angajați foloseau AI fără supravegherea companiei.

Cu alte cuvinte, în ciuda zgomotului din jurul instrumentelor de text și imagine generative din ultimii câțiva ani, companiile au întârziat să vină cu reglementări pentru AI.

De ce Shadow AI este periculoasă

Este o provocare să rezolvi pericolele unei practici care, prin definiție, nu este monitorizată sau înțeleasă pe deplin. Iată cele mai mari domenii de îngrijorare.

Dezinformare internă sau externă

Raportul nostru a constatat că 49% din conducerea superioară sunt îngrijorate de riscul ca modelele IA lingvistice mari să genereze informații false . Am văzut deja rapoarte de informații juridice defectuoase bazate pe inteligență artificială , precum și alte gafe , așa că este ușor să ne imaginăm că se întâmplă același lucru cu un raport de afaceri intern sau un e-mail către un client important.

Risc de securitate cibernetică

Implementarea AI în scopuri de codare este un caz de utilizare popular, dar dacă este folosit de o echipă de asistență IT, acel cod poate conține erori generate de AI sau deschideri pentru ca hackeri să treacă o bombă logică malware peste protocoalele de securitate.

Date expuse

În plus, mulți utilizatori de AI nu știu că solicitările lor vor fi înregistrate de companie în spatele instrumentului AI gratuit. Dacă datele companiei private sunt folosite pentru o solicitare, acestea vor fi expuse. De aceea, nu ar trebui să partajați niciodată date sensibile ale companiei cu o platformă AI, printre altele .

Eșecuri de conformitate

Guvernele de pe tot globul implementează restricții și linii directoare ale AI. Fără un reprezentant care să urmărească reglementările federale sau de stat din cadrul companiei dvs., nu puteți fi sigur că angajații nu vă deschid afacerea către o investigație din partea unui organ de supraveghere a reglementărilor.

Cum poate compania dvs. să lupte împotriva utilizării IA din umbră

În cele din urmă, amenințarea IA din umbră este cauzată de politicile de afaceri inexistente sau limitate privind utilizarea AI la locul de muncă. Deci, răspunsul este relativ simplu: va trebui să creați linii directoare care să limiteze utilizarea AI la anumite sarcini în anumite roluri .

Și, cu 50% dintre companiile din SUA spunând că în prezent „își actualizează politicile interne pentru a guverna utilizarea ChatGPT și a pune capăt Shadow GPT”, această soluție pare să fie deja lansată, deși lent.

Cea mai sigură opțiune este interzicerea totală a utilizării AI: Apple, Amazon, Samsung și Goldman Sachs sunt printre câteva companii care au interzis cel puțin unele versiuni de AI de la folosirea la ceas. Cu toate acestea, acest lucru înseamnă și că nu puteți beneficia de instrumentele tehnologice.

Probabil că veți dori să includeți o avertizare cu privire la viitoarea utilizare a AI în regulile dvs.: în așteptarea aprobării, lucrătorii ar trebui să poată extinde utilizarea AI în afara regulilor dvs. inițiale, deoarece instrumentele AI vor continua să evolueze în viitor.

Cele mai bune practici pentru utilizarea AI al companiei

Utilizarea AI în cadrul companiei dvs. nu trebuie să fie deloc proastă. Raportul Tech.co din 2024 despre tehnologia la locul de muncă a constatat că cei care au folosit mai multe instrumente de colaborare și AI au raportat ei înșiși o productivitate mai mare , în timp ce 59% dintre utilizatorii de AI au o mai mare satisfacție în muncă.

Iată câteva sfaturi pentru a profita la maximum de AI:

• Consultați cursurile de formare . Multe materiale de instruire AI sunt disponibile gratuit online .
• Nu încercați să înlocuiți locurile de muncă . AI are un drum lung de parcurs până să poată înlocui pe deplin o ființă umană. Raportul nostru a constatat că 63% dintre profesioniștii de conducere senior ale căror organizații folosesc inteligența artificială pentru scrierea sarcinilor declară că instrumentele de inteligență artificială nu au avut niciun impact asupra eliminării rolurilor de serviciu.
• Limitați AI la anumite roboți și sarcini specifice . ChatGPT sau Claude 3 pot fi cele mai bune opțiuni în prezent.
• Citiți la solicitări . Cele mai bune solicitări obțin cele mai bune rezultate, așa că am creat un ghid pentru a sugera cum să ne gândim la scrierea promptă.

ChatGPT a fost cel mai popular instrument de inteligență artificială folosit în cadrul companiilor în sondajul nostru din 2024, dar alții pot funcționa la fel de bine sau mai bine: unul dintre testele noastre recente a constatat că Claude 3 a scris rezultate text mai bune și ușor de analizat în comparație cu ChatGPT.

În cele din urmă, este important să ne amintim că textul generativ sau roboții de imagine nu sunt de fapt „inteligenti” – veți dori întotdeauna un ghid uman pentru a verifica de două ori pentru halucinații sau alte minciuni înainte de a ștampila orice are de oferit AI.