Co to jest sztuczna inteligencja cieni? Najnowsze zagrożenie bezpieczeństwa IT w przedsiębiorstwie

Rozwój sztucznej inteligencji w ciągu ostatnich kilku lat wstrząsnął całą branżą technologiczną, a branża cyberbezpieczeństwa dla przedsiębiorstw nie jest wyjątkiem: nagle ma do czynienia z cieniem sztucznej inteligencji.

Termin „sztuczna sztuczna inteligencja” odnosi się do każdego nieautoryzowanego użycia sztucznej inteligencji w organizacji. Ponieważ dział IT o tym nie wie, nie ma możliwości śledzenia ani kontrolowania wykorzystania sztucznej inteligencji.

To pozostawia firmę otwartą na potencjalne wykorzystanie lub inne problemy. Oto dlaczego sztuczna inteligencja typu Shadow może stanowić rosnący problem i co Twoja firma może z tym zrobić.

Co to jest sztuczna inteligencja cieni?

Shadow AI opisuje pracowników korzystających ze sztucznej inteligencji do pomocy w wykonywaniu zadań bez wiedzy i zgody firmy. Jeśli pracownicy nie wyjaśnią tego zastosowania swojej firmie, firma ta nie jest świadoma wykorzystania sztucznej inteligencji w cieniu, które ma miejsce w jej szeregach. Zdobyć? Ponieważ wykorzystanie sztucznej inteligencji dzieje się… w cieniu.

Zadania mogą być wykonywane szybciej, ale bez widoczności i wytycznych dotyczących wykorzystania sztucznej inteligencji nie da się w pełni kontrolować wyników. Dla każdego menedżera biznesowego ten brak kontroli jest sygnałem ostrzegawczym utrudniającym dalszy sukces firmy.

Istnieje wiele dowodów sugerujących, że sztuczna inteligencja cieni jest już dużym problemem w wielu branżach, nawet jeśli nie doprowadziła jeszcze do żadnych katastrofalnych awarii bezpieczeństwa. Przynajmniej nic, o czym słyszeliśmy: w końcu znaczna mniejszość firm technologicznych nie zgłasza włamań po fakcie.

Oto jeden duży dodatkowy fakt, który nadaje dodatkowy kontekst potencjalnemu zagrożeniu ze strony sztucznej inteligencji.

Tylko 4,39% firm posiada w pełni zintegrowane narzędzia AI w całej swojej organizacji

Jak wynika z raportu Tech.co z 2024 r. na temat wpływu technologii na miejsce pracy , to zaledwie 1 na 25 firm, które mają rygorystyczne wytyczne dotyczące sztucznej inteligencji.

Z kolei 44% respondentów innej ankiety stwierdziło, że korzysta ze sztucznej inteligencji zarówno w środowisku zawodowym, jak i osobistym. W badaniu tym, które dotyczyło konkretnie francuskich firm, oszacowano, że 28% pracowników korzysta ze sztucznej inteligencji bez nadzoru firmy.

Innymi słowy, pomimo szumu wokół generatywnych narzędzi tekstowych i graficznych, jaki panował w ciągu ostatnich kilku lat, firmy powoli wprowadzały regulacje dotyczące sztucznej inteligencji.

Dlaczego sztuczna inteligencja cieni jest niebezpieczna

Wyzwaniem jest określenie zagrożeń związanych z praktyką, która z definicji nie jest monitorowana ani w pełni rozumiana. Oto obszary budzące największe obawy.

Dezinformacja wewnętrzna lub zewnętrzna

Z naszego raportu wynika, że ​​49% kadry kierowniczej wyższego szczebla jest zaniepokojonych ryzykiem generowania fałszywych informacji przez wielkojęzykowe modele sztucznej inteligencji. Widzieliśmy już raporty o błędnych dokumentach prawnych opartych na sztucznej inteligencji, a także o innych błędach , więc łatwo sobie wyobrazić, że to samo dzieje się w przypadku wewnętrznego raportu biznesowego lub e-maila do ważnego klienta.

Ryzyko cyberbezpieczeństwa

Wdrażanie sztucznej inteligencji do celów kodowania to jeden z popularnych przypadków użycia, ale kod ten, jeśli zostanie wykorzystany przez zespół wsparcia IT, może zawierać błędy generowane przez sztuczną inteligencję lub luki umożliwiające hakerom przepuszczenie bomby logicznej złośliwego oprogramowania przez protokoły bezpieczeństwa.

Ujawnione dane

Ponadto wielu użytkowników sztucznej inteligencji nie zdaje sobie sprawy, że ich podpowiedzi będą rejestrowane przez firmę stojącą za ich bezpłatnym narzędziem AI. Jeśli w podpowiedzi zostaną użyte dane prywatnej firmy , zostaną one ujawnione. Dlatego też nigdy nie należy udostępniać wrażliwych danych firmowych m.in. platformie AI.

Błędy w przestrzeganiu przepisów

Rządy na całym świecie wprowadzają własne ograniczenia i wytyczne dotyczące sztucznej inteligencji. Bez przedstawiciela monitorującego przepisy federalne lub stanowe w Twojej firmie nie możesz mieć pewności, że pracownicy nie narażą Twojej firmy na dochodzenie prowadzone przez organ regulacyjny.

Jak Twoja firma może walczyć z wykorzystaniem sztucznej inteligencji w cieniu

Ostatecznie zagrożenie ze strony sztucznej inteligencji jest spowodowane nieistniejącą lub ograniczoną polityką biznesową dotyczącą wykorzystania sztucznej inteligencji w miejscu pracy. Odpowiedź jest zatem stosunkowo prosta: musisz stworzyć wytyczne ograniczające wykorzystanie sztucznej inteligencji do konkretnych zadań w ramach określonych ról .

A biorąc pod uwagę, że 50% amerykańskich firm twierdzi, że obecnie „aktualizują swoje wewnętrzne zasady, aby regulować korzystanie z ChatGPT i zakończyć Shadow GPT”, wydaje się, że rozwiązanie to już jest wdrażane, choć powoli.

Najbezpieczniejszą opcją jest całkowity zakaz stosowania sztucznej inteligencji: Apple, Amazon, Samsung i Goldman Sachs należą do kilku firm, które zakazały całodobowego stosowania przynajmniej niektórych wersji sztucznej inteligencji . Oznacza to jednak również, że nie możesz korzystać z narzędzi technicznych.

Prawdopodobnie będziesz chciał uwzględnić w swoich wytycznych zastrzeżenie dotyczące przyszłego wykorzystania sztucznej inteligencji : do czasu zatwierdzenia pracownicy powinni mieć możliwość rozszerzenia wykorzystania sztucznej inteligencji poza początkowe wytyczne, ponieważ narzędzia sztucznej inteligencji będą nadal ewoluować w przyszłości.

Najlepsze praktyki dotyczące wykorzystania sztucznej inteligencji w firmie

Wykorzystanie sztucznej inteligencji w Twojej firmie nie musi być wcale złe. Z raportu Tech.co za rok 2024 na temat technologii w miejscu pracy wynika, że ​​osoby, które korzystały z większej liczby narzędzi do współpracy i sztucznej inteligencji , same zgłaszały wyższą produktywność , podczas gdy imponujące 59% użytkowników sztucznej inteligencji odczuwa większą satysfakcję z pracy.

Oto kilka wskazówek, jak najlepiej wykorzystać sztuczną inteligencję:

• Sprawdź szkolenia . Wiele materiałów szkoleniowych dotyczących sztucznej inteligencji jest dostępnych bezpłatnie w Internecie .
• Nie próbuj zastępować pracy . Przed sztuczną inteligencją jeszcze długa droga, zanim będzie w stanie w pełni zastąpić człowieka. Z naszego raportu wynika, że ​​63% specjalistów zajmujących się przywództwem wyższego szczebla, których organizacje korzystają ze sztucznej inteligencji do pisania zadań, twierdzi, że narzędzia sztucznej inteligencji nie miały wpływu na usuwanie stanowisk pracy.
• Ogranicz sztuczną inteligencję do określonych botów i konkretnych zadań . ChatGPT lub Claude 3 mogą być obecnie najlepszymi opcjami.
• Przeczytaj podpowiedzi . Najlepsze podpowiedzi dają najlepsze rezultaty, dlatego przygotowaliśmy przewodnik sugerujący, jak myśleć o szybkim pisaniu.

ChatGPT było najpopularniejszym narzędziem AI używanym w firmach w naszej ankiecie z 2024 r., ale inne mogą działać równie dobrze lub lepiej: jeden z naszych ostatnich testów wykazał, że Claude 3 pisał lepsze i łatwiejsze do analizy wyniki tekstowe w porównaniu z ChatGPT.

Na koniec należy pamiętać, że generatywne boty tekstowe lub graficzne nie są tak naprawdę „inteligentne” — zawsze będziesz potrzebować ludzkiego przewodnika, który dwukrotnie sprawdzi, czy nie ma halucynacji lub innych kłamstw, zanim przypieczętujesz wszystko, co ma do zaoferowania sztuczna inteligencja.