Маркетинг специалистът ви пише текст за кампания с ChatGPT. Счетоводителят проверява формула. Един от търговците подготвя оферта. Никой не е питал, никой не е забранявал, и вие не знаете, че се случва.
Това е Shadow AI в бизнеса: употребата на AI инструменти без знанието и правилата на ръководството. И първата грешка е да го приемете за проблем с дисциплината.
Shadow AI не е бунт. Той е разумен отговор на липсата на правила: хората ползват това, което им помага, защото никой не им е казал какво може и какво не.
Важното накратко
- Според проучването на Microsoft и LinkedIn, 75% от служителите вече ползват генеративен AI на работа, а 78% от тях носят собствени инструменти без официално одобрение. При малкия и средния бизнес делът е 80%.
- Половината служители крият, че използват AI на работното си място.
- Рискът не е самата употреба, а невидимостта. Данни напускат компанията, а грешки стигат до клиента, без никой да следи.
- Решението не е забрана. Забраната прави употребата още по-скрита. Решението е видимост, правило и безопасна среда.
Какво всъщност е Shadow AI и защо се появява?
Shadow AI е всяка употреба на AI инструмент за работа, която минава извън погледа и правилата на компанията: личен акаунт в ChatGPT; безплатно разширение в браузъра; приложение, което един колега е препоръчал на друг.
Появата му не е случайна. Служителите са затрупани с работа, инструментът реално помага, а отгоре липсва посока. Според същото проучване на Microsoft 60% от ръководителите признават, че компанията им няма ясен план за въвеждане на AI. Когато няма план, всеки прави своя. А колкото по-дълго липсва посока, толкова по-дълбоко се вкоренява навикът да се импровизира.
Затова наказателният подход почти винаги се проваля. Той третира като нарушение нещо, което за служителя е просто по-бърз начин да си свърши работата.
Хората не заобикалят правилата ви за AI. Те запълват празнотата, която липсата на правила е оставила.
Как изглежда Shadow AI в един обикновен ден
Не е нужно да си представяте хакери. Достатъчен е един обикновен работен.
Сутринта търговец получава дълъг имейл от клиент и го поставя в ChatGPT, за да подготви учтив отговор.
По обед човек от човешките ресурси пуска няколко автобиографии в същия инструмент, за да ги обобщи преди интервю.
Следобед счетоводителят копира извлечение, за да провери една сметка по-бързо.
Трима различни служители, три коренно различни задачи и нито един от тях с лоши намерения. И в трите случая обаче фирмена или лична информация напусна компанията през публичен инструмент, без правило, без следа и без вашето знание.
Точно това прави тихата употреба толкова подвеждаща. Тя не изглежда като риск. Изглежда като добър работен ден. И тъкмо защото изглежда така, никой не се сеща да го спомене.
Колко разпространен е всъщност?
Мащабът изненадва повечето собственици. Проучването на Microsoft и LinkedIn обхваща 31 000 души в 31 държави и рисува ясна картина.
75% от служителите вече ползват генеративен AI (технология, която създава ново съдържание като текст, изображения, видео и код въз основа на научени закономерности от съществуващи данни) на работа. От тях 78% носят собствени инструменти, тоест ползват AI, който компанията нито е избрала, нито следи. При малкия и средния бизнес този дял е още по-висок: 80%.
Най-важното число обаче не е за употребата, а за мълчанието. 52% от ползващите AI се притесняват да признаят, че го използват за най-важните си задачи. Причината е човешка: страх, че ще изглеждат заменими.
Добавете и още едно число. Само 39% от тези, които ползват AI на работа, са получили обучение от работодателя си. Останалите се учат сами, от каквото намерят.
Ако мислите, че във вашата компания няма Shadow AI, най-вероятната причина не е, че го няма, а че половината екип не ви казва.
Защо тихата употреба е по-опасна от самата употреба?
Проблемът с Shadow AI не е, че хората ползват AI. Проблемът е, че никой не вижда как.
Когато употребата е скрита, данни напускат компанията без контрол. Служител поставя клиентски договор или оферта в публичен инструмент, а вие научавате едва ако нещо се обърка. Затова тихата употреба е сред най-подценяваните рискове от AI в бизнеса.
Точно това показа случаят в Samsung. През 2023 г. компанията отвори достъп до ChatGPT за свои инженери и за по-малко от месец поверителен код и запис от вътрешно съвещание напуснаха фирмата през чата. Резултатът беше пълна забрана на генеративния AI. Веднъж на чужд сървър, тази информация не може да бъде върната.
Има и втора, по-тиха опасност. AI звучи еднакво уверено, когато е прав и когато греши (халюцинира). Ако никой не проверява, една убедителна, но грешна цифра или клауза може да стигне направо до клиента.
Представете си оферта с число, което инструментът е допълнил правдоподобно, но грешно, и която излиза навън непроверена. В момента не изглежда като проблем. Става такъв, когато клиентът я забележи пръв. Как да защитите информацията при ежедневната работа съм описала в текста за защита на фирмените данни.
Скритата употреба ви лишава от единственото, което ви трябва, за да управлявате риска: да го виждате.
Кой носи отговорност, когато нещо се обърка?
Тук идва въпросът, който тихата употреба отлага, докато не стане късно. Ако служител подаде лични данни в публичен инструмент или използва грешен резултат в работа за клиент, отговорността не е на инструмента и рядко остава само на служителя. Тя е на компанията.
По GDPR вие оставате администратор на данните на клиентите и служителите си, независимо кой е натиснал „изпрати“. А пред клиента стои вашето име, не името на модела. Скритата употреба не премахва тази отговорност. Тя само ви отнема възможността да я управлявате, преди да се превърне в проблем.
Разликата е проста, но скъпа. Управляваната употреба ви позволява да хванете грешката, преди да излезе навън. Скритата ви оставя да я откриете едва когато вече е причинила щета: изтекъл договор, сгрешена цифра пред клиент, лични данни на място, където не биваше да бъдат.
Първото е управляем разход. Второто е инцидент.
Как да разберете дали вече имате Shadow AI?
Отговорът почти сигурно е „да“, но целта не е да го докажете, а да го извадите на светло. Ето откъде да започнете.
Първо, попитайте екипа, но без обвинение. Кратка анонимна анкета кой какви инструменти ползва и за какво дава повече истина от всяко разследване. Ако хората се страхуват от последствия, ще замълчат, точно както показват числата.
Второ, погледнете какво влиза и излиза. Рязък скок в качеството или скоростта на определени задачи, нови формати и стил в документите, еднакви фрази в текстове от различни хора, споменавания на инструменти в разговори. Всяко от тях само по себе си е дребно. Заедно са следа.
Трето, вижте къде отиват данните ви на практика. Ако не сте сигурни какво служителите подават към публичен AI, добра отправна точка е да разберете къде отиват данните в ChatGPT.
Първата стъпка не е да търсите виновни. Първата стъпка е да попитате така, че хората да отговорят честно.
Значи да забраним AI, докато се оправим?
Не. Това е грешният извод.
Забраната изглежда като контрол, но постига обратното. Тя не спира употребата, а я вкарва още по-дълбоко в сянка: хората минават на личните си телефони и акаунти, където нямате никаква видимост. Губите и контрола, и продуктивността, която екипът вече е открил.
Правилният ред е друг.
Първо, дайте видимост: разберете кой какво ползва.
Второ, запишете кратко правило кои данни не излизат навън и кои задачи изискват човешка проверка.
Трето, осигурете безопасна среда и обучение, за да няма нужда никой да импровизира.
Едно работещо първо правило се побира на една страница: кои няколко вида данни никога не влизат в публичен AI, кои задачи изискват човек да провери резултата, и кой е одобреният инструмент по подразбиране.
Тази последователност е част от петте стълба на AI готовността. А живото правило се крепи на AI грамотност на екипа, не на страх.
Забраната не спира Shadow AI. Тя само гаси лампата, под която можете да го видите.
Често задавани въпроси
Shadow AI проблем само на големите компании ли е?
Обратното. При малкия и средния бизнес употребата на собствени инструменти е дори по-висока, 80% според Microsoft. По-малките екипи имат по-малко правила и по-малко надзор, което прави тихата употреба още по-вероятна.
Как да го открием, без да настроим екипа срещу нас?
Чрез рамка на подкрепа, не на наказание. Обяснете, че целта е безопасна среда, а не санкции, и питайте анонимно. Хората крият употребата, когато се страхуват, а не когато им се помага.
Забраната наистина ли не работи?
Не работи, защото не премахва причината. Служителят все още е затрупан и все още има инструмент под ръка. Забраната просто мести употребата там, където не я виждате.
Откъде да започнем на практика?
От видимост, не от софтуер. Разберете кой какво ползва и какви данни минават през това. Бърза начална снимка дава самооценката AI Ready Score, а след нея идват правилото и обучението.
Не е ли по-лесно просто да купим корпоративен инструмент?
Инструментът е третата стъпка, не първата. Без видимост кой какво ползва и без ясно правило дори най-добрият корпоративен AI оставя хаоса, само че по-скъп.
Инструментът решава къде отиват данните. Той не решава кой какво подава и кога човек трябва да провери. Тези две неща идват от правило и навик, не от лиценз.
Тихата употреба е риск само докато е тиха
Shadow AI вече е във вашата компания. Въпросът не е дали, а дали го виждате.
Компаниите, които извадят тихата употреба на светло, печелят два пъти: спират течовете и задържат продуктивността, която екипът вече е открил сам. Останалите плащат за рисковете, без да получат ползите.
Ако искате да преминете от скрита към управлявана употреба по подреден начин, обучението въвеждане на AI без хаос минава през това стъпка по стъпка, за собственици и ръководители, без код и без жаргон.
Аз съм Мариела Славенова, основател на Marinext AI и създател на AI Ready Standard, стандарт за AI готовност на бизнеса. Помагам на организации да заменят удобните митове с ясни числа и работещи системи.
