Един от служителите ви има да обобщи клиентски договор за десет минути. Пуска го в ChatGPT, получава чисто резюме и продължава с деня си. Изглежда като малка победа за продуктивността.
Проблемът не е в резюмето. Проблемът е, че договорът вече напусна фирмата.
Повечето разговори за рисковете на AI се въртят около това дали отговорът е верен. Този започва от другаде: какво подавате на машината, преди тя изобщо да отговори.
Накратко, за да е ясно от самото начало: всичко, въведено в безплатен публичен AI инструмент, може да бъде запазено и използвано за обучение на модела, освен ако изрично не сте изключили тази опция.
Затова има пет вида данни, които е добре никога да не стигат до публичен AI:
- лични данни на трети лица,
- договори и правни документи,
- финансови и търговски тайни,
- удостоверения за достъп,
- и непубликувана стратегическа информация.
Какво всъщност се случва с данните, които въвеждате?
Когато ползвате безплатния или личния платен ChatGPT, по подразбиране разговорите ви може да се използват за обучение на бъдещите модели на OpenAI. Това не е конспирация, а официалната политика на компанията. Изключва се ръчно от настройките за данни в профила.
При бизнес и enterprise плановете, както и при програмния достъп през API, нещата стоят обратно. Там въведеното не се ползва за обучение по подразбиране.
Разликата между двата режима е голяма и почти никой не я забелязва.
Има и втора подробност. Изключването не е със задна дата. Данни, които вече са влезли в обучение, не могат да бъдат извадени обратно. Изтриването на разговор също не ги маха от вече използваното.
Подаденото в публичен AI не е задължително да стане публично. Но престава да бъде само ваше.
Точно къде отиват тези данни и как се изключва обучението обяснявам в отделната статия за това къде отиват данните в ChatGPT.
Какво значи данните да „напуснат фирмата” на практика?
Тук е важно да сме точни, защото темата лесно се преувеличава. Подаденото в публичен AI обикновено не се появява пред друг потребител на следващия ден. Но излиза от вашия контрол по няколко конкретни начина.
Първо, може да бъде запазено на чужди сървъри за определен период, дори след като изтриете разговора.
Второ, може да бъде прегледано от оторизирани служители на доставчика при проверки за злоупотреба, сигурност или по правен повод.
Трето, при потребителските планове може да влезе в обучението на следващия модел.
Нито едно от тези три неща не е драматично само по себе си. Заедно обаче означават едно: информацията вече се намира на място, което вие не управлявате и не можете да изтриете със сигурност.
Рискът не е, че данните ви стават публични. Рискът е, че спират да бъдат изтриваеми и контролируеми от вас.
Кои са петте вида данни, които не давате на публичен AI?
Не всяка информация носи риск. Списъкът за внимание е по-къс, отколкото изглежда, и се събира в пет групи.
- Лични данни на трети лица. Имена, имейли, телефони, единни граждански номера, здравна или финансова информация на клиенти и служители. Тук влиза европейският режим за защита на личните данни.
- Договори и правни документи. Точно тези, които най-често се пускат за обобщение. Носят клаузи за поверителност и условия, които не са ваши, за да ги споделяте.
- Финансови и търговски данни. Цени, маржове, оферти, условия с доставчици, вътрешни отчети. Конкурентното ви предимство, изнесено навън с едно поставяне.
- Удостоверения за достъп и технически тайни. Пароли, ключове за достъп, конфигурации, изходен код, информация за сигурността на системите ви.
- Непубликувана стратегическа информация. Планове за продукт, преговори, сделки, решения, които още не са обявени.
Най-коварни от петте са договорите, защото изглеждат като обикновен текст за обобщаване, а всъщност носят чужди задължения за поверителност.
Защо точно договорите са най-опасни?
Договорът изглежда безобиден. Текст, който трябва да се обобщи или преведе. Точно затова попада в публичен AI най-често и най-безгрижно.
Но един договор рядко съдържа само вашата информация. В него стоят данни на отсрещната страна, нейни условия, понякога нейни лични данни. А често самият договор съдържа клауза, че съдържанието му е поверително.
Когато подадете такъв документ на публичен AI, не рискувате само собствените си данни. Може да нарушите поето задължение за поверителност и да изложите информация, която не е ваша, за да я споделяте.
Един изтекъл договор не е само ваш проблем. Той е и проблем на този, който ви се е доверил.
Това е и една от скъпите грешки, които описвам в статията за рисковете от използването на AI без ясни правила.
Откъде да разберете кои данни вече изтичат?
Повечето собственици подценяват колко AI се ползва във фирмата им. Питам „кои AI инструменти използвате” и честият отговор е „един, може би два”.
После минаваме екип по екип. ChatGPT на лични телефони. AI функции в инструмента за дизайн. Помощник, който обобщава клиентски запитвания. Разширение в браузъра, което преписва имейли.
Не можете да защитите данни, за които не знаете, че напускат компанията през AI. Затова първата стъпка не е правило, а картина.
Съберете списъка на инструментите, които реално се ползват, не само официално одобрените. За всеки отбележете три неща: кой го използва, с какви данни работи и има ли достъп до вътрешни системи. Това кратко упражнение дава по-ясна картина от повечето формални политики.
Невидимият риск е опасен не защото е голям, а защото никой не го гледа.
Означава ли това, че трябва да забраните AI в екипа?
Тук идва най-честата свръхреакция. Щом данните са рискови, да забраним инструмента и проблемът изчезва.
Не изчезва. Просто слиза под повърхността.
Когато AI е официално забранен, но върши работа, хората продължават да го ползват. От личните си устройства, от личните си профили, без следа и без надзор. Забраната не маха риска, тя само го прави невидим. Точно тогава фирмени данни тръгват през канали, които никой не вижда.
Забраната не премахва риска. Тя само го прави невидим.
Това е едно от скъпите погрешни схващания, които разглеждам в статията за митовете за AI в бизнеса.
Какво да правите вместо това?
Решението не е по-малко AI. То е правилните данни в правилния AI. Пет конкретни стъпки покриват по-голямата част от риска.
Първо, използвайте бизнес или enterprise план, или програмния достъп през API, където въведеното не се ползва за обучение по подразбиране. Ако работите с личен план, поне изключете обучението от настройките за данни.
Второ, премахвайте чувствителното преди да поставите. Често на AI му трябва структурата на документа, не самоличностите в него. Вместо „договор с фирма Х за сумата Y”, подайте „договор за услуга със стандартни клаузи” и помолете за това, което наистина ви трябва. Имената и числата рядко са нужни за самата задача.
Трето, въведете едно просто правило: кратък списък какво никога не отива в публичен инструмент, който всеки в екипа знае. Едно изречение, разбрано от всички, струва повече от дълга политика, която никой не чете.
Четвърто, за наистина чувствителната работа ползвайте вътрешна или частна AI среда, която стъпва върху собствените ви документи и не ги изнася навън.
Пето, обучете хората. Почти всяко изтичане не е злонамерено, а просто незнание къде минава границата.
Решението не е по-малко AI. То е по-малко чувствителни данни в грешния AI.
Как се защитава фирмената информация в детайли описвам в Стълб Данни: защита на фирмената информация, а как се обучава екип отговорно, в структурираното корпоративно обучение.
А има ли AI, на който можете да дадете всичко?
Да, и това е другата страна на същата монета. Рискът не е в изкуствения интелект, а в това чий е той.
Когато AI средата е изградена за вашата фирма, върху вашата собствена база от документи, и данните остават вътре в периметъра, петте забранени вида престават да са забранени. Тогава договорът, клиентската история и вътрешният отчет могат да се обработват спокойно, защото не напускат.
Това е разликата между публичен инструмент, който ползвате на чужда инфраструктура, и частна система, която работи за вас. За първия важи списъкът с внимание. За втория правилата са вашите.
Чувствителните данни не искат по-малко AI. Те искат AI, който не ги изнася навън.
Как изглежда такава среда обяснявам в статията за система, която работи върху вашата собствена база от документи.
Често задавани въпроси
Безплатният ChatGPT ползва ли разговорите ми за обучение?
По подразбиране да, при безплатния и личните платени планове. OpenAI позволява да изключите това от настройките за данни в профила. При бизнес, enterprise и API достъпа въведеното не се ползва за обучение по подразбиране.
Ако изтрия разговора, изтрива ли се и от модела?
Не. Изключването на обучението и изтриването на разговор важат само за напред. Данни, които вече са били използвани за обучение, не могат да бъдат извадени обратно.
Каква е разликата между безплатния и бизнес плана за данните ми?
При бизнес, enterprise и API достъпа въведеното не се ползва за обучение по подразбиране. При безплатния и личните планове се ползва, освен ако не сте го изключили ръчно.
По-безопасно ли е, ако само превеждам или обобщавам?
Не. Рискът е във входа, не в задачата. Дори само за превод, чувствителният текст вече е напуснал контрола ви в момента, в който сте го поставили.
Нарушение на GDPR ли е да подам лични данни на клиент в публичен AI?
Може да бъде. Подаването на лични данни на трети лица в публичен инструмент без основание е реална експозиция по правилата за защита на данните. Това не е правен съвет, но е риск, който си струва да проверите. Какво изисква отговорната работа с данни е част от това какво означава AI грамотност според закона.
Кое е първото нещо, което да направя?
Съставете кратък списък какво никога не отива в публичен AI, кажете го на екипа, и преместете чувствителната работа към безопасен план или частна среда.
Контролът върху данните е разрешително, не спирачка
Лесно е тази тема да прозвучи като поредната причина да се страхувате от AI. Тя е точно обратното.
Когато знаете кои пет вида данни не отиват навън, спирате да се колебаете за всичко останало. Екипът ви може да ползва AI свободно за десетките задачи, които не носят риск, защото рисковите са ясно очертани.
Контролът върху данните не е спирачка за AI. Той е разрешителното да го ползвате навсякъде другаде без страх.
Откъде минава тази граница и как се измерва готовността на фирмата ви по петте стълба, включително данните, обяснявам в петте стълба на AI готовността. Ако искате ясна картина за вашата организация, започнете с обективна оценка на готовността.
Аз съм Мариела Славенова, основател на Marinext AI и създател на AI Ready Standard, стандарт за AI готовност на бизнеса. Помагам на организации да заменят удобните митове с ясни числа и работещи системи.
