През март 2023 г. Samsung позволи на инженерите си да използват ChatGPT за работа. За по-малко от 20 дни трима служители въведоха поверителна информация в платформата: изходен код на полупроводникова база данни, вътрешни протоколи от срещи и данни за производствени процеси.
Нито един от тях не е действал злонамерено. Просто са искали да свършат работата си по-бързо.
Резултатът: Samsung незабавно забрани ChatGPT на всички служители и стартира разработката на собствена вътрешна AI система.
Това не е изолиран инцидент. Това е системен риск, произтичащ от употребата на общи AI инструменти без контролирана архитектура.
Тази статия обяснява конкретно кои са рисковете, с какви данни са подкрепени и кога инвестицията в собствена система наистина има смисъл.
Истинският проблем не е какво може ChatGPT. Проблемът е какво се случва, когато служителят го използва без контрол.
Важно е да изясним едно нещо в началото.
ChatGPT и Claude (и другите известни модели) са технологично мощни инструменти. С правилни интеграции и платени планове те могат да изпращат имейли, да се свързват със CRM системи и да извършват действия. Функционалностите съществуват.
Но това не е реалността на бизнеса с 10 до 100 служители.
Реалността е служител, който отваря браузъра, въвежда клиентски данни, получава отговор и затваря прозореца. Това се случва без контрол на входящата информация и без гаранция, че данните остават в периметъра на компанията.
Проблемът не е в способностите на модела. Проблемът е в липсата на архитектура около него.
Разликата между ChatGPT в браузъра и дигитален служител, изграден за вашия бизнес, е точно тази: единият е общ инструмент без правила. Другият е система с памет, достъп, одит и данни, които не напускат вашата инфраструктура.
Риск 1: Данните напускат компанията без да го знаете
Когато служител въведе информация в ChatGPT или Claude през стандартния потребителски интерфейс, тя напуска вашата инфраструктура и отива на сървъри на OpenAI или Anthropic.
Ето какво казват самите платформи:
Според Alumio, потребителският ChatGPT по подразбиране съхранява разговори до 30 дни и може да използва въведените данни за обучение на модела, дори след изтриване, освен ако не сте на корпоративен план. Anthropic промени политиката си през септември 2025 г.: Claude вече предлага opt-in/opt-out хибриден модел, като мълчаливото приемане се счита за съгласие.
По-важното е следното, формулирано ясно от Secuvy: обучението не е единственият риск.
Когато служител постави клиентски списък в ChatGPT, за да го форматира, личните данни вече са напуснали вашия периметър и са обработени от трета страна. Това може да представлява нарушение на GDPR, независимо дали моделът е научил нещо от тях.
Регламентът GDPR е категоричен.
Съгласно официалния текст на Регламент (ЕС) 2016/679, администраторът на данни носи отговорност за всяко обработване, включително обработването от трети страни. GDPR глобите достигат до 20 милиона евро или 4% от глобалния оборот, което от двете е по-голямо.
Проблемът не е хипотетичен. Изследване на Cyberhaven, цитирано от Gizmodo, установи, че 3.1% от служителите, използващи ChatGPT, са въвели поверителна фирмена информация в системата. При компания със 100 служители: потенциално три изтичания на данни седмично.
Риск 2: Моделът не знае нищо за вашия бизнес и започва от нулата всеки път
ChatGPT и Claude са обучени върху публично достъпен текст. Те не знаят нищо за вашите продукти, цени, вътрешни процеси, клиенти или история.
Потребителският ChatGPT традиционно използва временна памет: всяка сесия е изолирана. Когато затворите прозореца, контекстът изчезва. OpenAI пусна “persistent memory” функция за платени планове на 3 юни 2025 г., но тя запазва само избрани факти като потребителски предпочитания, не структурирана бизнес информация.
За лична употреба това е приемливо. За бизнес процес с история на клиенти, договорени условия и специфични вътрешни правила, липсата на постоянна, структурирана памет е оперативен проблем.
Разликата е конкретна: представете си нов консултант, на когото обяснявате цялата си компания всеки понеделник от нулата. Той може да е много умен, но ефективността му е ограничена от липсата на контекст. Дигиталният служител, изграден за вашия бизнес, работи с вашата база данни, не халюцинира вашите процеси.
Риск 3: Свободен достъп без архитектура може да причини реални щети
ChatGPT може технически да изпраща имейли и да се свързва с бази данни чрез интеграции. Проблемът не е в способностите. Проблемът е в това, което се случва, когато на общ AI модел се даде свободен достъп до бизнес системи без контролирана архитектура.
Общият модел без собствена архитектура не знае кои са граничните случаи за вашия бизнес. Не е обучен на вашите правила за ескалация.
Риск 4: Няма одит и контрол
Когато служители на компанията работят с ChatGPT, вие не знаете какво е въведено, какво е получено, дали отговорът е приложен правилно и дали са споделени чувствителни данни.
Няма лог или одитна пътека.
За компания с 20 или повече служители, при която AI се използва в реални оперативни процеси, липсата на одит е регулаторен и оперативен риск. Особено в сектори с конкретни изисквания: финанси, здравеопазване, право, логистика с чувствителни товари.
Собствено изградена система дава пълна видимост: кой агент е работил, по кое запитване, с какъв резултат, в колко часа. Това не е лукс. Това е минималното изискване за отговорна употреба на AI в бизнес среда.
Кога ChatGPT и Claude са точно правилния избор
Важно е да не се разбере погрешно. Общите модели не са лоши инструменти.
ChatGPT и Claude са изключително подходящи за:
- писане и редактиране на текстове, при които човек преглежда преди публикуване;
- генериране на идеи и обобщения;
- лични задачи на отделни служители, при които данните не са чувствителни;
- бързо проучване по теми, при които фактите ще се верифицират независимо.
Те стават недостатъчни, когато:
- очаквате AI да работи с вашите специфични данни и системи;
- когато обработвате чувствителна информация, която не трябва да напуска инфраструктурата ви;
- когато ви е нужен одит, памет и предсказуемо поведение в оперативни процеси.
Разграничението не е въпрос на бюджет. Въпрос е на употреба и риск.
Следващата стъпка за интегриране на AI в бизнеса
Разстоянието между „ChatGPT в браузъра” и „AI агент, интегриран в бизнеса” не е толкова голямо, колкото изглежда. Нужна е архитектура: модел, свързан с вашите данни, с правото да действа в системите ви и с памет, която работи между сесиите.
Ако не сте сигурни откъде да започнете, най-добрата отправна точка е AI одит на бизнеса: структуриран преглед, който показва кои процеси имат реален риск и кои имат реална стойност за автоматизация.
Накратко
ChatGPT и Claude са отлични инструменти за правилната употреба. Но инструмент без архитектура, правила и контрол не е бизнес система. Той е по-бърза ръчна работа с нов вид риск.
За бизнес употреба имате нужда от система, а не от чат прозорец.
Системата знае кои са вашите данни. Помни контекста. Действа според правила, които сте определили. Оставя одитна следа. И данните не напускат вашата инфраструктура.
Аз съм Мариела Славенова, собственик на Marinext AI. Помагам на компании да изградят система от дигитални служители и автоматизации, която прави бизнеса им по-ефективен, по-предвидим и по-печеливш. Ако усещате, че е дошло време за вашата първа стъпка, пишете ми и ще се чуем.
