През 2023 г. нюйоркски адвокат подаде съдебна искова молба, изготвена с помощта на ChatGPT. Молбата съдържала цитати от шест съдебни дела. Нито едно от тях не съществувал. Моделът ги бил измислил с пълно самочувствие, включително имена на съдии, номера на дела и дати.
Федералният съдия наложи санкция. Случаят влезе в историята като едно от първите публично документирани последствия от явлението, което днес всички в технологичния свят познават под името халюцинация.
Оттогава насам случаите не са намалели. Само през 2025 г. съдилища по света са издали над 790 решения, свързани с халюцинирано съдържание в правни документи, според база данни, цитирана от MIT Sloan. Deloitte плати частично възстановяване по договор за 440 000 австралийски долара, след като доклад, изготвен с AI, съдържаше измислени академични източници и фалшив цитат от федерален съд, според документирания случай от Four Dots.
Преди да разберете как да се предпазите, трябва да разберете защо се случва.
Халюцинацията не е бъг. Тя е архитектурна характеристика.
Повечето хора приемат, че халюцинациите са грешка, която ще бъде поправена с по-нова версия на модела. Това разбиране е неточно.
През 2025 г. математическо доказателство, цитирано от изследователи в областта и обобщено от AboutChromebooks, потвърди: халюцинациите не могат да бъдат напълно елиминирани при сегашните архитектури на езиковите модели. Те са следствие от самия начин, по който моделите работят.
Езиковият модел не търси истината. Той предсказва кой текст е статистически най-вероятен като следващо изречение. По време на обучението е видял огромно количество текст и е усвоил формата на знанието: как изглеждат добре написани изречения, как се структурират аргументи, как се цитират данни.
Но формата не е същото като съдържанието.
Когато моделът срещне тема с малко данни в обучението, или тема, която изисква конкретни факти извън добре документирани области, той прави единственото, за което е обучен: предсказва най-вероятното следващо изречение. Дори когато то е грешно.
Изследване на MIT установи, че моделите използват с 34% по-уверен език точно когато генерират невярна информация, според анализ на Four Dots. Колкото по-убедително звучи отговорът, толкова по-голям е рискът да не го проверите.
Какви са реалните нива на халюцинации
Числата тук изискват внимание, защото варират значително в зависимост от задачата.
При отворени фактически въпроси извън добре документирани теми картината е различна. Моделите на OpenAI o3 и o4-mini халюцинират между 33% и 48% при тестове с конкретни фактически въпроси, според данни от drainpipe.io. При медицински и правни запитвания нивата достигат между 43% и 88%.
Разграничението е ключово: моделът е надежден, когато работи с документ пред него. Ненадежден е, когато трябва да извлича факти от обучителната си памет.
Три вида халюцинации, които трябва да познавате
Не всички грешки изглеждат еднакво. Полезно е да знаете формите им.
Първата е измисленият източник. Моделът цитира статия, изследване или книга, която не съществува. Заглавието звучи реално, авторът изглежда правдоподобен, дори годината е логична. Документът го няма. Точно това се случи в случая Mata v. Avianca и в доклада на Deloitte.
Втората е грешната цифра. Моделът знае, че дадена статистика съществува, но не помни точната стойност. Вместо да признае, предсказва число, което звучи правдоподобно в контекста. Анализ на над 10 000 халюцинации от изследователи в UC Berkeley, цитиран от AllAboutAI, установи, че халюцинираните статистики показват странна предпочитаност към числа, завършващи на 5 и 0, и се срещат 3.7 пъти по-често от реалните.
Третата е вярното в грешния контекст. Моделът знае верен факт, но го прилага там, където не важи. Закон, валиден в една юрисдикция, се представя като приложим в друга. Изследване от един сектор се цитира за съвсем различен.
Реалните бизнес последствия
Данните от 2024 и 2025 г. показват мащаб, който е трудно да се игнорира.
Според Deloitte Global AI Survey 2025, 47% от потребителите на AI в бизнеса са взели поне едно важно бизнес решение въз основа на халюцинирано съдържание. Според EY Responsible AI Survey 2025, 99% от организациите са отчели финансови загуби, свързани с AI рискове. Средната загуба: 4.4 милиона долара.
Знаещите служители прекарват средно 4.3 часа седмично в проверка на AI отговори, според Forrester Enterprise AI Cost Analysis 2025. Пресметнато годишно: значително намаляване на ефективността, която AI трябва да носи.
Авиокомпания Air Canada беше задължена от съд да изплати обезщетение на пътник, след като нейният AI чатбот предостави невярна информация за политиката за възстановяване на средства. Защитата, че грешката е направена от AI, не беше приета. Съдът постанови, че компанията носи отговорност за изявленията на своя инструмент, според National Law Review.
Потребителите не прощават AI грешките така, както прощават човешките. Те очакват по-висока точност от машините и реагират по-остро, когато не я получат.
Защо RAG архитектурата решава проблема
Халюцинацията е характеристика на модел, работещ без достъп до верифицирани данни. Решението не е по-умен модел. Решението е модел, закотвен към реален източник на информация.
Тази архитектура се казва RAG (Retrieval-Augmented Generation): модел, който преди да отговори, първо търси в база знания, след което генерира отговор въз основа на намереното.
Разликата е фундаментална.
ChatGPT отговаря от обучителна памет. RAG агентът отговаря от документи, които сте му дали: вашите вътрешни правила, продуктови описания, ценова листа, договори. Той не може да измисли факт, ако фактът не е в документите.
Данните потвърждават ефекта. RAG архитектурата намалява халюцинациите с между 40% и 71% в сравнение с модел без достъп до документи, според обобщение на ScottGraffius.com, базирано на данни от AIMultiple и AboutChromebooks.
В контролирано медицинско изследване, публикувано в PubMed, RAG архитектурата елиминира напълно халюцинациите при тест от 100 случая, в сравнение с 8% при стандартен модел.
Казано с думите на IBM Research: вместо модел, генериращ отговори въз основа на фиксирани обучителни данни, RAG системите закотвят процеса в актуална и достоверна информация.
Кога халюцинацията е реален бизнес риск
Важно е да не преувеличавате проблема, но и да не го подценявате.
За творчески задачи: писане на текстове, генериране на идеи, обобщаване на срещи, халюцинацията рядко е критична. Грешен факт в маркетингово съдържание се забелязва и коригира лесно.
За оперативни задачи с реални последствия рискът е различен.
Ако агентът консултира клиент за условия на договор и измисли клауза, последствието е реално. Ако дава информация за транспортни срокове и генерира грешни числа, следва оперативен хаос. Ако отговаря на правни или финансови въпроси без верифицирани данни, рискът е юридически.
Разграничението между двата типа употреба е критично: ChatGPT като личен асистент за творчески задачи срещу AI агент, интегриран в оперативни процеси. За втория случай правилната архитектура не е опция. Тя е условие за нормална работа.
Преди да изграждате каквато и да е AI система, има смисъл да направите AI одит на бизнеса: структуриран преглед, който показва кои процеси носят риск и кои не.
Как да разпознаете ненадежден отговор
Има сигнали, на които можете да обърнете внимание дори без технически опит.
Бъдете по-внимателни, когато отговорът цитира конкретни числа, конкретни изследвания или конкретни нормативни документи. Проверявайте тези детайли независимо.
Бъдете по-внимателни, когато темата е нишова, актуална или специфична за вашия сектор. Колкото по-специализирана е темата, толкова по-малко е видял моделът по нея.
Бъдете по-внимателни, когато отговорът е изключително уверен и изчерпателен. Увереността не е индикатор за точност. Изследването на MIT показва точно обратното.
Накратко
Халюцинацията не е дефект, който ще бъде поправен с нова версия. Тя е математически доказана структурна характеристика на езиковите модели.
Решението не е по-умен модел. Решението е правилно изградена система, която свързва модела с верифицирани данни.
ChatGPT е мощен инструмент за задачи, при които формата и стилът са важни. За оперативни бизнес процеси, при които точността е критична, е необходима система с достъп до реални данни.
Тази разлика е и основата на всяка добре изградена система от AI агенти за бизнес.
Аз съм Мариела Славенова, собственик на Marinext AI. Помагам на компании да изградят система от дигитални служители и автоматизации, която прави бизнеса им по-ефективен, по-предвидим и по-печеливш. Ако усещате, че е дошло време за вашата първа стъпка, пишете ми и ще се чуем.
