Един адвокат в Ню Йорк подава становище до съда с шест позовавания на предишни дела. Делата изглеждат истински: имена, цитати, номера. Само че нито едно от тях не съществува. ChatGPT ги е измислил, а адвокатът не е проверил.
Обикновено четем такива истории като чужда грешка. Но въпросът, който остава, е ваш: ако AI сгреши във вашата компания, кой носи отговорност за грешки на AI, направени с негова помощ?
AI не носи отговорност. Тя остава на човека и на компанията, които са го използвали. Инструментът е като служител без задължения, но грешките му са ваши.
Важното накратко
- AI халюцинира. Той генерира уверено звучащи, но неверни твърдения. Проблемът не е, че бърка, а че бърка убедително.
- Отговорността е ваша. В делото Mata срещу Avianca от 2023 г. съд глоби адвокати с 5000 долара, защото подали измислени от ChatGPT дела. Инструментът не понесе нищо.
- Компанията отговаря и за своя чатбот. В делото Moffatt срещу Air Canada от 2024 г. съдът прие, че авиокомпанията дължи обезщетение за грешния съвет на бота си, и отхвърли довода, че ботът е отделно лице.
- Решението не е да забраните AI. То е да сложите човек на проверката там, където грешка стига до клиент, договор или съд.
Какво всъщност е AI халюцинация?
AI не знае фактите. Той предсказва кой е най-вероятният следващ текст. Затова понякога съчинява: несъществуващо съдебно дело, измислена цифра, клауза, която звучи правдоподобно, но я няма никъде.
Това се нарича халюцинация. Моделът твърди с пълна увереност неща, които не са верни.
В бизнеса това се среща ежедневно ако служителите използват AI. Измислена цифра в оферта, несъществуващ източник в доклад, погрешно резюме на договорна клауза. Всяко от тях изглежда напълно нормално, докато някой не го провери.
И тук е капанът. Грешката не идва с предупреждение. Изглежда точно като верен отговор, със същия тон и същата увереност.
По-новите модели халюцинират по-рядко, но не спират напълно. Увереността остава, дори когато фактът липсва.
AI звучи еднакво уверено, когато е право и когато греши. Точно тази увереност е рискът, а не самата грешка.
Кой носи отговорност, когато AI сгреши?
Най-ясният отговор дойде от съда. В делото Mata срещу Avianca двама адвокати подадоха становище с шест позовавания, които ChatGPT беше измислил изцяло, с фалшиви имена, цитати и номера на дела.
Когато възникнаха съмнения, единият адвокат попита ChatGPT дали делата са истински. Инструментът потвърди, че са. Не бяха.
През 2023 г. съдът глоби адвокатите и кантората им с 5000 долара. Забележете кой понесе последствията: не ChatGPT, а хората, които му се довериха, без да проверят.
Съдията описа един от измислените анализи като „безсмислица“. Но истинската поука е друга.
Съдът беше пределно ясен по един въпрос. Проблемът не беше самото ползване на AI, а липсата на проверка и опитът грешката да се прикрие. Отговорността не се прехвърля на инструмент.
Инструментът няма лиценз, няма застраховка и няма какво да загуби. Вие имате. Затова отговорността за грешките му е ваша. Това е сред най-подценяваните рискове от AI в бизнеса.
Отговаряте ли и за своя чатбот пред клиента?
Ако мислите, че това важи само за адвокати, вторият случай е още по-близо до бизнеса.
Клиент на Air Canada попитал чатбота на сайта за намалена цена при пътуване заради смърт в семейството. Ботът му дал грешен съвет: че може да поиска намалението със задна дата, след пътуването. Политиката на компанията не позволявала това.
Air Canada отказала намалението. Клиентът завел дело. Защитата на компанията била изненадваща: че чатботът бил отделно лице, което отговаря само за себе си.
През 2024 г. съдът отхвърли този довод. Приел, че компанията дължи грижа към клиента, че ботът е част от нея, и я осъди да плати обезщетение от около 650 канадски долара.
Сумата е дребна. Принципът не е. Вашият AI, независимо дали е чатбот на сайта или асистент, който пише имейли, говори от ваше име.
И макар делото да е канадско, логиката му е близка до европейската. По потребителското право съд в ЕС вероятно би стигнал до сходен извод: който пуска AI пред клиенти, отговаря за това, което той им казва. За българския бизнес това означава едно на практика: чатботът на сайта и автоматичните отговори не са извън правилата, а част от тях.
Пред клиента не стои „ботът каза“. Стои вашата компания, с всичко, което е обещал ботът от нейно име.
Как една халюцинация стига до клиента
Не е нужно да сте авиокомпания. Достатъчна е една оферта.
Служител подготвя предложение за клиент и моли AI да допълни техническите параметри и една референтна цифра. Инструментът връща спретнат текст с точни на вид числа. Изглеждат правдоподобно, затова никой не ги проверява.
Офертата заминава. Клиентът я чете като ваш ангажимент, защото на нея стои вашето име, не името на модела.
Ако едно от числата е измислено, разликата вече не е техническа грешка. Тя е обещание, което не можете да спазите.
Ето защо мястото на проверката има значение. Вътрешна бележка, сгрешена от AI, е дребен проблем. Същата грешка в документ до клиент е съвсем друг разговор. Един и същ инструмент, един и същ текст, но съвсем различна цена на грешката.
Защо „но това го каза AI“ не е защита?
И двата случая сочат към едно и също. Отговорността следва решението, а решението остава човешко.
Когато служител ползва грешен резултат в работа за клиент, отговаря компанията. Когато чатбот подведе клиент, отговаря компанията. Когато AI измисли факт в документ, отговаря човекът, който го е подписал.
По GDPR вие оставате администратор на данните. По потребителското право отговаряте за информацията, която давате. По професионалните правила носите отговорност за това, което подавате нататък.
Инструментът не е субект в нито едно от тях. Той е ваш избор, а изборът носи отговорност. Можете да делегирате задачата на AI, но не и отговорността за резултата.
Пред клиента, съда и регулатора стои вашето име, не името на модела. Тази илюзия за прехвърлена отговорност е сред удобните митове за AI, които излизат скъпо.
Кои употреби носят най-голям риск?
Не всяка задача изисква еднаква предпазливост. Рискът расте, когато резултатът напуска компанията или влиза в решение.
Най-висок риск носят текстовете към клиенти и партньори, договорите и правните формулировки, числата в оферти и отчети, и всичко, свързано с подбор, здраве или пари на хора. Тук една халюцинация не остава вътрешна.
По-нисък риск имат вътрешните чернови, идеите за “мозъчна атака” (brainstorm) и първите варианти, които и без това ще минат през човек. Там AI може да работи по-свободно.
Разликата не е в инструмента, а в това докъде стига грешката му. Затова правилото се пише спрямо изхода, не спрямо задачата. Питайте не само каква е задачата, а и ако това е грешно, кой го забелязва и колко късно. Колкото по-навън и по-необратимо е действието, толкова по-строга да бъде проверката.
Как да намалите риска, без да спирате да ползвате AI?
Изводът не е да се откажете от AI. Той е да решите предварително къде грешка е поносима и къде не е. Целта не е повече бюрокрация, а проверка точно там, където има значение.
Първо, сложете човек на проверката там, където резултатът излиза навън или влиза в решение: оферта, договор, отговор до клиент, число в отчет. Вътрешна чернова е едно, документ до клиент е съвсем друго.
Второ, проверявайте фактите, цифрите и позоваванията срещу източник, а не срещу самия AI. Инструментът не е добър съдник на собствените си грешки, както видя адвокатът, който го попита дали измислените дела са истински.
Трето, решете кои задачи изобщо не поверявате на AI без надзор. Кои процеси да оставите на човек е тема сама по себе си, затова разгледайте кои процеси да не автоматизирате.
Четвърто, обучете екипа да гледа на AI като на бърз, но неопитен сътрудник, чиято работа винаги се преглежда. Тази нагласа е част от AI грамотност на екипа.
Пето, оставете следа кой е проверил какво. Когато проверката има ясен собственик, тя се случва. Когато отговорността е ничия, всеки предполага, че друг я е поел.
Тези проверки не са спирачка. Те са коланът, който ви позволява да карате по-бързо. Подредени заедно, те са част от петте стълба на AI готовността.
Първата стъпка не е да се доверявате по-малко. Първата стъпка е да решите къде проверката е задължителна.
Често задавани въпроси
Мога ли да изключа халюцинациите напълно?
Не. Можете да ги намалите с по-добри подсказки, с добавяне на проверени източници и с по-нови модели, но рискът не пада до нула. Затова проверката от човек остава задължителна там, където грешка има цена.
Кой отговаря, ако служител използва грешен AI резултат в работа за клиент?
Компанията, а след нея служителят. Инструментът не носи отговорност. Точно затова е важно правилото кой какво може да ползва и къде е нужна проверка.
Отговарям ли за чатбота на моя сайт?
Да. Делото Air Canada показва, че компанията отговаря за информацията, която нейният бот дава на клиенти. Доводът, че ботът е отделно лице, не мина в съда. Ако пускате чатбот или автоматичен асистент, отговаряте за това, което той обещава от ваше име.
По-новите модели халюцинират ли по-малко?
По-малко, но не спират. И което е по-важно, продължават да звучат уверено, когато грешат. Затова не можете да разчитате само на модела да се самопроверява. Надеждната практика не залага на съвършен модел, а на процес, който хваща грешката преди клиента.
Откъде да започна на практика?
Направете списък кои ваши употреби на AI стигат до клиент, договор или официален документ. Точно там сложете задължителна човешка проверка. Този кратък списък е по-полезен от всяко общо правило, защото показва къде една грешка наистина има цена. Бърза начална снимка на готовността дава самооценката AI Ready Score.
Грешката на AI е ваша само ако сте я пуснали без проверка
AI ще сгреши. Това е даденост, не изненада. Разликата между компаниите не е дали ползват AI, а дали са решили предварително къде човек проверява.
Който сложи проверката на правилното място, ползва скоростта на AI без сметката за грешките му.
Който разчита на „AI го каза“, рано или късно плаща и за двете.
Изкуственият интелект не поема вина. Хората и компаниите я поемат. Затова разумният подход не е повече доверие, а по-добре поставени проверки.
Ако искате да знаете точно кои ваши употреби носят риск и къде е нужен човек, обучението кога AI създава проблем минава през това с реални примери, без код и без жаргон.
Аз съм Мариела Славенова, основател на Marinext AI и създател на AI Ready Standard, стандарт за AI готовност на бизнеса. Помагам на организации да заменят удобните митове с ясни числа и работещи системи.
