Защо управлението на ИИ е по-важно от закупуването на най-новия AI модел
| Podcast | Подкаст |
| Many organizations still begin their AI journey with a shopping question: Which model should we buy? Should we choose ChatGPT, Claude, Gemini, Copilot, or another enterprise platform? Which system has the strongest benchmark results? Which licence offers the best features? Which vendor promises the fastest productivity gains? These questions are understandable, but they start the conversation in the wrong place. A recent LinkedIn post by Andreas Horn captures the problem through a simple image. Companies often picture AI as a direct path from data to value. Data enters the system, AI processes it, and business value appears. The real process contains many less visible stages: sourcing data, cleaning it, defining quality, testing outputs, deploying systems, monitoring performance, retraining models, managing security, addressing bias, and meeting legal and ethical requirements. The model is only one component within this wider system. Foundation models have made it easier to produce impressive prototypes. A team can upload documents, connect a chatbot, build a demonstration, and show convincing results within days. This speed can create a false impression of readiness. A prototype demonstrates the model’s abilities to perform under selected conditions. It does not show whether the organization can use the system responsibly, reliably, and at scale. The difficult questions appear after the demonstration. What counts as a correct answer? Which errors are acceptable? Who reviews the output? Who approves the system for use? What happens when the model gives different answers to the same question? Who detects declining performance? Who has authority to stop the system? Who is responsible when an AI-supported decision harms a customer, employee, student, or citizen? These are governance questions. A software licence does not answer them. The most important insight from the discussion around Horn’s post concerns the definition of “correct.” Many AI teams treat evaluation as a technical matter. They look at accuracy scores, response quality, latency, or benchmark performance. Yet correctness in a real organisation depends on professional judgment, business rules, institutional priorities, legal obligations, and acceptable levels of risk. Consider a university using AI to support student feedback. A technically fluent answer may still conflict with the course learning outcomes. It may offer too much assistance, overlook disciplinary conventions, or provide incorrect references. Before introducing the system, faculty must decide what useful feedback means, which parts require human judgment, what students should verify, and where AI assistance becomes inappropriate. The same issue appears in business. An AI-generated customer response may sound convincing while violating company policy. A financial recommendation may look reasonable while relying on outdated data. A recruitment tool may rank candidates efficiently while reproducing historical bias. In each case, model performance alone provides an incomplete measure of quality. Governance turns vague expectations into operational rules. Good governance identifies who owns the process, who owns the data, who defines acceptable performance, who reviews exceptions, and who accepts the remaining risk. It also establishes documentation, monitoring, escalation, and audit requirements. Organizations should resist the temptation to describe AI as a technology project. AI adoption changes workflows, responsibilities, decision rights, and professional roles. It affects people’s performance, managers’ supervision, institutions’ documentation of decisions, and the distribution of accountability . Buying software is easy compared with redesigning an operating model. The comments on Horn’s post also highlight a second problem: many organizations do not have the knowledge foundation they assume they have. Important procedures remain undocumented. Employees carry years of experience in their heads. Different departments use conflicting definitions. Data sources contain missing context, unknown origins, old classifications, and inconsistent records. An AI system cannot reliably apply organizations’s knowledge which as not been documented. Connecting a language model to disorganized information does not create institutional understanding. It gives the model faster access to the organization’s inconsistencies. This is the reason for data governance and knowledge management to come before large-scale AI deployment. Organizations need to know which data they hold, who owns it, whether it is current, how it was collected, what legal restrictions apply, and how different terms are defined. The financial case also changes when governance becomes central. AI budgets often focus on licences, implementation, and initial development. Yet the largest costs may appear later through continuous evaluation, human review, security controls, system integration, incident management, staff training, and compliance. A successful pilot may therefore become more expensive as adoption grows. More users produce more interactions. More interactions create more exceptions. Customer-facing systems require stronger monitoring than internal experiments. Higher-risk decisions require better evidence, documentation, and oversight. Organisations should ask two questions before purchasing an AI system. What will this cost when everyone uses it? What must we maintain when the system becomes part of daily work? A responsible strategy does not mean creating layers of bureaucracy around every AI use. A low-risk tool for brainstorming meeting titles does not need the same controls as an AI system supporting admissions, assessment, lending, healthcare, or employment decisions. Governance should match the level of risk. Institutions can begin with narrow use cases. They can identify one clear workflow, improve the process before automating it, define the desired outcome, assign an owner, test the system under realistic conditions, and collect evidence of its effect. They should measure whether the complete task improved, rather than whether individual AI responses looked impressive. The central lesson is simple. Access to advanced models will become increasingly common. The difference between organisations will come from their ability to integrate AI into trusted processes, evaluate results, manage risks, document decisions, and maintain human accountability. The next AI procurement discussion should therefore begin with a different question. Not “Which model should we buy?” But “Are we ready to govern what the model will do?” | Много организации все още започват своя път към използването на изкуствен интелект с един въпрос, свързан с покупка: Кой модел да изберем? Да използваме ли ChatGPT, Claude, Gemini, Copilot или друга корпоративна платформа? Коя система има най-добри резултати в бенчмарк тестовете? Кой лиценз предлага най-много възможности? Кой доставчик обещава най-бързо повишаване на производителността? Тези въпроси са напълно логични. Проблемът е, че разговорът започва от грешното място. LinkedIn постът на на Andreas Horn илюстрира това с едно просто изображение. Компаниите често си представят ИИ като пряк път от данните до стойността. Данните влизат в системата, ИИ ги обработва и автоматично се създава бизнес стойност. В действителност процесът е много по-сложен и включва редица по-малко видими етапи: събиране на данни, почистване и подготовка, определяне на критериите за качество, тестване на резултатите, внедряване на системите, непрекъснато наблюдение на тяхната работа, повторно обучение на моделите, управление на сигурността, ограничаване на пристрастията и спазване на законовите и етичните изисквания. Самият модел е само един компонент от тази много по-широка система. Базовите езикови модели значително улесниха създаването на впечатляващи прототипи. Един екип може да качи документи, да свърже чатбот, да изгради демонстрация и само за няколко дни да покаже убедителни резултати. Тази скорост лесно създава погрешното усещане, че организацията е готова за внедряване. Един прототип показва какво може моделът при определени условия. Той не показва дали организацията може да използва системата отговорно, надеждно и в голям мащаб. Истински трудните въпроси възникват след демонстрацията. Какво означава правилен отговор? Кои грешки са приемливи? Кой проверява резултатите? Кой одобрява използването на системата? Какво се случва, ако моделът даде различни отговори на един и същ въпрос? Кой установява, че качеството на работа започва да се влошава? Кой има правомощия да спре системата? Кой носи отговорност, когато решение, подпомогнато от ИИ, навреди на клиент, служител, студент или гражданин? Това не са въпроси, свързани със софтуера. Това са въпроси на управлението. Закупуването на лиценз не дава отговор на нито един от тях. Най-важното послание от дискусията около публикацията на Horn е свързано с определението за „правилен резултат“. Много екипи разглеждат оценяването като чисто техническа задача. Те измерват точност, качество на отговорите, време за реакция или резултати от бенчмарк тестове. В реалната организация обаче правилният резултат зависи от професионалната преценка, бизнес правилата, институционалните приоритети, законовите изисквания и допустимото ниво на риск. Да вземем университет, който използва ИИ за подпомагане на обратната връзка към студентите. Един технически добре формулиран отговор може да противоречи на учебните резултати на курса. Той може да предостави прекалено голяма помощ, да пренебрегне особеностите на конкретната научна дисциплина или да съдържа неточни препратки. Преди подобна система да бъде въведена, преподавателите трябва да определят какво означава полезна обратна връзка, кои части изискват човешка преценка, какво студентите трябва сами да проверяват и в кои случаи използването на ИИ е неподходящо. Същият проблем съществува и в бизнеса. Генерираният от ИИ отговор към клиент може да звучи убедително, но да нарушава фирмените политики. Финансова препоръка може да изглежда разумна, но да се основава на остарели данни. Система за подбор на персонал може ефективно да класира кандидатите, като същевременно възпроизвежда исторически пристрастия. Във всички тези случаи качеството на модела само по себе си не е достатъчен показател за качеството на крайното решение. Управлението превръща неясните очаквания в ясни оперативни правила. Доброто управление определя кой е собственик на процеса, кой отговаря за данните, кой определя критериите за приемливо качество, кой разглежда изключенията и кой поема остатъчния риск. То също така определя правилата за документиране, наблюдение, ескалация и одит. Организациите трябва да устоят на изкушението да разглеждат ИИ като поредния технологичен проект. Внедряването на ИИ променя работните процеси, отговорностите, правомощията за вземане на решения и професионалните роли. То влияе върху начина, по който хората работят, как ръководителите упражняват контрол, как институциите документират своите решения и как се разпределя отговорността. Закупуването на софтуер е значително по-лесно от промяната на начина, по който функционира една организация. Коментарите под публикацията на Horn подчертават и втори сериозен проблем. Много организации смятат, че разполагат със стабилна база от знания, но в действителност това не е така. Важни процедури никога не са били документирани. Служителите пазят години натрупан опит единствено в собствената си памет. Различните отдели използват различни определения за едни и същи понятия. Източниците на данни съдържат липсващ контекст, неизвестен произход, остарели класификации и несъответствия. Една AI система не може надеждно да използва знания, които организацията никога не е документирала. Свързването на езиков модел с хаотично организирана информация не създава институционално знание. То просто дава на модела по-бърз достъп до организационните несъответствия. Именно затова управлението на данните и управлението на знанията трябва да предхождат широкомащабното внедряване на ИИ. Организациите трябва да знаят с какви данни разполагат, кой ги притежава, дали са актуални, как са събрани, какви законови ограничения се прилагат и как са дефинирани основните понятия. Финансовата страна също изглежда различно, когато управлението заеме централно място. Бюджетите за ИИ често се концентрират върху лицензите, внедряването и първоначалната разработка. Най-големите разходи обаче често възникват по-късно чрез непрекъсната оценка, човешки контрол, мерки за сигурност, интеграция със съществуващи системи, управление на инциденти, обучение на персонала и спазване на нормативните изисквания. Един успешен пилотен проект може да стане значително по-скъп с разширяването на използването му. Повече потребители означават повече взаимодействия. Повече взаимодействия означават повече изключения. Системите, които работят с клиенти или граждани, изискват значително по-строг контрол от вътрешните експерименти. Решенията с по-висок риск изискват повече доказателства, повече документация и по-строг надзор. Преди да закупят AI система, организациите трябва да си зададат два въпроса. Колко ще струва тази система, когато започне да се използва от всички? Какво ще трябва да поддържаме, когато тя стане част от ежедневната работа? Отговорната стратегия не означава изграждане на излишна бюрокрация около всяко приложение на ИИ. Инструмент за генериране на идеи за заглавия на срещи не се нуждае от същите механизми за контрол като система, подпомагаща приема на студенти, оценяването, отпускането на кредити, здравеопазването или решенията за назначаване на служители. Управлението трябва да бъде съобразено с нивото на риска. Институциите могат да започнат с малки, ясно определени случаи на употреба. Те могат да изберат един конкретен работен процес, да го подобрят преди автоматизацията, да определят желания резултат, да назначат собственик на процеса, да тестват системата в реални условия и да събират доказателства за нейния ефект. Успехът не трябва да се измерва с това колко впечатляващи изглеждат отделните AI отговори, а с това дали целият процес работи по-добре. Основният извод е прост. Достъпът до мощни AI модели постепенно ще стане нещо обичайно. Разликата между организациите няма да бъде кой използва най-новия модел, а кой умее да интегрира ИИ в надеждни процеси, да оценява резултатите, да управлява рисковете, да документира решенията и да запази човешката отговорност. Следващият разговор за закупуване на AI система трябва да започне с различен въпрос. Не: „Кой модел да купим?“ А: „Готови ли сме да управляваме това, което моделът ще прави?“ |