Поставете ясни граници: защо по-умните AI агенти се нуждаят от по-ясни университетски правила

Plamen MILTENOFF

Podcast

Подкаст

Anthropic’s safeguard for Claude Fable 5 drew attention because requests in sensitive fields can now be blocked or redirected to Claude Opus 4.8. The safeguard focuses mainly on high-risk cybersecurity, biology, and related uses. Anthropic uses classifiers to distinguish harmful requests from defensive or benign work, while acknowledging its wider safety margin may also block legitimate queries. ([Anthropic][1])

This technical safeguard matters, but Phillip Alcock’s article, “State the Boundaries with Claude Fable 5,” identifies a second problem universities will meet more often. A model may produce safe content and still take an action the user did not request. It may edit a file when the user wanted an assessment, draft an email when the user asked for advice, or continue beyond the expected stopping point. ([aiforbeginners.substack.com][2])

The issue goes beyond a verbal return by an AI system. The greater issue becomes the ability of AI to do certain actions.

From prompts to operating instructions
Earlier chatbots mainly answered questions and generated text. Agentic systems can search files, use tools, run commands, analyse data, coordinate subagents, and modify materials. Anthropic presents Fable 5 as a model for long-running, multistage work with limited supervision. Its prompting guidance advises users to set limits, require evidence before actions that change a system, and create checkpoints before destructive, irreversible, or out-of-scope steps. ([Claude Platform][3])

A task such as “improve this report” cease to be sufficiently precise. Does “improve” permit rewriting the argument, replacing references, changing tables, or sending the document to colleagues?

A safer instruction separates assessment from action:

“Evaluate the report’s structure, evidence, and clarity. Do not rewrite, delete, add sources, or change the original file. List proposed changes and stop for approval.”

The prompt becomes a temporary operating specification. It defines the goal, permitted resources, prohibited actions, approval points, evidence requirements, and completion conditions.

Why this matters for teaching
Alcock offers a useful educational principle: assessment should come before intervention. When an instructor shares a student answer, the model should not immediately rewrite it. It should first identify the level of student’s understanding, possible misconceptions, supporting evidence, and missing evidence. ([aiforbeginners.substack.com][2])

At the University of Economics Varna, an instructor might submit a student explanation of price elasticity. Claude could diagnose whether the student confuses movement along a demand curve with a shift in demand. The boundary would state:

“Do not correct the answer yet. Diagnose the misunderstanding, propose three follow-up questions, and stop.”

This keeps the instructor in control and supports learning rather than answer substitution. The same approach can support accounting exercises, tourism cases, marketing plans, programming assignments, and public administration scenarios.

Students should also learn to define the limits of AI participation. An assignment might permit brainstorming and feedback while prohibiting the generation of the final answer. Another might allow data cleaning code but require the student to select and justify the statistical method.

Why this matters for research
Research workflows require stricter boundaries. An AI agent working with survey data should not change raw files, invent missing values, remove outliers, select a statistical model, or draft conclusions without permission. A research prompt should identify protected source files, approved transformations, required logs, and stages needing human review.

Asking a model to “check its work” helps, but self-review may repeat the same error. Anthropic recommends grounding progress reports in tool results and using separate verifier agents with fresh context for complex tasks. Researchers should also rerun code, inspect calculations, verify citations, compare outputs with the research protocol, and record the model, prompts, tools, and transformations. ([Claude Platform][3])

If Claude Fable 5 flags a request, Anthropic may switch it to Opus 4.8. Researchers should note this because different models may give different results.

Privacy requires equal attention. Fable 5, as per Anthropic’s statement, requires 30-day data retention for safety monitoring. UE Varna should therefore exclude personal student records, confidential correspondence, unpublished sensitive datasets, contractual information, and identifiable research data unless an approved institutional arrangement permits their use. ([Anthropic][5])

Where UE Varna should start
The university can begin with three low-risk pilots: diagnostic feedback on anonymised student answers, literature organisation using public sources, and administrative drafting without sending or publishing.

Each pilot should use a standard boundary block:

“Work only with the supplied materials. Do not invent data, evidence, quotations, or citations. Do not alter original files. Do not contact anyone, publish, submit, grade, or make an irreversible change. Mark uncertainty. Record the steps taken. Stop for approval before moving from assessment to action.”

UE Varna can then introduce four permission levels: read and assess; recommend and draft; modify approved materials; execute external actions. Only authorised staff should approve movement to the final level. This approach reflects wider work on agent governance, which stresses authorization, human approval, logging, accountability, and data provenance. ([nccoe.nist.gov][6])

Faculty development should teach boundary setting alongside prompting. Workshops should use examples from economics, finance, accounting, management, tourism, informatics, and administration. Students should learn to state what they want AI to do, what evidence it should use, when it must stop, and what it must not do.

A small cross-unit group involving academic staff, researchers, the library, IT, data protection, quality assurance, and student representatives can review the pilots and create discipline-specific templates. The group should define data categories, logging expectations, approval points, and procedures for reporting failures.

The lesson from Fable 5 reaches beyond one model. As AI systems gain autonomy, responsible use depends on permissions, evidence, and accountable human decisions. The next stage of AI literacy at UE Varna should move beyond better prompts. Faculty, researchers, students, and administrators need to learn to design clear boundaries around AI-assisted work.

Новият защитен механизъм на Anthropic за Claude Fable 5 привлече внимание, защото заявки в чувствителни области вече могат да бъдат блокирани или пренасочвани към Claude Opus 4.8. Защитата се отнася основно до високорискови приложения в киберсигурността, биологията и сродни области. Anthropic използва класификатори, за да различава опасните заявки от легитимните и защитни приложения, като признава, че по-широките защитни граници могат да блокират и напълно допустими въпроси.
Този технически защитен механизъм е важен. Но статията на Phillip Alcock „State the Boundaries with Claude Fable 5“ посочва втори проблем, с който университетите ще се сблъскват по-често. Един AI модел може да създаде безопасно съдържание, но да извърши действие, което потребителят не е поискал. Например може да редактира файл, когато потребителят иска само оценка, да напише имейл вместо да даде съвет или да продължи работа след очакваната крайна точка.
Въпросът вече не е само какво може да каже една AI система. Въпросът е какво ѝ е позволено да прави.
От промпт към работни инструкции
По-ранните чатботове основно отговаряха на въпроси и създаваха текст. Съвременните AI агенти могат да търсят във файлове, да използват инструменти, да изпълняват команди, да анализират данни, да координират други агенти и да променят материали.
Anthropic представя Claude Fable 5 като модел за дълги и многоетапни задачи с ограничено човешко наблюдение. Затова компанията препоръчва потребителите да задават ясни ограничения и да изискват одобрение преди необратими, рискови или непоискани действия.
Заявка като „Подобри този доклад“ вече не е достатъчно точна. Позволява ли „подобри“ пренаписване на аргументите, смяна на източници, промяна на таблици или изпращане на документа до колеги?
По-безопасна инструкция би звучала така:
„Оцени структурата, доказателствата и яснотата на доклада. Не пренаписвай, не изтривай, не добавяй източници и не променяй оригиналния файл. Представи списък с предложения и изчакай одобрение.“
Така промптът се превръща в работна инструкция. Той определя целта, позволените ресурси, забранените действия, моментите за одобрение и условията за приключване.
Защо това е важно за преподаването
Alcock предлага полезен образователен принцип: оценката трябва да предхожда намесата.
Когато преподавател предостави студентски отговор, моделът не трябва веднага да го пренаписва. Първо трябва да посочи какво студентът разбира, къде има възможно неразбиране и какви доказателства липсват.
В Икономически университет Варна преподавател може да предостави студентско обяснение на ценовата еластичност. Claude може да установи дали студентът обърква движение по кривата на търсенето с изместване на самата крива.
Границата може да бъде зададена така:
„Не поправяй отговора. Определи възможното неразбиране, предложи три уточняващи въпроса и спри.“
Това запазва контрола у преподавателя и подкрепя ученето, вместо да замества мисленето на студента.
Същият подход може да се прилага при задачи по счетоводство, туризъм, маркетинг, програмиране и публична администрация.
Студентите също трябва да се научат да определят границите на участието на AI. Една задача може да позволява идеи и обратна връзка, но да забранява създаването на окончателния отговор. Друга може да разрешава код за почистване на данни, но да изисква студентът сам да избере и обоснове статистическия метод.
Защо това е важно за научните изследвания
Научните работни процеси изискват още по-ясни граници.
AI агент, който работи с анкетни данни, не трябва самостоятелно да променя суровите файлове, да попълва липсващи стойности, да премахва крайни наблюдения, да избира статистически модел или да пише заключения без разрешение.
Изследователският промпт трябва да посочва:
кои файлове не могат да бъдат променяни;
какви трансформации са позволени;
какво трябва да се документира;
кои действия изискват човешко одобрение.
Да помолим модела да „провери работата си“ е полезно, но не е достатъчно. Моделът може да повтори същата грешка. Затова изследователите трябва да проверяват кода, изчисленията, цитатите и съответствието с изследователския протокол.
Ако Claude Fable 5 маркира дадена заявка, Anthropic може да я прехвърли към Opus 4.8. Изследователите трябва да отбелязват това, защото различните модели могат да дадат различни резултати.
Поверителността също е важна. Anthropic посочва, че данните при работа с Fable 5 могат да бъдат съхранявани за 30 дни за целите на безопасността. Затова ИУ Варна не трябва да използва лични студентски данни, поверителна кореспонденция, чувствителни непубликувани масиви или договорна информация без одобрена институционална рамка.
Откъде може да започне ИУ Варна
Университетът може да започне с три нискорискови пилотни приложения:
диагностична обратна връзка върху анонимизирани студентски отговори;
организиране на литература от публични източници;
подготовка на административни текстове без автоматично изпращане или публикуване.
Всеки пилот може да използва стандартен блок с ограничения:
„Работи само с предоставените материали. Не измисляй данни, доказателства, цитати или източници. Не променяй оригиналните файлове. Не изпращай, не публикувай, не оценявай и не извършвай необратими действия. Посочвай несигурността. Записвай извършените стъпки. Спри и поискай одобрение, преди да преминеш от анализ към действие.“
ИУ Варна може да въведе четири нива на разрешение:
Първо ниво: чети и анализирай.
Второ ниво: препоръчвай и подготвяй чернови.
Трето ниво: променяй одобрени материали.
Четвърто ниво: извършвай външни действия.
Само оторизирани служители трябва да одобряват преминаването към последното ниво.
Обученията за преподаватели трябва да включват задаване на граници наред с писането на промптове. Примерите трябва да отразяват спецификата на икономиката, финансите, счетоводството, управлението, туризма, информатиката и публичната администрация.
Студентите трябва да се научат да посочват:
какво искат AI да направи;
какви източници може да използва;
кога трябва да спре;
какво няма право да променя или изпълнява.
Малка работна група с представители на преподавателите, изследователите, библиотеката, информационните технологии, защитата на данните, качеството на обучението и студентите може да оцени пилотните дейности и да създаде шаблони за различните дисциплини.
Урокът от Claude Fable 5 се отнася за всички AI агенти. Когато системите получават повече автономност, отговорната им употреба зависи от ясни разрешения, проверими действия и човешка отговорност.
Следващият етап на AI грамотността в ИУ Варна трябва да надхвърли писането на по-добри промптове. Преподавателите, изследователите, студентите и администрацията трябва да се научат да поставят ясни граници на работата с AI.