When Not to Use AI: A Simple Matrix Every Student and Instructor Should Know

Кога да НЕ използваме изкуствен интелект: матрица, която всеки студент и преподавател трябва да познава

Plamen Miltenoff

sdfgdfsdfdsfg
Students use ChatGPT to explain concepts, summarize articles, and brainstorm ideas. Faculty use AI to prepare lectures, create quizzes, and draft emails. Researchers rely on AI to organize literature, analyze data, and improve writing.
ut one important question often gets overlooked.
Just because AI can do something, should it?
The infographic “The Matrix for Knowing Where Not to Use AI” offers a practical way to think about this question. Instead of asking, “Can AI do this?”, it asks two better questions:
• What happens if AI makes a mistake?
• How much human judgment does this task require?
These two questions help us decide when AI is useful, when it needs supervision, and when it should stay out of the decision altogether.
The Two Questions
Imagine a graph with two scales.
The first measures the cost of error.
If AI makes a mistake, will anyone be seriously affected?
The second measures how much human judgment is required.
Does this task depend on experience, ethics, responsibility, or understanding people?
Depending on your answers, the task falls into one of four categories.
1. Automate
Low cost of error. Low need for human judgment.
These are routine tasks that save time but have little risk.
Examples at the University of Economics Varna include:
• Transcribing an interview.
• Formatting references.
• Summarizing meeting notes.
• Organizing survey responses.
• Converting lecture notes into bullet points.
If AI makes a small mistake, correcting it takes only a few minutes.
This is where AI provides the greatest productivity gains.
2. AI as a First Draft
Low cost of error. High need for human judgment.
Here AI helps you get started, but people improve the final result.
Examples include:
• Drafting emails to students.
• Brainstorming research ideas.
• Creating the first version of a lesson plan.
• Writing a blog post.
• Suggesting discussion questions.
Suppose an instructor asks AI to draft a course announcement.
The AI writes a good first version. The instructor then checks the dates, updates the course information, adjusts the tone, and removes anything inaccurate.
The final message is still the instructor’s responsibility.
Many teaching and writing tasks fit into this category.
3. Review Every Time
High cost of error. Lower need for human judgment.
In these situations AI can help prepare information, but a qualified person must carefully review everything before making a decision.
Examples include:
• Financial reports.
• Statistical analyses.
• Research calculations.
• Legal documents.
• Medical assessments.
Imagine a finance researcher using AI to calculate financial indicators from a large dataset.
The calculations may save hours of work.
However, the researcher still needs to verify the formulas, inspect unusual results, and confirm that the conclusions match the data.
The same principle applies when AI helps write research papers.
AI can organize ideas or improve grammar, but researchers remain responsible for checking citations, interpreting results, and ensuring academic integrity.
As the saying goes:
AI prepares. Humans approve.
4. Don’t Use AI
High cost of error. High need for human judgment.
Some decisions should remain primarily human because they involve ethics, accountability, or understanding people’s circumstances.
Examples include:
• Hiring new faculty members.
• Evaluating staff performance.
• Academic misconduct hearings.
• Student disciplinary decisions.
• Crisis management.
• Ethical decisions in research.
Consider a plagiarism investigation.
An AI tool may identify similarities between documents.
But deciding whether a student intentionally committed misconduct requires context, discussion, and professional judgment.
The same applies when selecting scholarship recipients or evaluating promotion cases.
AI may organize information, but people should make the final decision.
What Does This Mean for Students?
Students often ask whether using AI is “allowed.”
A better question is:
What role should AI play in this task?
Using AI to summarize lecture notes before studying differs from asking AI to complete an assignment without understanding the material.
One supports learning.
The other replaces learning.
What Does This Mean for Faculty?
Faculty face similar decisions.
Should AI write feedback on student work?
Should AI recommend grades?
Should AI generate exam questions?
The answer depends on the level of human judgment involved.
AI works best as an assistant, not as the instructor.
AI Literacy Means Knowing When Not to Use AI
Many AI discussions focus on learning prompts or exploring new tools.
Those skills matter, but responsible AI use starts with judgment.
Before opening ChatGPT, Claude, Gemini, Copilot, or another AI assistant, ask yourself:
• What happens if the AI is wrong?
• Who is responsible for the final decision?
• Does this task require human experience, ethics, or accountability?
If you can answer those questions, you are already developing one of the most important AI literacy skills.
Knowing how to use AI is valuable.
Knowing when not to use AI is even more important.		Студентите използват ChatGPT, за да разберат трудни понятия, да обобщават статии и да генерират идеи. Преподавателите използват ИИ за подготовка на лекции, тестове и учебни материали. Изследователите разчитат на него при преглед на литература, анализ на данни и подобряване на академичното писане.
Но има един важен въпрос, който често остава на заден план.
Само защото ИИ може да извърши дадена задача, означава ли, че трябва?
Инфографиката „Матрицата за това къде не трябва да използваме ИИ“ предлага лесен начин да отговорим на този въпрос. Вместо да се питаме „Може ли ИИ да го направи?“, тя ни насочва към два по-важни въпроса:
• Какви ще бъдат последствията, ако ИИ допусне грешка?
• Колко човешка преценка изисква тази задача?
Отговорите на тези два въпроса ни помагат да разберем кога ИИ е полезен, кога трябва внимателно да проверяваме резултатите му и кога решенията трябва да останат изцяло в ръцете на хората.
Двата въпроса
Представете си координатна система с две оси.
Вертикалната ос показва цената на грешката.
Ако ИИ сгреши, колко сериозни могат да бъдат последствията?
Хоризонталната ос показва необходимостта от човешка преценка.
Изисква ли задачата опит, етика, професионална отговорност или разбиране на човешките отношения?
В зависимост от отговорите всяка задача попада в една от четири категории.
1. Автоматизирайте
Ниска цена на грешката. Малка необходимост от човешка преценка.
Това са рутинни дейности, които отнемат време, но не носят сериозен риск.
Примери в Икономически университет, Варна:
• транскрибиране на интервю;
• форматиране на библиография;
• обобщаване на протоколи от заседания;
• организиране на резултати от анкети;
• преобразуване на лекционни записки в кратки бележки.
Дори ИИ да допусне малка неточност, тя лесно може да бъде открита и поправена.
Тук използването на ИИ спестява най-много време.
2. ИИ като първа чернова
Ниска цена на грешката. Висока необходимост от човешка преценка.
Тук ИИ помага да започнем работата, но човекът създава крайния продукт.
Примери:
• първа версия на имейл до студенти;
• идеи за научно изследване;
• начален вариант на учебен план;
• публикация за университетски блог;
• въпроси за дискусия в семинар.
Например преподавател използва ИИ, за да подготви съобщение за Moodle.
ИИ генерира текста, но преподавателят проверява датите, добавя конкретната информация за курса, променя стила и премахва евентуални неточности.
Крайният резултат остава негова отговорност.
Голяма част от преподавателската и административната работа попада именно в тази категория.
3. Проверявайте всеки път
Висока цена на грешката. По-малка необходимост от човешка преценка.
Тук ИИ може да помогне при подготовката на информацията, но специалистът трябва внимателно да провери всичко преди използване.
Примери:
• финансови отчети;
• статистически анализи;
• изчисления в научни изследвания;
• юридически документи;
• медицински оценки.
Представете си преподавател по финанси, който използва ИИ за изчисляване на финансови показатели върху голям набор от данни.
ИИ изпълнява изчисленията за минути.
След това преподавателят проверява използваните формули, анализира необичайните резултати и преценява дали изводите съответстват на данните.
Същото важи и за научните публикации.
ИИ може да помогне при структурирането на текста, редактирането или подобряването на езика, но авторът носи отговорност за методологията, анализа, интерпретацията и използваните източници.
Принципът е прост:
ИИ подготвя. Човекът одобрява.
4. Не използвайте ИИ
Висока цена на грешката. Висока необходимост от човешка преценка.
Има решения, които трябва да останат предимно човешки, защото включват етика, професионална отговорност и разбиране на конкретната ситуация.
Примери в университета:
• назначаване на преподаватели;
• оценяване на представянето на служители;
• комисии по академична етика;
• дисциплинарни производства срещу студенти;
• управление на кризисни ситуации;
• решения, свързани с научната етика.
Например ИИ може да открие сходства между студентска работа и други източници.
Но решението дали е налице академично нарушение не трябва да бъде вземано от алгоритъм.
Комисията трябва да разгледа контекста, намеренията на студента и всички налични доказателства.
По същия начин ИИ може да помогне при организиране на информация за кандидатите за стипендии или академични длъжности, но окончателното решение принадлежи на хората.
Какво означава това за студентите?
Студентите често питат:
„Разрешено ли е да използвам ИИ?“
По-полезният въпрос е:
„Каква трябва да бъде ролята на ИИ при тази задача?“
Да използвате ИИ, за да обобщите лекция преди изпит, е различно от това да оставите ИИ да напише цялото домашно вместо вас.
В първия случай ИИ подпомага ученето.
Във втория той го замества.
Какво означава това за преподавателите?
Преподавателите също ежедневно вземат подобни решения.
Трябва ли ИИ да пише обратна връзка към студентските работи?
Трябва ли да предлага оценки?
Трябва ли да генерира изпитни въпроси?
Отговорът зависи от това колко човешка преценка изисква конкретната задача.
ИИ работи най-добре като помощник, а не като преподавател.
ИИ грамотността означава да знаем и кога да не използваме ИИ
Повечето разговори за изкуствения интелект са свързани с нови инструменти и техники за писане на добри подкани.
Това са полезни умения.
Но отговорното използване на ИИ започва с преценката.
Преди да отворите ChatGPT, Claude, Gemini, Copilot или друг ИИ инструмент, задайте си три въпроса:
• Какви ще бъдат последствията, ако ИИ сгреши?
• Кой носи отговорност за крайното решение?
• Изисква ли задачата човешки опит, етична преценка или професионална отговорност?
Ако можете да отговорите на тези въпроси, вече развивате едно от най-важните умения за работа с изкуствен интелект.
Да знаем как да използваме ИИ е важно.
Да знаем кога да не го използваме е още по-важно.