The Illusion of Learning: When AI Makes Education Too Easy

Илюзията за учене: когато ИИ прави образованието твърде лесно

Plamen MILTENOFF

Artificial intelligence is changing how students study, complete assignments, and solve problems. With tools such as ChatGPT, Claude, and Gemini, students can receive instant explanations, generate analyses, and produce sophisticated answers within seconds.
But does completing a task successfully mean that a student has learned something?
This question lies at the center of a recent paper by Mario Brcic and Stjepan Frljic (2026), The Effortless Trap: Productive Struggle, AI, and the Illusion of Learning.
The authors argue that AI can create an illusion of learning. Students produce better results with AI assistance, feel more confident, and believe they understand the subject. Yet when asked to solve a similar problem independently, they may struggle.
The paper challenges universities to reconsider how they integrate AI into teaching, learning, and assessment.

The Problem Is Not Whether to Use AI, but When
One of the paper’s most important arguments is that the familiar debate about allowing or banning AI misses the educational problem.
What matters is where AI enters the learning process and which intellectual tasks it performs.
The authors draw on research demonstrating that AI can produce opposite learning outcomes depending on how educators introduce it.
For example, a randomized study by Bastani et al. (2025) found that high-school mathematics students using unrestricted AI performed better during practice but scored approximately 17% worse on a subsequent examination without AI than students who had not used the tool. When researchers redesigned the AI tutor to provide hints instead of direct answers, this disadvantage largely disappeared.
In contrast, another study by Kestin et al. (2025) reported that a carefully designed AI tutoring system produced more than twice the learning achieved through an active-learning comparison condition in an undergraduate physics course.
These studies differ in context and methodology, so their results should not be directly generalized across education. Nevertheless, they support an important conclusion: AI’s educational value depends on instructional design, not simply access to technology.

Why Struggling Can Be Good for Learning
The authors build their argument around productive struggle, the intellectual effort students invest when attempting difficult problems, making mistakes, and revising their thinking.
Consider a student learning regression analysis. An AI assistant can immediately explain coefficients, calculate statistical significance, and interpret model outputs.
The student may submit an accurate analysis without understanding how the conclusions were reached.
Alternatively, the instructor can ask the student to interpret the regression results independently before consulting AI. The student may initially misunderstand a coefficient or confuse correlation with causation. These mistakes provide opportunities for learning.
AI can then help by asking questions, identifying weaknesses in the reasoning, and explaining unfamiliar concepts.
The difference is important. In the first situation, AI performs much of the intellectual work. In the second, AI supports the student’s thinking.
The authors propose a six-stage sequence for organizing this process.
1. Prime: Activate students’ prior knowledge and interest.
2. Probe: Present a challenging problem and require an independent first attempt.
3. Point: Provide guiding questions and limited hints.
4. Attach: Introduce explanations and worked examples.
5. Strengthen: Develop understanding through additional practice and feedback.
6. Test: Assess whether students can apply their knowledge independently.
AI can support several stages, particularly through explanations, feedback, and practice exercises. The authors recommend protecting the initial independent attempt and the final assessment from AI assistance.
Their underlying principle is straightforward: AI should reduce unnecessary work without removing the cognitive effort required to acquire the skill.

What the Paper Overlooks
Although the framework is practical, several assumptions deserve closer examination.
First, not all struggle produces learning. A student who lacks essential background knowledge may experience confusion rather than productive effort. Effective instruction must balance challenge with appropriate support.
Second, the six stages suggest a relatively orderly learning process. In practice, learning is often less predictable. Students revisit explanations, alternate between experimentation and practice, and require different forms of assistance.
Third, independent performance is important, but it is not the only educational outcome universities should measure.
Graduates increasingly work in environments where AI supports research, programming, business analysis, and decision-making. Their competence includes knowing how to use AI, evaluate its outputs, identify errors, and decide when human judgment must take priority.
This raises a question extending beyond the paper’s framework:
Should universities assess what students can accomplish independently, what they can achieve with AI, or both?
A reasonable approach is to assess these capabilities separately.
Another overlooked issue concerns the reliability of AI tutors. Asking an AI system to provide hints without revealing answers sounds simple, but maintaining this distinction consistently can be difficult. AI may provide excessive guidance or incorrect feedback.
Finally, the framework requires instructors to understand which cognitive activities are essential for learning. This is especially challenging in large classes, where students differ in knowledge, motivation, and readiness.
These limitations matter when moving from an instructional idea to university-wide practice.

What Does the Research Actually Establish?
Brcic and Frljic’s paper is a theoretical and practical synthesis, rather than an original experimental study.
The authors bring together research on cognitive psychology, productive failure, tutoring, retrieval practice, cognitive load, and AI-supported instruction. They use this evidence to develop their six-stage framework and recommendations for positioning AI in the learning process.
Their strongest contribution is organizing existing evidence into a model educators can apply to individual lessons.
Nevertheless, the complete six-stage framework has not been empirically tested in the paper.
Much of the evidence supporting its components comes from established educational research, while some AI-specific findings are recent, limited to particular settings, or published as preprints.
We therefore cannot conclude that the proposed sequence will consistently improve learning across all disciplines, student populations, or educational levels.
Future research should examine whether the framework improves long-term knowledge retention, independent problem-solving, and the transfer of learning to unfamiliar situations.

A Practical Example from Marketing Analytics
Consider a university course in Marketing Analytics where students investigate whether an advertising campaign increased sales.
The instructor initially provides advertising expenditure and sales data, asking students to evaluate the campaign’s effectiveness without AI.
Some students may conclude that increased sales prove the campaign worked. Others may recognize that seasonal demand, promotions, or competitor activity could explain the observed changes.
Instead of immediately providing the correct interpretation, the instructor introduces AI as a guided tutor.
Students ask AI to challenge their reasoning, explain confounding variables, and provide examples distinguishing correlation from causation.
They then examine a worked example and analyze another dataset with AI-supported feedback.
Finally, students receive a new business problem and must independently interpret the results and defend their conclusions.
This approach preserves the opportunity to learn statistical reasoning while taking advantage of AI’s ability to provide individualized explanations and practice.
Once students demonstrate the required competence, they can use AI more extensively for professional tasks such as coding, data preparation, visualization, and reporting.

What Should Universities Do?
The paper offers an important direction for higher education: universities should move from regulating access to AI toward designing meaningful human participation in learning.
This requires reconsidering assignments, assessment methods, and faculty training.
Rather than asking whether AI is permitted, instructors should identify which skills students must develop independently and where AI assistance adds educational value.
Universities should also distinguish between independent disciplinary competence and AI-supported professional competence. Both matter, but they require different assessment approaches.
Faculty development should therefore extend beyond teaching prompt engineering and introducing new AI tools. It should include instructional design, cognitive load, productive struggle, and methods for evaluating learning in AI-supported environments.
The authors also introduce the idea of cognitive sovereignty, the capacity to think independently rather than depend entirely on external systems.
This concept deserves attention as universities increasingly integrate AI into educational infrastructure.
The objective should not be to make learning unnecessarily difficult or discourage students from using useful technology. It should be to ensure that assistance strengthens their knowledge instead of replacing the thinking necessary to develop it.
The most important question for universities may therefore be:
When students successfully complete an assignment with AI, how do we know they have learned what the assignment was intended to teach?
That question should guide the next stage of AI integration in higher education.

Related Discussions on Our Science & Research Blog
This discussion connects with several earlier articles on our Science & Research Blog. In From AI Use to AI Literacy: What Schools Need to Teach, we examined why frequent AI use does not necessarily indicate AI competence. When AI Enters the Classroom, Which Decisions Should Stay Human? explored the importance of preserving teachers’ professional judgment. Our discussions of MIT and Brown University’s approaches to AI and The New Hybrid: What Should AI Be Allowed to Do in Education? raised related questions about assessment, human responsibility, and the integration of AI into educational infrastructure. Together, these articles point toward a common challenge: how can universities benefit from AI while ensuring that students continue developing independent thinking, critical judgment, and genuine competence?
Strengthen the transition into this sectionClarify each article’s distinct contribution		Изкуственият интелект променя начина, по който студентите учат, изпълняват задания и решават задачи. С инструменти като ChatGPT, Claude и Gemini те получават незабавни обяснения, генерират анализи и създават сложни отговори за секунди.
Но означава ли успешното изпълнение на задача, че студентът е научил нещо?
Този въпрос стои в центъра на публикацията на Марио Бърчич и Степан Фърлич (2026) The Effortless Trap: Productive Struggle, AI, and the Illusion of Learning.
Авторите твърдят, че ИИ може да създаде илюзия за учене. Студентите постигат по-добри резултати с негова помощ, чувстват се по-уверени и вярват, че разбират материала. Когато обаче трябва да решат сходна задача самостоятелно, могат да изпитат затруднения.
Публикацията приканва университетите да преосмислят как включват ИИ в преподаването, ученето и оценяването.

Въпросът не е дали да използваме ИИ, а кога
Един от основните аргументи на авторите е, че обичайният спор дали да разрешим, или да забраним ИИ пропуска същинския образователен проблем.
Значение има на кой етап от ученето се включва ИИ и кои интелектуални задачи изпълнява.
Авторите се позовават на изследвания, които показват, че ИИ може да доведе до противоположни резултати според начина, по който преподавателите го въвеждат.
Например рандомизирано изследване на Bastani et al. (2025) установява, че ученици, използващи ИИ без ограничения при изучаването на математика, се справят по-добре по време на упражненията, но постигат приблизително 17% по-ниски резултати на последващ изпит без ИИ спрямо учениците, които не са използвали инструмента. Когато изследователите преработват ИИ наставника така, че да дава подсказки вместо готови отговори, този неблагоприятен ефект до голяма степен изчезва.
За разлика от това, друго изследване на Kestin et al. (2025) отчита над два пъти по-голям напредък в усвояването на материала при внимателно проектирана система за обучение с ИИ спрямо обучение чрез активно учене в университетски курс по физика.
Тези изследвания се различават по контекст и методология, затова резултатите им не бива да се обобщават пряко за цялото образование. Въпреки това те подкрепят важен извод: образователната стойност на ИИ зависи от педагогическия дизайн, а не само от достъпа до технологията.

Защо преодоляването на трудности може да подпомага ученето
Авторите изграждат аргумента си около продуктивното затруднение: интелектуалното усилие, което студентите полагат, когато опитват да решат трудни задачи, допускат грешки и преразглеждат разсъжденията си.
Да разгледаме студент, който изучава регресионен анализ. ИИ асистентът може веднага да обясни коефициентите, да изчисли статистическата значимост и да интерпретира резултатите от модела.
Студентът може да предаде правилен анализ, без да разбира как са получени заключенията.
Друг подход е преподавателят да поиска от студента първо да интерпретира резултатите самостоятелно, преди да се консултира с ИИ. Първоначално студентът може да разбере погрешно даден коефициент или да обърка корелацията с причинно-следствена връзка. Тези грешки създават възможности за учене.
След това ИИ може да помогне чрез въпроси, откриване на слабости в разсъжденията и обяснение на непознати понятия.
Разликата е съществена. В първия случай ИИ извършва голяма част от интелектуалната работа. Във втория подкрепя мисленето на студента.
Авторите предлагат последователност от шест етапа:
1 Подготовка (Prime): Активиране на предварителните знания и интереса на студентите.
2 Самостоятелен опит (Probe): Поставяне на предизвикателна задача и изискване за първоначален опит без чужда помощ.
3 Насочване (Point): Предоставяне на насочващи въпроси и ограничени подсказки.
4 Свързване (Attach): Въвеждане на обяснения и примери с подробно показано решение.
5 Затвърждаване (Strengthen): Развиване на разбирането чрез допълнителна практика и обратна връзка.
6 Проверка (Test): Оценяване дали студентите могат да прилагат знанията си самостоятелно.
ИИ може да подпомага няколко етапа, особено чрез обяснения, обратна връзка и упражнения. Авторите препоръчват първоначалният самостоятелен опит и заключителното оценяване да протичат без помощ от ИИ.
Основният принцип е ясен: ИИ трябва да намалява ненужната работа, без да премахва познавателното усилие, необходимо за усвояване на умението.

Какво остава извън вниманието на публикацията
Макар рамката да има практическа стойност, няколко допускания изискват по-внимателно разглеждане.
Първо, не всяко затруднение води до учене. Студент, който няма необходимите основни знания, може да изпита объркване вместо продуктивно усилие. Ефективното преподаване трябва да съчетава предизвикателството с подходяща подкрепа.
Второ, шестте етапа предполагат сравнително подреден учебен процес. На практика ученето често е по-непредвидимо. Студентите се връщат към обясненията, редуват експериментиране и упражнения и се нуждаят от различни форми на помощ.
Трето, самостоятелното представяне е важно, но не е единственият образователен резултат, който университетите трябва да измерват.
Завършилите все по-често работят в среда, в която ИИ подпомага изследванията, програмирането, бизнес анализите и вземането на решения. Тяхната компетентност включва умения да използват ИИ, да оценяват резултатите му, да откриват грешки и да решават кога човешката преценка трябва да има водеща роля.
Това повдига въпрос, който надхвърля предложената рамка:
Трябва ли университетите да оценяват какво студентите постигат самостоятелно, какво постигат с ИИ, или и двете?
Разумен подход е тези способности да се оценяват отделно.
Друг недостатъчно разгледан въпрос е надеждността на ИИ наставниците. Инструкцията системата да дава подсказки, без да разкрива отговора, изглежда лесна за изпълнение. Последователното спазване на това разграничение обаче може да бъде трудно. ИИ може да предостави прекалено много насоки или погрешна обратна връзка.
Накрая, рамката изисква преподавателите да разбират кои познавателни дейности са необходими за ученето. Това е особено трудно при големи групи, в които студентите се различават по знания, мотивация и готовност.
Тези ограничения имат значение при преминаването от педагогическа идея към практика на университетско равнище.

Какво установява изследването?
Публикацията на Бърчич и Фърлич представлява теоретичен и практически синтез, а не самостоятелно експериментално изследване.
Авторите обединяват изследвания върху когнитивната психология, продуктивния неуспех, индивидуалното обучение, извличането на знания от паметта, когнитивното натоварване и обучението с ИИ. Те използват тези доказателства, за да разработят шестетапната рамка и препоръките си за мястото на ИИ в учебния процес.
Най-същественият им принос е организирането на съществуващите доказателства в модел, който преподавателите могат да прилагат в отделни занятия.
Въпреки това цялостната шестетапна рамка не е проверена емпирично в публикацията.
Голяма част от доказателствата в подкрепа на отделните ѝ компоненти идват от утвърдени образователни изследвания. Някои от резултатите, свързани конкретно с ИИ, са скорошни, ограничени до определени условия или публикувани като предпечатни версии.
Следователно не можем да заключим, че предложената последователност ще подобрява ученето във всички дисциплини, студентски групи или образователни степени.
Бъдещи изследвания трябва да проверят дали рамката подобрява дългосрочното запазване на знанията, самостоятелното решаване на задачи и прилагането на наученото в непознати ситуации.

Практически пример от преподаването по маркетингова аналитика
Да разгледаме университетски курс по маркетингова аналитика, в който студентите изследват дали рекламна кампания е увеличила продажбите.
Първоначално преподавателят предоставя данни за рекламните разходи и продажбите и иска от студентите да оценят ефективността на кампанията без ИИ.
Някои студенти могат да заключат, че увеличените продажби доказват успеха на кампанията. Други могат да отчетат, че сезонното търсене, промоциите или действията на конкурентите също могат да обяснят наблюдаваните промени.
Вместо веднага да даде правилната интерпретация, преподавателят въвежда ИИ като наставник с ограничена роля.
Студентите искат от ИИ да постави под въпрос разсъжденията им, да обясни смущаващите променливи и да даде примери за разликата между корелация и причинно-следствена връзка.
След това разглеждат подробно решен пример и анализират друг набор от данни с обратна връзка от ИИ.
Накрая получават нов бизнес проблем и трябва самостоятелно да интерпретират резултатите и да защитят заключенията си.
Този подход запазва възможността за усвояване на статистическо мислене, като същевременно използва способността на ИИ да предоставя индивидуални обяснения и упражнения.
След като студентите покажат необходимата компетентност, могат да използват ИИ по-широко за професионални задачи като програмиране, подготовка на данни, визуализация и изготвяне на доклади.

Какво трябва да направят университетите?
Публикацията предлага важна посока за висшето образование: университетите трябва да преминат от регулиране на достъпа до ИИ към проектиране на съдържателно човешко участие в ученето.
Това изисква преосмисляне на заданията, методите за оценяване и обучението на преподавателите.
Вместо да питат дали ИИ е разрешен, преподавателите трябва да определят кои умения студентите следва да развият самостоятелно и къде помощта на ИИ добавя образователна стойност.
Университетите трябва да разграничават и самостоятелната компетентност в съответната дисциплина от професионалната компетентност при работа с ИИ. И двете имат значение, но изискват различни подходи за оценяване.
Затова подготовката на преподавателите трябва да надхвърля формулирането на инструкции и представянето на нови ИИ инструменти. Тя трябва да включва педагогически дизайн, когнитивно натоварване, продуктивно затруднение и методи за оценяване на ученето в среда с ИИ.
Авторите въвеждат и понятието когнитивен суверенитет: способността да мислим самостоятелно, вместо да зависим изцяло от външни системи.
Това понятие заслужава внимание, тъй като университетите все по-често включват ИИ в образователната инфраструктура.
Целта не трябва да бъде ученето да става ненужно трудно или студентите да се обезкуражават да използват полезни технологии. Целта е помощта да укрепва знанията им, вместо да заменя мисленето, необходимо за тяхното изграждане.
Затова най-важният въпрос пред университетите може да бъде:
Когато студентите изпълняват успешно задание с ИИ, как разбираме дали са научили онова, което заданието е трябвало да ги научи?
Този въпрос трябва да насочва следващия етап от интегрирането на ИИ във висшето образование.

Свързани дискусии в нашия НИИ блог
Темата се свързва с няколко предишни публикации в нашия блог Science & Research. В „От използване на ИИ към ИИ грамотност: какво трябва да преподават училищата“ разгледахме защо честата употреба на ИИ не означава непременно компетентност. „Когато ИИ влиза в класната стая, кои решения трябва да останат човешки?“ постави акцент върху запазването на професионалната преценка на преподавателите. Обсъжданията ни на подходите на MIT и университета Браун към ИИ и „Новият хибрид: какво трябва да бъде позволено на ИИ да прави в образованието?“ повдигнаха сходни въпроси за оценяването, човешката отговорност и включването на ИИ в образователната инфраструктура. Тези публикации очертават общо предизвикателство: как университетите да се възползват от ИИ, като същевременно гарантират, че студентите продължават да развиват самостоятелно мислене, критична преценка и реална компетентност?

Reference
Brcic, M., & Frljic, S. (2026). The effortless trap: Productive struggle, AI, and the illusion of learning. arXiv preprint. https://arxiv.org/abs/2606.26181