The Algorithm in the Room: What UNESCO Says Education Should Ask About AI

Алгоритъмът в стаята: Какви въпроси според UNESCO трябва да задава образованието за ИИ

Podcast

Подкаст

Plamen MILTENOFF

Artificial intelligence is now part of education, but UNESCO’s new report The Algorithm in the Room argues that the most important question is not whether schools and universities
should use AI.
The harder question is: what role should AI be allowed to play in education?
The report brings together 26 think pieces from educators, researchers, policy specialists and other experts. They examine AI from six angles: human agency, child development, pedagogy and assessment, thinking and expression, governance, and the future of education.
Education should not adapt itself to AI. AI should be judged
according to the purposes of education.
Who Is Making the Decisions?
One of the strongest themes in the report is human agency.
AI can now recommend, write, summarize, grade, generate feedback and even make decisions. The risk appears when people start delegating too much.
Imagine a simple classroom sequence.
A teacher asks AI to create an assignment. A student asks AI to complete it. Another AI tool grades the answer. The result goes automatically into the learning management system.
The process looks efficient, but almost no meaningful human thinking may have taken place.
The report uses this type of example to ask whether students and teachers are gradually becoming operators of automated systems instead of active participants in learning.
The practical question for educators is therefore not only, “Can AI do this task?” It is also, “Should students or teachers still do part of this task themselves?”
Pedagogy Should Come First
Another important argument concerns the way AI enters teaching.
Many discussions start with the tool:
“We have an AI tutor. How can we use it?”
UNESCO’s contributors suggest reversing the order.
Start with the educational goal.
For example, if the goal is to develop argumentation skills, students may need to build and defend an argument themselves before asking AI for feedback. If the goal is translation practice, AI may help compare versions, but it should not remove the need to understand meaning, tone and context.
The principle is simple:
First decide what students need to learn. Then decide whether AI helps or interferes with that process.
The report therefore questions the popular “human-in-the-loop” idea. In education, the teacher should not function mainly as a supervisor of an AI system. The teacher should define the learning process, with AI playing a supporting role when appropriate.
Better Output Does Not Always Mean Better Learning
A student can use AI to produce a polished essay, presentation or code solution. The final product may look better, while the student may have learned less.
This distinction matters.
Suppose a student photographs a historical object and AI immediately explains what it is.
The student receives the answer in seconds. But the process of asking questions, forming hypotheses and discussing possible explanations may disappear.
Several contributions in the report warn about this loss of process.
Learning often requires effort, uncertainty, revision and temporary confusion. Removing those elements can make work easier without making learning deeper.
Assessment Needs to Change
AI exposes weaknesses in traditional assessment.
If AI can produce a standard essay or solve a routine problem, then the final product alone may no longer provide strong evidence of student learning.
The report recommends greater attention to how students arrive at the final answer.
Students can document how their ideas developed, explain why they made particular
decisions, revise work after feedback, defend their conclusions orally, or connect theory with local and personal contexts.
For example, instead of asking students only to submit a marketing plan, an instructor might also ask:
– Why did you choose this target market?
– Which AI suggestions did you reject?
– Which evidence changed your decision?
– What would you do differently if market conditions changed?
These questions make student thinking visible.
AI Literacy Means More Than Prompting
The report also challenges a narrow understanding of AI literacy.
Knowing how to write prompts is useful, but insufficient.
Students also need to understand how AI systems make recommendations, what data may
shape their outputs, what biases may appear, who owns the system and when an AI
answer should not be trusted.
This becomes especially important in a world of deepfakes and synthetic media. One contribution argues that education faces not only a misinformation problem, but a “crisis of knowing.” Students increasingly need to ask how they know whether something is credible.
From Using AI to Governing AI
The report ends with a useful three-part framework: See, Steer and Rewrite the algorithm.
See means understanding where algorithms already influence education.
Steer means deciding where AI should be used, limited or rejected.
Rewrite means giving students, educators and institutions a greater role in shaping the systems themselves.
This may be the report’s most important contribution.
The discussion about AI in education should move beyond “How do we use AI better?”
A stronger question is:
Which parts of education should remain under human judgement, and how do we make sure AI serves those purposes rather than defines them?		Изкуственият интелект вече е част от образованието, но новият доклад на UNESCO The Algorithm in the Room твърди, че най-важният въпрос не е дали училищата и университетите трябва да използват ИИ.
По-трудният въпрос е: каква роля трябва да бъде позволено на ИИ да играе в образованието?
Докладът обединява 26 аналитични текста от преподаватели, изследователи, експерти по политики и други специалисти. Те разглеждат ИИ от шест гледни точки: човешка автономност и способност за действие, детско развитие, педагогика и оценяване, мислене и изразяване, управление и бъдещето на образованието.
Образованието не трябва да се адаптира към ИИ. ИИ трябва да бъде оценяван според целите на образованието.
Кой взема решенията?
Една от най-силните теми в доклада е човешката автономност и способност за действие.
ИИ вече може да препоръчва, пише, обобщава, оценява, генерира обратна връзка и дори да взема решения. Рискът се появява, когато хората започнат да делегират твърде много.
Представете си проста последователност в учебна среда.
Преподавателят моли ИИ да създаде задание. Студентът моли ИИ да го изпълни. Друг инструмент с ИИ оценява отговора. Резултатът автоматично се записва в системата за управление на обучението.
Процесът изглежда ефективен, но почти никакво смислено човешко мислене може да не се е състояло.
Докладът използва подобен пример, за да постави въпроса дали студентите и преподавателите постепенно не се превръщат в оператори на автоматизирани системи вместо в активни участници в ученето.
Практическият въпрос за преподавателите следователно не е само „Може ли ИИ да изпълни тази задача?“. Той е също и: „Трябва ли студентите или преподавателите все още сами да изпълняват част от тази задача?“
Педагогиката трябва да бъде на първо място
Друг важен аргумент засяга начина, по който ИИ навлиза в преподаването.
Много дискусии започват с инструмента:
„Имаме ИИ преподавател. Как можем да го използваме?“
Авторите в доклада на UNESCO предлагат да обърнем реда.
Започнете с образователната цел.
Например, ако целта е развитие на умения за аргументация, студентите може да трябва първо сами да изградят и защитят аргумент, преди да поискат обратна връзка от ИИ. Ако целта е упражнение по превод, ИИ може да помогне при сравняване на версии, но не бива да премахва необходимостта от разбиране на смисъла, тона и контекста.
Принципът е прост:
Първо решете какво трябва да научат студентите. След това решете дали ИИ подпомага или пречи на този процес.
Докладът поставя под въпрос популярната идея за „human-in-the-loop“. В образованието преподавателят не трябва да функционира основно като надзорник на система с ИИ. Преподавателят трябва да определя учебния процес, а ИИ да има подпомагаща роля, когато това е подходящо.
По-добрият резултат невинаги означава по-добро учене
Студент може да използва ИИ, за да създаде добре оформено есе, презентация или програмно решение. Крайният резултат може да изглежда по-добър, докато студентът е научил по-малко.
Това разграничение е важно.
Представете си, че ученик снима исторически предмет и ИИ веднага обяснява какво представлява.
Ученикът получава отговора за секунди. Но процесът на задаване на въпроси, формулиране на хипотези и обсъждане на възможни обяснения може да изчезне.
Няколко текста в доклада предупреждават за тази загуба на процеса.
Ученето често изисква усилие, несигурност, преработване и временно объркване. Премахването на тези елементи може да направи работата по-лесна, без да направи ученето по-задълбочено.
Оценяването трябва да се промени
ИИ разкрива слабости в традиционното оценяване.
Ако ИИ може да напише стандартно есе или да реши рутинен проблем, крайният продукт сам по себе си вече може да не предоставя достатъчно убедителни доказателства за ученето на студента.
Докладът препоръчва повече внимание към начина, по който студентите стигат до крайния отговор.
Студентите могат да документират как са се развивали техните идеи, да обяснят защо са взели определени решения, да преработят работата си след обратна връзка, устно да защитят заключенията си или да свържат теорията с местен и личен контекст.
Например, вместо да поиска от студентите само да предадат маркетингов план, преподавателят може да зададе и следните въпроси:
– Защо избрахте този целеви пазар?
– Кои предложения на ИИ отхвърлихте?
– Кое доказателство промени решението ви?
– Какво бихте направили различно, ако пазарните условия се променят?
Тези въпроси правят мисленето на студента видимо.
ИИ грамотността означава повече от писане на промптове
Докладът поставя под въпрос и тясното разбиране за ИИ грамотност.
Умението да се пишат добри промптове е полезно, но недостатъчно.
Студентите трябва също да разбират как системите с ИИ правят препоръки, какви данни могат да влияят върху техните отговори, какви пристрастия могат да се появят, кой притежава системата и кога на отговор на ИИ не бива да се има доверие.
Това става особено важно в свят на deepfake съдържание и синтетични медии. Един от текстовете твърди, че образованието е изправено не само пред проблем с дезинформацията, а пред „криза на познанието“. Все по-често студентите трябва да се питат как знаят дали нещо е достоверно.
От използване на ИИ към управление на ИИ
Докладът завършва с полезна рамка от три части: Виж, Насочвай и Препрограмирай алгоритъма.
Виж означава да разбираме къде алгоритмите вече влияят върху образованието.
Насочвай означава да решаваме къде ИИ трябва да се използва, ограничава или отхвърля.
Препрограмирай означава студентите, преподавателите и институциите да имат по-голяма роля във формирането на самите системи.
Това може да е най-важният принос на доклада.
Дискусията за ИИ в образованието трябва да надхвърли въпроса „Как да използваме ИИ по-добре?“
По-добрият въпрос е:
Кои части от образованието трябва да останат под човешка преценка и как да гарантираме, че ИИ служи на тези цели, вместо да ги определя?