От използване на AI към AI грамотност: Какво трябва да преподават училищата

Podcast

Подкаст

Plamen MILTENOFF

High-school students are already using generative AI for homework, writing, coding, translation, brainstorming, and exam preparation. This creates an important question for schools: does frequent use mean that students understand AI well enough to use it critically?

A recent study by Puppart, Laak, and Aru suggests that the answer is no.

The researchers developed GenAIT, an 18-item Generative AI Literacy Test for high-school students, and validated it with 7,432 students from 100 schools in Estonia. Their goal was to measure students’ understanding of generative AI rather than measure confidence of use.

A student may use ChatGPT daily and still misunderstand the system. The student may believe a fluent answer is a reliable answer, assume references are correct because they look academic, or treat an AI response as evidence rather than as something that needs verification.

According to the study, frequent use of AI did not bring higher score on the AI literacy test. More frequent use was associated with slightly lower test scores. The important takeaway for education: frequency of AI use should not be treated as evidence of AI competence, and consequently, teaching AI literacy at schools, needs to be improved.

The researchers organize generative AI literacy around three connected areas: technical, practical, and human.

Technical literacy concerns basic understanding of generative AI. High-school students do not need to become machine-learning engineers, but they should understand language models generate text by predicting likely tokens based on patterns learned from data. Such understanding helps explain AI system’s output sometimes sounds convincing while still being wrong.

A student asking an AI assistant:
“Why did inflation increase in Europe?” may result in a clear, structured, and confident response. An AI-literate student, however should be able to ask: Where did this information come from? Are the claims current? Can I verify the explanation using reliable sources?

Practical literacy concerns how students work with AI.
Students need to understand prompts’ influence on outputs, context matters, models can reflect bias, and generated information requires checking.

A teacher might ask students to compare two prompts:
“Explain climate change.”
and
“Explain the main causes of climate change using evidence from peer-reviewed research and identify areas where uncertainty remains.”

The activity can then move beyond prompt writing. Students can compare the responses, identify unsupported claims, inspect the sources, and decide which parts deserve trust.

The third area concerns the human and social consequences of AI.
The GenAIT framework includes misinformation, cognitive offloading, digital inequality, environmental effects, echo chambers, and wider social consequences.

This area may become especially important for education.
Consider a student who uses AI to summarize every reading, produce all homework answers, create revision notes, and explain every difficult concept. The student may complete more tasks in less time. But another question appears: how much thinking is the student still doing?

AI literacy therefore includes understanding when AI supports learning and when it starts replacing the cognitive effort required to learn.

This also changes how schools should assess AI literacy.
A multiple-choice test such as GenAIT can help measure conceptual understanding. It can help schools compare groups or evaluate whether an AI literacy program improves student knowledge. The researchers, however, caution against using the current instrument for high-stakes decisions about individual students.

Schools therefore need to assess more than knowledge.

One useful approach would combine three elements.
Students first complete a short test covering concepts such as hallucinations, model limitations, prompting, misinformation, and verification.

They then complete an authentic task with an AI system.

Finally, they explain what the AI produced, what they checked, what they changed, and why they trusted or rejected parts of the output.

For example, students might ask an AI system whether social media improves academic performance. Their task should not finish when the AI generates an answer. They should check the references, compare claims with credible sources, identify unsupported conclusions, and explain whether the final answer deserves trust.

This moves AI literacy closer to real-world competence.

The study also sends a broader message to schools: AI education should not become a course in prompt engineering.

Students need to understand how generative AI works, how to evaluate its outputs, when to verify information, when AI use may weaken learning, and what wider consequences follow from its use.

Why does this matter for higher education?
Universities will increasingly receive students who have used generative AI throughout secondary school. Some may arrive with several years of experience with ChatGPT, Gemini, Claude, or similar systems.

But experience is not the same as literacy.

A first-year university student may know how to generate an essay, summarize an article, or ask an AI system to solve a problem while still lacking the skills needed to evaluate evidence, verify citations, recognize model limitations, or decide when AI use is inappropriate.

If high schools develop these foundations, universities can move more quickly toward advanced AI use in academic writing, research, data analysis, disciplinary problem solving, and professional practice.

If schools do not, higher education will need to teach these foundations itself.

AI literacy should therefore become part of the transition from secondary to higher education. Students need more than access to AI tools. They need the knowledge and judgment to decide when to use them, how to question their outputs, how to verify evidence, and when learning still requires independent thinking.

Учениците в гимназиален етап вече използват генеративен изкуствен интелект за домашни работи, писане, програмиране, превод, генериране на идеи и подготовка за изпити. Това поставя важен въпрос пред училищата: означава ли честото използване, че учениците разбират достатъчно добре изкуствения интелект, за да го използват критично?
Скорошно изследване на Puppart, Laak и Aru показва, че отговорът е по-скоро не.
Изследователите разработват GenAIT, тест за грамотност по генеративен изкуствен интелект с 18 въпроса за ученици в гимназиален етап, и го валидират с 7432 ученици от 100 училища в Естония. Целта им е да измерят разбирането на учениците за генеративния изкуствен интелект, а не увереността им при неговото използване.
Един ученик може да използва ChatGPT всеки ден и въпреки това да не разбира правилно как работи системата. Той може да смята, че добре формулираният отговор е надежден отговор, да приема, че посочените източници са верни, защото изглеждат академични, или да третира отговор на AI като доказателство, вместо като информация, която трябва да бъде проверена.
Според изследването по-честото използване на AI не води до по-висок резултат на теста за AI грамотност. По-честата употреба е свързана с малко по-ниски резултати. Важният извод за образованието е, че честотата на използване на AI не трябва да се приема като доказателство за AI компетентност. Това означава и че обучението по AI грамотност в училищата трябва да бъде подобрено.
Изследователите организират грамотността по генеративен изкуствен интелект в три свързани области: техническа, практическа и човешка.
Техническата грамотност се отнася до базовото разбиране на генеративния изкуствен интелект. Учениците в гимназиален етап не е необходимо да стават специалисти по машинно обучение, но трябва да разбират, че езиковите модели генерират текст чрез прогнозиране на вероятни токени въз основа на закономерности, научени от данни. Подобно разбиране помага да се обясни защо отговорът на AI система понякога звучи убедително, но въпреки това може да бъде грешен.
Ученик, който пита AI асистент:
„Защо инфлацията в Европа се увеличи?“
може да получи ясен, структуриран и уверен отговор. AI грамотният ученик обаче трябва да може да попита: Откъде идва тази информация? Актуални ли са твърденията? Мога ли да проверя обяснението чрез надеждни източници?
Практическата грамотност се отнася до начина, по който учениците работят с AI.
Учениците трябва да разбират как промптовете влияят върху отговорите, защо контекстът има значение, как моделите могат да отразяват пристрастия и защо генерираната информация трябва да бъде проверявана.
Учител може да помоли учениците да сравнят два промпта:
„Обясни климатичните промени.“
и
„Обясни основните причини за климатичните промени, като използваш доказателства от рецензирани научни изследвания и посочиш областите, в които все още съществува научна несигурност.“
След това дейността може да продължи отвъд самото писане на промптове. Учениците могат да сравнят отговорите, да открият твърдения без достатъчна подкрепа, да проверят източниците и да преценят на кои части може да се има доверие.
Третата област се отнася до човешките и социалните последици от AI.
Рамката GenAIT включва дезинформация, когнитивно разтоварване, дигитално неравенство, въздействие върху околната среда, информационни балони и по-широки социални последици.
Тази област може да стане особено важна за образованието.
Представете си ученик, който използва AI, за да обобщава всеки текст, да генерира всички отговори за домашна работа, да създава бележки за преговор и да обяснява всяка трудна концепция. Ученикът може да изпълнява повече задачи за по-кратко време. Но възниква друг въпрос: колко мислене продължава да извършва самият ученик?
Следователно AI грамотността включва и разбиране кога AI подпомага ученето и кога започва да замества когнитивното усилие, необходимо за действително учене.
Това променя и начина, по който училищата трябва да оценяват AI грамотността.
Тест с избираем отговор като GenAIT може да помогне за измерване на концептуалното разбиране. Той може да се използва за сравнение между групи или за оценка дали дадена програма по AI грамотност подобрява знанията на учениците. Изследователите обаче предупреждават, че настоящият инструмент не трябва да се използва за решения с висока значимост по отношение на отделни ученици.
Следователно училищата трябва да оценяват повече от знания.
Един полезен подход би комбинирал три елемента.
Първо, учениците решават кратък тест върху понятия като халюцинации, ограничения на моделите, промптиране, дезинформация и проверка на информация.
След това изпълняват реалистична задача с AI система.
Накрая обясняват какво е генерирал AI, какво са проверили, какво са променили и защо са приели или отхвърлили части от отговора.
Например учениците могат да попитат AI система дали социалните медии подобряват академичните резултати. Тяхната задача не трябва да приключва, когато AI генерира отговор. Те трябва да проверят източниците, да сравнят твърденията с надеждни публикации, да открият неподкрепени заключения и да обяснят дали на крайния отговор може да се има доверие.
Това доближава AI грамотността до реалната компетентност.
Изследването изпраща и по-широко послание към училищата: обучението по AI не трябва да се превръща в курс по писане на промптове.
Учениците трябва да разбират как работи генеративният AI, как да оценяват неговите отговори, кога да проверяват информацията, кога използването на AI може да отслаби ученето и какви по-широки последици следват от неговото използване.
Защо това е важно за висшето образование?
Университетите все по-често ще приемат студенти, които са използвали генеративен изкуствен интелект през целия период на средното си образование. Някои от тях могат да постъпят във висше училище с няколко години опит с ChatGPT, Gemini, Claude или подобни системи.
Но опитът не е равнозначен на грамотност.
Студент в първи курс може да знае как да генерира есе, да обобщи статия или да помоли AI система да реши задача, но въпреки това да няма уменията да оценява доказателства, да проверява цитирания, да разпознава ограниченията на моделите или да преценява кога използването на AI е неподходящо.
Ако гимназиалното образование изгради тези основи, университетите ще могат по-бързо да преминат към по-напреднали приложения на AI в академичното писане, научните изследвания, анализа на данни, решаването на проблеми в отделните дисциплини и професионалната практика.
Ако училищата не изградят тези основи, висшето образование ще трябва да ги преподава само.
Следователно AI грамотността трябва да стане част от прехода от средното към висшето образование. Учениците се нуждаят от повече от достъп до AI инструменти. Те се нуждаят от знания и преценка, за да решават кога да ги използват, как да поставят под съмнение техните отговори, как да проверяват доказателства и кога ученето все още изисква самостоятелно мислене.