Students Use AI, but Do They Know When They Should?

Студентите работят с ИИ, но знаят ли кога трябва да го използват?

Plamen MILTENOFF

Generative AI has moved into university life faster than institutional policies, teaching practices, and assessment models have adapted. Students use ChatGPT and similar systems to search for information, clarify difficult concepts, summarize texts, prepare assignments, generate ideas, and support writing. Yet many still appear uncertain about when this use is acceptable, when it becomes problematic, and what their universities expect from them.
 
A study by Manuela Farinosi and Claudio Melchior captures this tension in its title: “I Use ChatGPT, but Should I?” The study examines students’ practices and attitudes toward generative AI in higher education and raises a question universities can no longer treat as hypothetical: how should education respond when AI use has already become part of students’ everyday academic routines?
 
A mixed-method look at student AI use
The researchers combined a survey of 531 students at the University of Udine in Italy with 60 semi-structured interviews. Students came from bachelor’s, master’s, and doctoral programs and represented different disciplinary areas. The survey examined digital competence, personal and academic use of generative AI, perceptions of its benefits and risks, and students’ views of university responses. The interviews then explored the reasons behind those patterns in greater depth.
 
This combination matters because statistics can show how frequently students use AI, while interviews help explain why they use it, what they worry about, and how they decide whether a particular use is acceptable.
 
AI is already part of student academic practice
 
Generative AI is no longer an occasional experiment.
Almost 70% of respondents reported using ChatGPT or similar systems for personal purposes. Academic use was lower, but still substantial. Depending on how the researchers asked the question, between about 41% and 49% reported some form of academic use. Future intentions were even higher.
 
More important than the headline percentages is how students use AI. Most were not handing entire assignments over to ChatGPT. Instead, they tended to employ AI for selected parts of academic tasks. Around 42.6% reported using AI for specific components of their work, while only a tiny proportion reported submitting an AI-generated task without checking or changing it.
 
This distinction deserves more attention in discussions about academic integrity. “Uses AI” is becoming an increasingly uninformative category. Asking ChatGPT to explain a difficult statistical concept is different from asking it to produce an entire assessed paper.
 
Students see both benefits and risks
 
Students described AI as especially useful for searching for information, understanding difficult material, summarizing, preparing for exams, supporting writing, and saving time.
 
Yet they were not uncritical users.
 
They raised concerns about inaccurate information, overdependence, reduced independent thinking, weaker research habits, privacy, inequality of access, cheating, and possible damage to academic integrity. Interviews also revealed anxiety about what may happen when students repeatedly delegate activities such as searching, analysing, writing, and generating ideas.
 
An interesting pattern appears when we look at different cognitive activities. Students viewed AI most positively for information searching and understanding. Their assessments were considerably less positive when AI entered areas such as writing, creativity, critical thinking, and thinking itself.
 
This suggests students may already make an intuitive distinction between using AI to support thinking and using AI to replace thinking.
 
Students want rules, but not necessarily bans
 
One of the clearest findings concerns institutional policy.
Around 80% supported university regulation of ChatGPT and responsible-use guidance, while only about one-fifth supported prohibition. At the same time, many students believed using ChatGPT for assignments or examinations can be ethically problematic.
 
Their position is therefore more nuanced than either “students want unrestricted AI” or “students think AI is cheating.”
 
Many appear to be saying something closer to: I use AI, I see its value, but I want clearer boundaries.
 
That makes course-level guidance especially important. Students need to know whether AI can be used for brainstorming, outlining, translation, coding, editing, literature searching, or drafting, and when such use must be disclosed.
 
What others may overlook
 
One of the most interesting findings is methodological.
The study produced different estimates of academic AI use depending on how the researchers asked the question. A general question produced a lower figure than questions describing specific academic behaviors.
 
This may reflect social desirability. Students who are uncertain about whether AI use is acceptable may hesitate to answer a direct question affirmatively. Research based only on questions such as “Do you use ChatGPT for university work?” may therefore underestimate actual practice.
 
Another overlooked issue is the gap between student use and visible faculty engagement. Students reported relatively little active guidance from instructors. Only a minority recalled professors explaining how to use ChatGPT ethically or responsibly.
 
The problem may therefore be less about whether universities have an AI policy and more about whether students understand how the policy applies to a specific course, assignment, or learning activity.
 
The study also suggests that access deserves more attention. If some students can pay for stronger AI models while others rely on limited free versions, AI-supported learning may introduce new forms of educational inequality.
 
Important limitations
 
The study examines students from one Italian university, so its findings should not be treated as representative of all higher education. Technical disciplines were relatively prominent in the sample, which may affect reported adoption levels.
 
The research also relies substantially on self-reported behaviour, making recall and social-desirability bias possible. Finally, generative AI changes quickly. Student practices measured during one academic period may look different several months later.
 
Why this research matters
Universities need evidence about students use of AI, rather than policies based on assumptions.
 
The emerging question is no longer simply whether students use AI. A more useful question is which parts of intellectual work they delegate to AI, which parts they retain, whether they verify the output, and whether AI use strengthens or weakens learning.
 
That distinction should influence AI literacy, assessment design, academic integrity policies, and faculty development.
 
If universities understand students’ actual practices, they can move beyond the binary choice between unrestricted adoption and prohibition. They can instead define where AI supports learning, where human judgment remains essential, and how students can learn to make that distinction themselves.
Генеративният изкуствен интелект навлезе в университетския живот по-бързо, отколкото институционалните политики, преподавателските практики и моделите за оценяване успяха да се адаптират. Студентите използват ChatGPT и сходни системи, за да търсят информация, да изясняват трудни концепции, да обобщават текстове, да подготвят задания, да генерират идеи и да подпомагат писането. Въпреки това мнозина все още изглеждат несигурни кога тази употреба е приемлива, кога се превръща в проблем и какво очакват университетите от тях.

Изследване наManuela Farinosi и Claudio Melchior улавя това напрежение още в заглавието си: „I Use ChatGPT, but Should I?” Проучването разглежда практиките и нагласите на студентите към генеративния AI във висшето образование и поставя въпрос, който университетите вече не могат да разглеждат като хипотетичен: как трябва да реагира образованието, когато използването на AI вече е част от ежедневните академични практики на студентите?

Поглед към студентското използване на AI чрез смесени методи
Изследователите комбинират анкета сред 531 студенти от Университета в Удине, Италия, с 60 полуструктурирани интервюта. Участниците са от бакалавърски, магистърски и докторски програми и представляват различни дисциплинарни области. Анкетата изследва дигиталната компетентност, личното и академичното използване на генеративен AI, възприеманите ползи и рискове, както и мнението на студентите за реакциите на университета. Интервютата след това разглеждат по-задълбочено причините зад установените модели.

Тази комбинация е важна, защото статистическите данни могат да покажат колко често студентите използват AI, докато интервютата помагат да се разбере защо го използват, от какво се притесняват и как решават дали даден тип употреба е приемлив.

AI вече е част от академичната практика на студентите

Генеративният AI вече не е епизодичен експеримент.
Почти 70% от анкетираните съобщават, че използват ChatGPT или сходни системи за лични цели. Академичната употреба е по-ниска, но все пак съществена. В зависимост от начина, по който изследователите задават въпроса, между около 41% и 49% съобщават за някаква форма на академично използване. Намеренията за бъдеща употреба са още по-високи.

По-важно от самите проценти е как студентите използват AI. Повечето не възлагат цели задания на ChatGPT. Вместо това използват AI за отделни части от академичните задачи. Около 42,6% съобщават, че използват AI за конкретни компоненти от своята работа, докато само много малък дял заявяват, че предават задача, генерирана от AI, без да я проверяват или променят.

Това разграничение заслужава повече внимание в дискусиите за академичната почтеност. Категорията „използва AI“ става все по-малко информативна. Да помолиш ChatGPT да обясни трудна статистическа концепция е различно от това да му възложиш да изготви цяла работа за оценяване.

Студентите виждат и ползите, и рисковете

Студентите описват AI като особено полезен за търсене на информация, разбиране на труден материал, обобщаване, подготовка за изпити, подкрепа при писане и спестяване на време.

Но те не са некритични потребители.

Те изразяват опасения относно неточна информация, прекомерна зависимост, намалено самостоятелно мислене, по-слаби изследователски навици, поверителност, неравен достъп, измами и възможно увреждане на академичната почтеност. Интервютата показват и тревога относно това какво може да се случи, когато студентите многократно делегират дейности като търсене, анализиране, писане и генериране на идеи.

Интересен модел се появява, когато разгледаме различните когнитивни дейности. Студентите оценяват AI най-положително при търсенето на информация и разбирането. Оценките им са значително по-сдържани, когато AI навлиза в области като писане, творчество, критическо мислене и самото мислене.

Това подсказва, че студентите може вече интуитивно да разграничават използването на AI за подпомагане на мисленето от използването му за заместване на мисленето.

Студентите искат правила, но не непременно забрани

Един от най-ясните резултати е свързан с институционалната политика.
Около 80% подкрепят университетско регулиране на ChatGPT и насоки за отговорна употреба, докато само около една пета подкрепят забрана. В същото време много студенти смятат, че използването на ChatGPT за задания или изпити може да бъде етично проблематично.

Следователно тяхната позиция е по-нюансирана от „студентите искат неограничен AI“ или „студентите смятат AI за измама“.

Много от тях сякаш казват нещо по-близко до: Използвам AI, виждам стойността му, но искам по-ясни граници.

Това прави насоките на ниво курс особено важни. Студентите трябва да знаят дали AI може да се използва за генериране на идеи, структуриране, превод, програмиране, редактиране, търсене на литература или изготвяне на чернови и кога такава употреба трябва да бъде декларирана.

Какво може да остане незабелязано

Един от най-интересните резултати е методологичен.
Проучването дава различни оценки за академичната употреба на AI в зависимост от начина, по който изследователите задават въпроса. Общ въпрос води до по-нисък процент в сравнение с въпроси, описващи конкретни академични поведения.

Това може да отразява ефекта на социалната желателност. Студенти, които не са сигурни дали използването на AI е приемливо, може да се колебаят да отговорят утвърдително на директен въпрос. Изследвания, основани само на въпроси като „Използвате ли ChatGPT за университетска работа?“, могат следователно да подценяват реалната практика.

Друг често пренебрегван въпрос е разминаването между студентската употреба и видимата ангажираност на преподавателите. Студентите съобщават за относително малко активни насоки от преподаватели. Само малка част си спомнят преподаватели да са обяснявали как ChatGPT да се използва етично или отговорно.

Следователно проблемът може да е по-малко в това дали университетите имат AI политика и повече в това дали студентите разбират как тази политика се прилага към конкретен курс, задача или учебна дейност.

Проучването също подсказва, че достъпът заслужава повече внимание. Ако някои студенти могат да плащат за по-силни AI модели, а други разчитат на ограничени безплатни версии, AI-подкрепеното обучение може да въведе нови форми на образователно неравенство.

Важни ограничения

Проучването разглежда студенти от един италиански университет, затова резултатите не бива да се приемат като представителни за цялото висше образование. Техническите дисциплини са относително силно представени в извадката, което може да влияе върху отчетените нива на използване.

Изследването също разчита в значителна степен на самоотчитане, което допуска грешки в паметта и влияние на социалната желателност. Накрая, генеративният AI се променя бързо. Студентските практики, измерени през един академичен период, могат да изглеждат различно само няколко месеца по-късно.

Защо това изследване е важно
Университетите се нуждаят от доказателства за реалното използване на AI от студентите, а не от политики, основани на предположения.

Възникващият въпрос вече не е просто дали студентите използват AI. По-полезно е да се пита кои части от интелектуалната работа делегират на AI, кои запазват за себе си, дали проверяват резултатите и дали употребата на AI подпомага или отслабва ученето.

Това разграничение трябва да влияе върху AI грамотността, дизайна на оценяването, политиките за академична почтеност и развитието на преподавателите.

Ако университетите разбират реалните практики на студентите, те могат да излязат отвъд бинарния избор между неограничено приемане и забрана. Вместо това могат да определят къде AI подпомага ученето, къде човешката преценка остава необходима и как студентите могат сами да се научат да правят това разграничение.