Книгите, които разрязахме, за да изградим ума: „Проект Панама“ на Anthropic и бъдещето на AI грамотността
Vanya HRISTOVA, Plamen MILTENOFF
| Vodcast | Видео |
| An informal question raised by Assist. Prof. Vanya Hristova from the Department of General Economic Theory regarding Anthropic’s “Project Panama” has opened a broader discussion across our academic community. The case brings together issues central to AI Literacy: copyright, data provenance, transparency, Open Science, and the ethics of how artificial intelligence is built. As universities increasingly integrate AI into teaching and research, Project Panama is a reminder about AI literacy going beyond prompting, hallucinations, and responsible use. It should also ask where AI knowledge comes from, how it is acquired, and who captures the value created from it.. The Anatomy of “Project Panama” Federal court filings revealed that Anthropic built a large internal digital library by purchasing millions of physical books, removing their bindings, scanning the pages at industrial scale, and discarding or recycling the originals. Internal documents described an ambition to “destructively scan all the books in the world.” The legal context is important. The litigation distinguished between books acquired from unauthorized digital repositories and lawfully purchased physical books that were converted into internal digital copies. The court treated these practices differently, finding that the destructive scanning of purchased books could be legally permissible under the circumstances. But this leads to a more interesting question: Does legal permission settle the question of responsible AI development? Looking Behind the AI Interface Project Panama shifts attention from how we use AI to how AI itself is produced. A book can be purchased once at an ordinary market price, yet its informational content may later become an input into a highly valuable commercial AI system. This raises an economic question: who creates the knowledge on which AI depends, and who captures the value generated from it? It also raises a question of provenance. Universities expect students and researchers to identify sources, document methods, and disclose data practices. Should we expect similar transparency about the datasets behind powerful AI models? Reframing AI Literacy: Examining the Supply Chain For years, digital literacy curricula focused primarily on prompt design, algorithmic bias, and basic user privacy. However, Project Panama illustrates the role of AI Literacy to examine the material, legal, and institutional frameworks underpinning these systems. When analyzing Project Panama through the lens of economic theory, open data, and information governance, several key academic questions arise: – The Limits of Copyright & Fair Use: Copyright law was built around human creation and consumption. When commercial firms ingest millions of published works to train generative systems that compete with human authors, does “transformative use” protect genuine innovation, or does it facilitate the systemic extraction of cultural value? – Open Science vs. Corporate Secrecy: Anthropic—structured as a public benefit corporation dedicated to AI safety—acknowledged internally that the public would react negatively to an industrial book-destruction pipeline. This friction between public benefit rhetoric and covert data harvesting highlights an urgent need for institutional transparency and open data principles in machine learning. – The Material Footprint of Cloud Tools: AI is often discussed as weightless software existing in the cloud. Project Panama serves as a vivid reminder that AI model creation involves physical supply chains, industrial machinery, and physical artifacts—forcing us to confront the environmental and cultural tradeoffs of technology. A Broader Question for Universities Project Panama is therefore about more than the striking image of books being destroyed. It is about the transformation of human knowledge into a productive resource for artificial intelligence. For universities, the central question may be this: Should AI literacy teach us only how to use artificial intelligence responsibly – or also how to ask whether artificial intelligence itself has been produced responsibly? We invite researchers, faculty, and students to share their perspectives on what cases such as Project Panama should mean for AI literacy, data governance, and higher education. We invite researchers, faculty, and students to share their thoughts, feelings, and reflections on Project Panama and its broader implications for higher education and society. Join the discussion in the comments below or reach out to participate in our upcoming campus forums on AI literacy and data ethics. | Неофициален въпрос, зададен от гл. ас. д-р Ваня Христова от катедра „Обща икономическа теория“ относно „Проект Панама“ (Project Panama) на Anthropic, e покана за дискусия в нашата академична общност. Темата засяга пряко основни академични дилеми — от отворената наука (Open Science) и отворените данни (Open Data) до поверителността, авторското право и по-широките етични рамки, които редовно разглеждаме в сесиите по AI грамотност (AI Literacy). Тъй като висшето образование се стреми да интегрира критичната AI грамотност в научните изследвания и преподаването, случаи като „Проект Панама“ показват защо трябва да погледнем отвъд инженерството на подканващите съобщения (prompt engineering) и да анализираме физическите, икономическите и правните вериги на доставки, които захранват съвременния изкуствен интелект. Анатомията на „Проект Панама“ Когато разсекретените документи от федералния съд разкриха подробности за тайната вътрешна инициатива на Anthropic с кодово име Проект Панама, технологичният свят се сблъска с поразителна картина: промишлени хидравлични ножове, които отрязват подвързиите на милиони хартиени книги, подават отделните страници през високоскоростни скенери и изпращат хартиените остатъци за рециклиране. Вътрешни планиращи документи обобщават операцията като „усилие за разрушително сканиране на всички книги в света“, придружено от показателното предупреждение: „Не искаме това да става известно.“ Операцията излезе наяве по време на по-широк правен контрол върху наборите от данни за обучение на AI. Въпреки че съдебните дела подчертаха предишното разчитане на пиратски дигитални хранилища, съдебните решения установиха ясна правна разлика между пиратските файлове и физическите носители. Съгласно доктрината за първата продажба и принципите за честна употреба (fair use), закупуването на физически книги, тяхното сканиране и изхвърлянето на хартиените оригинали беше определено като юридически допустимо — ефективно превръщайки законно закупеното физическо копие в дигитален файл за обучение. За преподавателите, етиците и изследователите обаче тази техническа разлика повдига ключова дилема: Равносилно ли е спазването на закона на етично разработване на изкуствен интелект? Поглед зад интерфейса на ИИ Project Panama измества вниманието от това как използваме ИИ към начина, по който самият ИИ е създаден. Една книга може да бъде закупена веднъж на обикновена пазарна цена, но нейното информационно съдържание по-късно може да се превърне във входни данни за високостойностна търговска система с ИИ. Това повдига икономически въпрос: кой създава знанието, от което зависи ИИ, и кой присвоява стойността, генерирана от него? Това повдига и въпрос за произхода на данните. Университетите очакват от студентите и изследователите да посочват източниците, да документират методите си и да разкриват практиките си за работа с данни. Трябва ли да очакваме подобна прозрачност и по отношение на наборите от данни, върху които се изграждат мощните модели с ИИ? Преосмисляне на AI грамотността: Изследване на веригата на доставки С години учебните програми по дигитална грамотност се фокусираха главно върху дизайна на промптове, алгоритмичните пристрастия и основната поверителност на потребителите. „Проект Панама“ обаче илюстрира защо AI грамотността трябва да се разшири, за да изследва материалните, правните и институционалните рамки, които стоят в основата на тези системи. Когато анализираме „Проект Панама“ през призмата на икономическата теория, отворените данни и управлението на информацията, възникват няколко ключови академични въпроса: – Границите на авторското право и честната употреба: Законът за авторското право е създаден около човешкото творчество и потребление. Когато комерсиални компании усвояват милиони публикувани произведения, за да обучават генеративни системи, които се състезават с авторите хора, защитава ли „трансформиращата употреба“ истинските иновации, или улеснява системното извличане на културна стойност? – Отворена наука срещу корпоративна конфиденциалност: Anthropic — структурирана като корпорация с обществена полза, посветена на безопасността на изкуствения интелект — призна вътрешно, че обществеността би реагирала негативно на промишлен процес за унищожаване на книги. Напрежението между реториката за обществена полза и тайното събиране на данни подчертава спешната нужда от институционална прозрачност и принципи за отворени данни при машинното обучение. – Физическият отпечатък на облачните инструменти: Изкуственият интелект често се обсъжда като „безтегловен“ софтуер, съществуващ в облака. „Проект Панама“ служи като ярък пример, че създаването на AI модели включва физически вериги на доставки, промишлени машини и физически артефакти — което ни принуждава да се изправим пред екологичните и културните компромиси на технологиите. Призив към академичната общност Към нашите колеги от всички дисциплини — икономисти, правни изследователи, социолози, етици и компютърни специалисти: Как трябва да отговори академичната общност на тези зараждащи се реалности? Докато оформяме учебните програми и изследователските си планове около AI грамотността, отворената наука и етиката на данните, къде поставяте границата между технологичните иновации и етичната отговорност? Какво е вашето отношение към физическото унищожаване на литература с цел изграждане на дигитален ум и как нашите университети трябва да се ориентират в тези сложни етични територии? Каним изследователи, преподаватели и студенти да споделят своите мисли, чувства и размисли относно „Проект Панама“ и по-широките му последици за висшето образование и обществото. Включете се в дискусията в коментарите по-долу или се свържете с нас, за да участвате в предстоящите ни академични форуми относно AI грамотността и етиката на данните. По-широк въпрос пред университетите Следователно Project Panama е нещо повече от впечатляващия образ на унищожавани книги. Става дума за трансформирането на човешкото знание в производствен ресурс за изкуствения интелект. За университетите централният въпрос може да бъде следният: Трябва ли грамотността в областта на ИИ да ни учи само как да използваме изкуствения интелект отговорно, или и как да поставяме въпроса дали самият изкуствен интелект е бил създаден по отговорен начин? Каним изследователи, преподаватели и студенти да споделят своите гледни точки за това какво трябва да означават случаи като Project Panama за грамотността в областта на ИИ, управлението на данни и висшето образование. Каним изследователи, преподаватели и студенти да споделят своите мисли, чувства и размисли относно Project Panama и неговите по-широки последици за висшето образование и обществото. Включете се в дискусията в коментарите по-долу или се свържете с нас, за да участвате в предстоящите ни университетски форуми, посветени на грамотността в областта на ИИ и етиката на данните. |