К вопросу о применении искусственного интеллекта в исторических исследованиях

Юмашева Юлия Юрьевна ORCID: 0000-0001-8353-5745 доктор исторических наук Заместитель генерального директора ООО "ДИМИ-ЦЕНТР" 105264, Россия, г. Москва, бул. Измайловский, 43 Yumasheva Julia Yurijevna Doctor of History Deputy Director of "DIMI-CENTER" 105264, Russia, g. Moscow, bul. Izmailovskii, 43 Juliayu@yandex.ru Другие публикации этого автора

Введение

Заданная редакцией журнала «Историческая информатика» тема очередного выпуска «Искусственный интеллект в исторических исследованиях и образовании», на наш взгляд, предполагает необходимость уточнения двух понятий: «искусственный интеллект» и «этапы исторического исследования».

Оставив за границами рассмотрения историю идеи о «мыслящем искусственном существе» («мыслящей машине»), которые витали в воздухе еще со времен Аристотеля, обратимся к более близким временам, а именно к рассмотрению термина Artificial Intelligence (AI, искусственный интеллект, ИИ), который был сформулирован и впервые введен в научный оборот на основе практически реализованных проектов (в т.ч. разработанной в начале 1950-х гг. первой модели нейронных сетей – The Stochastic Neural Analog Reinforcement Calculator (SNARC) ^[1]) на Dartmouth workshop ^[2], который проходил в 1956 г. в Ганновере, штат Нью-Гемпшир. В то время организаторы этого семинара (Дж. Маккарти, Марвин Мински, Натаниэль Рочестер и Клод Шеннон) и докладчики (среди которых были Аллен Ньюэлл и Герберт Саймон – авторы программы «Logic Theorist», разработанной в 1955 г. ^[3]) не формулировали определение этого термина, справедливо полагая, что для корректной дефиниции необходимо сначала дать определение понятию «интеллект». Однако еще на этапе подготовки к семинару Дж. Маккарти так обозначал предмет обсуждения: «всякий аспект обучения или любой другой признак интеллекта может в принципе быть настолько точно описан, что машину можно заставить его симулировать». Это положение стало основанием для выделения в 1957 г. основных направлений применения AI: «машинный перевод, машинное обучение, автоматизированное распознавание (образов/письма/звучащей речи) и принятие решений» ^[4].

Прошло без малого 70 лет, и после определенных успехов AI в конце 1950-х–1970-х гг., (разработки в 1958 г. архитектуры искусственной нейронной сети – персептона ^[5], в 1959 г. первой программы «машинного самообучения» – Samuel Checkers-playing (компьютерная программа игры в шашки) ^[6], языков программирования List Processing language (LISP, «язык обработки списков» ^[7]), одной из первых компьютерных шахматных программ ^[8]*, программы ELIZA ^{[9, 10]}**, экспертных систем, методов имитационного моделирования ^{[11, 12, 13, 14, 15, 16, 17]}*** и т.п.), и последовавшей за этим периодом «зимы AI», длившейся почти 20 лет и связанной с микрокомпьютерной революцией и нехваткой данных, с середины 1990-х гг. возникла новая, повторная волна интереса к AI, детерминированная технологическими сдвигами, взрывным увеличением мощностей компьютерной техники, появлением направления Data Science и развитием Data Engineering.

К концу 1990-х гг. было сформулировано максимально общее определение AI, которое давало и дает широкий простор для именования этим термином многих технологий, связанных с обработкой данных: «Искусственный интеллект – это область компьютерных наук, направленная на создание систем, способных выполнять задачи, требующие человеческого интеллекта». Претерпели изменения и области применения AI. К четырем ранее определенным направлениям, сохранившим свое значение, были добавлены роботехника со встроенным AI, распознавание и воспроизведение человеческих эмоций (робот Kismet ^[18]) и т.п.

Прошло еще 20 лет, в течение которых произошло огромное увеличение вычислительных мощностей, накопление больших объемов данных, появление генеративного AI и больших языковых моделей (LLM); разработкой новых технологических решений, внедрением виртуальных помощников и ботов, способных общаться на естественном языке…

Все эти события вновь поставили вопрос об уточнения определения понятия AI и областей его применения. Погружаясь в изучение историографии AI, трудно не согласиться с мнением немецких исследователей А. Каплана и М. Хейнлейна, которые писали, что «AI по-прежнему остается на удивление размытой концепцией, и многие вопросы, связанные с ней, остаются открытыми… Мы предполагаем, что AI – это не один монолитный термин…», а совокупность технологий, изучение которой возможно только «через призму эволюционных стадий (искусственный узкий интеллект, искусственный общий интеллект и искусственный суперинтеллект) или сосредоточившись на различных типах систем AI (аналитический ИИ, ИИ, вдохновленный человеком, и очеловеченный AI)» ^[19].

Это же понимание сущности AI зафиксировано и в наиболее близкой, по мнению автора, к содержанию этой статьи дефиниции, закрепленной в российском ГОСТ: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека» ^[20].

Резюмируя краткий экскурс в историю представлений об AI, отметим, что изначально определенные направления его применения остаются практически неизменными, но при этом они проникают во все новые отрасли знания. Этот факт дает возможность сосредоточиться на рассмотрении одной из основополагающих задач использования AI, а именно на методах распознавания текстов/изображений и создании машиночитаемых источников, как базового условия взаимодействия с компьютерными приложениями для проведения дальнейшего анализа информации.

Теперь рассмотрим содержание понятия «этапы исторического исследования». В отечественной историографии существует несколько вариантов списка этапов исторического исследования, детерминированных областью исследований, однако, большинство авторов рассматривают его на примере проблемно-исторических исследований событий, процессов, явлений, исторических персон и т.п. и включают такие обязательные пункты как:

1. Выбор темы на основе первичного анализа историографии;

2. Подробный историографический анализ и определение объекта и предмета (исследовательских задач) исследования;

3. Разработка рабочей гипотезы;

4. Выявление и отбор источников в соответствии с объектом, предметом, поставленными задачами и рабочей гипотезой (эвристика);

5. Определение и применение методов изучения источников (в том числе – подготовки их информации для последующего анализа), адекватных источниковой базе;

6. Определение и применение методов анализа источников, адекватных источникам и поставленным задачам, получение результатов;

7. Интерпретация (теоретическое объяснение) полученных результатов;

8. Корректировка первоначальной рабочей гипотезы, формулирование выводов;

9. Интеграция выводов в исторический контекст;

10. Определение результатов, не укладывающихся в имеющиеся концепции исторического развития;

11. Постановка новой исследовательской задачи и т.п.

Очевидно, что в пп. 1–3 вряд ли возможно применение AI – для этого было бы необходимо оцифровать всю научную литературу в мире, постоянно поддерживая этот процесс новыми публикациями, разработать совершенные методы ее содержательного анализа (с учетом традиций национальных и (ýже) научных школ) и выявления неисследованных тем, проблем, вопросов, т.е. историографических «лакун», которые могли бы стать объектом изучения, и при этом, были бы обеспечены источниковой базой, или к которым могли бы быть применены новые методы исследования.

На сегодняшний день такие задачи под силу только человеку, работающему в избранной предметной области и обладающему экспертными знаниями.

Примерно такие же выводы можно сделать и в отношении пп. 7, 8 и 9, т.к. применение генеративного AI для решения этих задач не может в принципе удовлетворить исследователей, поскольку результат генерации ответа всегда основан на уже введенных в машину знаниях, в то время как искомый итог любого научного исследования должен быть нацелен на получение новых выводов («приращение научного знания» – © Л.И.Бородкин****).

Пп. 10 и 11 являются в некотором смысле «факультативными» и/или могут быть раскрыты в нарративном описании итогов исследования.

Набор этапов исследования в не менее важных исторических исследованиях в области источниковедения и вспомогательных исторических дисциплин мало чем отличается от перечня этапов проблемно-ориентированных работ, однако, методы исследования в них отмечены большей междисциплинарностью, т.е. использованием не только информационных технологий, но и привлечением методов естественно-научных дисциплин, что выводит результаты этих исследований на уровень эмпирического знания.

Таким образом, применение AI в исторических научных исследованиях на сегодняшний день ограничено этапами:

- выявления и отбора источниковой базы (п. 4) (создание новых разновидностей архивного НСА в виде наборов данных (баз знаний, dataset, ds), семантических поисковых систем и, возможно, систем, использующих генеративный AI***** ^[21]). Внедрение AI на этом этапе знаменует новую стадию развития системы научно-справочных средств архивов, а также библиотечной и архивной эвристики (эвристика информационной эпохи);

- применения специализированных методов подготовки комплексов источников для их последующего изучения (п. 5) (преобразование исторических источников в цифровой вид, формирование наборов данных и терминологических словарей, разработку больших языковых моделей (LLM) на основе исторической лексики и т.п.). На этом этапе использование AI имеет следствием трансформацию источниковедения и вспомогательных исторических дисциплин и формирование исследовательского инструментария, адекватного цифровой среде (цифровые палеография, дипломатика, сфрагистика, кодикология, филигранология, историческая лексикология и т.п.) ^{[22, 23]}.

- непосредственного использования методов AI для анализа подготовленных источников, получения определенных результатов (п. 6) в рамках проблемно-исторических исследованиях для их дальнейшего синтеза, интерпретации и интеграции в исторический контекст на следующих этапах.

Очевидно, что на каждом из перечисленных этапов использование методов AI будет иметь свои ограничения, детерминированные спецификой источниковой базы и исследовательскими задачами исследований.

Завершая затянувшееся Введение, отметим, что дальнейшее изложение автор посвятит возможностям применения AI для развития источниковедения и вспомогательных исторических дисциплин, распознавания текстов и изображений в исторических источниках и их подготовке для проведения аналитических процедур. Т.о., предлагаемый материал представляет собой обзор и обобщение подходов и проблем, имеющихся в мировой практике, и собственного опыта участия автора в некоторых уже осуществленных и осуществляемых в настоящее время проектах, целью которых было создание полностью распознанных (с точность не менее 95–97%) машиночитаемых текстов комплексов рукописных и машинописных источников для их представления в электронной среде и формирования специализированных наборов данных, которые могут являться как целью исследования, так и вспомогательным инструментарием в масштабных проектах распознавания. (Особо подчеркнем, что автор не будет анализировать проекты целевого распознавания отдельных элементов текста или распознаванием текста, которое осуществляется в качестве вспомогательного этапа в проблемно-исторических исследованиях).

Наборы данных, машинное обучение, AI и другие информационные технологии в автоматизированном распознавании текстов рукописных и машинописных источников (на примере распознавания текстов)

Проблема автоматизированного распознавания изображений (текстов вообще и рукописных текстов в частности) не нова. Впервые она возникла более 50 лет назад, в середине 1970-х гг., когда за рубежом стали проводиться научные конференции ^{[24, 25, 26, 27, 28, 29]}, возникли профессиональные ассоциации ^{[30, 31]}, объединившие специалистов-историков и информатиков, начали публиковаться тематические сериальные издания, сборники статей ^{[32, 33]}, в которых излагают свои взгляды те, кто постоянно участвует в этих проектах, и те, кто анализирует их «издалека», на основе чужих публикаций, презентаций, ни разу не попробовав подготовить дóлжным образом электронную копию архивного документа, создать различные наборы данных (палеографические, кодикологические, дипломатические, историко-лексикографические и т.п.) для обучения нейросетей, привлечь знания экспертов, имеющиеся коллекции эталонов (бумаги и писчих материалов), разметить текст в соответствии с традициями дипломатики или с учетом разнообразных полиграфических формуляров документов и т.п.

К сожалению, последний подход наиболее распространен в отечественной историографии и чреват грустными последствиями, которые не только подрывают веру в возможности информационных технологий и сводят решение данной задачи исключительно к мозговым штурмам в виде хакатонов для поиска «чудо-алгоритмов», но и не замечают и не хотят замечать огромной подготовительной работы, которая осуществляется историками, архивистами, филологами, лингвистами и лежит в основе любого успешного проекта распознавания письменных источников.

Сразу отметим, что в большинстве проектов распознавания текстов (в т.ч. рукописных документов) успех делится в пропорции 70% на 30%, где 70% относятся к подготовке массивов исторических источников для перевода и переводу их в цифровой вид с помощью разнообразных информационных технологий, формированию вспомогательных наборов данных для машинного обучения, или лишь 30% – собственно на методы AI-распознавания, среди которых первое место занимают нейросети.

В целом, применение информационных технологий (в том числе AI) для автоматизированного распознавания текстов/изображений можно разделить на три группы:

- использование различных ИТ-методов для создания и улучшения качества (технических параметров) электронных копий, которые будут распознаваться (подготовительный этап работы, связанный с внешними особенностями подлинников, воспроизведенных на электронных копиях);

- применение ИТ (в том числе AI) для формирования специализированных наборов данных разного назначения и машинное обучение алгоритмов AI на подготовленных ds;

- собственно использование AI-алгоритмов для непосредственного распознавания.

В рамках этой статьи кратко охарактеризуем основные виды подготовительных работ, используемые технологии, проблемы создания электронных копий (ЭК) и наборов данных, без которых получение удовлетворительного результата распознавания текстов исторических источников затруднительно. (Как справедливо отмечал в своем докладе на Круглом столе, проходившем во ВНИИДАД 10.04.2023 г., директор Государственного архива Тульской области Д.Н. Антонов, ключевым требованием к осуществлению проектов распознавания является источниковедческий подход и связанные с ним методы научной критики источников, предназначенных для обработки ^[34]). Оставив в стороне рассмотрение эволюции программных средств собственно распознавания текстов – от программных приложений середины 1970-х – начала 1990-х гг., до движков и платформ, функционирующих c помощью различных типов нейросетей, упомянем только отдельные программные решения, которые используются для автоматизации создания ЭК, datasets, машинного обучения и распознавания.

1. Создание и обработка электронных копий письменных источников, которые могут быть использованы в проектах автоматизированного распознавания.

1.1. Разрешение, режим сканирования, формат

В отечественной историографии в последние годы утвердилось мнение о том, что для автоматизированного распознавания можно использовать любое электронное изображение письменного источника. Между тем, на основе опыта реализации большого количества проектов научного исследования рукописей, инкунабул и старопечатных книг ^[35], а также распознавания текстов еще на рубеже 2010-х гг. были определены оптимальные характеристики создания сканов: разрешение при сканировании должно быть не ниже 400 dpi для документов формате А4 (в идеале – 600 dpi), режим сканирования – «оттенки серого», формат сжатия файла Tiff (документы меньшего формата сканируются с бóльшим разрешением).

Эти параметры имеют четкое обоснование, связанное с:

- соотношением средней величины строчного символа (знака: буквы или цифры), размером бумаги и предъявлением этого соотношения на экране монитора при увеличении не меньше 200%, которое позволяет различать тонкие линии в начертании букв/цифр;

- основным принципом оптического распознавания, который базируется на оценке (сравнении) степени яркости и контрастности пиксел, из которых состоит компьютерное изображение^[36]. Знаки (символы), написанные чернилами, отпечатанные на машинке, принтере, типографским способом и т.п., будут наиболее темными участками (группами пиксел) на изображении по сравнению с незаполненным полем бумаги. Учитывая то, что знаки (буквы/цифры) имеют разную толщину линий и «насыщенность чернилами» (контрастность) (даже при анализе машинописного текста), определение их «границ» и начертаний будет более точным в режиме оцифровки «оттенки серого», который лучше улавливает и отражает нюансы яркости и контрастности, позволяя определять начертание знака, «захватывая» самые светлые из темных пикселей, которые составляют элементы буквы/цифры (например, «отлетающие» росчерки, «хвостики» букв, части литер, написанные без нажима).

Очевидно, что использование цветного режима сканирования добавит «лишней» информации в анализируемое изображение, поскольку в «состав» каждого из оттенков цветов RGB или CMYK, представляемого на экране монитора, в той или иной пропорции включены яркость и контрастность; а черно-белый режим, в который рекомендуют преобразовывать цветные изображения многие авторы, «обрезают» необходимую информацию о яркости и контрастности (процесс «бинаризации» используется только в случае невозможности создания целевого комплекса изображений). Таким образом оба режима искажают и огрубляют изображение и являются источником ошибок при распознавании.

Давать комментарий по формату Tiff представляется излишним, отметим только, что этот формат сохранят изображение практически без искажений, что чрезвычайно важно при распознавании.

1.2. Необходимость учета текстуры писчих материалов, способов фиксации текстовой и изобразительной информации и степени сохранности распознаваемых документов

Перечисленные вопросы, как правило, относят к предметной области работы реставраторов и не принимают в расчет при создании электронных копий и разработке систем распознавания. Однако, как показывает опыт, непонимание физических особенностей и механизмов создания документов приводит к ошибкам при выборе инструментов сканирования и распознавания. Рассмотрим несколько практических примеров, проанализировав носители письменной информации (глиняные таблички, поверхность камня, папирус, пергамент, бомбицину, бумагу, кальку и т.п.).

Каждый из перечисленных носителей информации обладает собственной спецификой. Однако самым распространенным и «недооцененным» с точки зрения проблем носителем, является, безусловно, бумага. Многие ошибки при распознавании рукописных текстов, созданных до начала XIX вв. (в России до конца первой трети XIX вв.), связаны с тем, что тряпичная бумага, использовавшаяся в то время, имеет неровную «кочковатую» поверхность, обусловленную ручным способом измельчения сырья и «отлива» листов бумаги. Такая поверхность бумаги по-разному впитывает чернила на разных частях одного и того же листа, что влияет на начертание букв (они могут расплываться, их размеры и границы «плывут», чернила впитываются и проходят насквозь, создавая на обратной стороне листе «мусор» и т.п.), а яркость и контрастность на изображении становятся менее определенными.

Аналогичные проблемы могут возникать в случае использования бумаги, отлитой в маленьких мануфактурах, где в сетчатых формах для литья бумажных листов в качестве вержеров и понтюзо, в также для создания рисунка филиграни ^[37], использовалась довольно толстая проволока, оставляющая в готовом листе менее плотные бороздки бумаги.

Изобретение бумагоделательной машины Робера (1799 г.) и ее внедрение в мануфактурное производство улучшило качество бумаги ^{[38, 39]}, и бумага документов XIX в. уже не создает таких проблем при распознавании.

Однако, существенной проблемой для автоматизированного распознавания по-прежнему остается плотность самой бумаги. Особую сложность составляют документы, написанные на обеих сторонах неплотных листов (плотность менее 60 г/м2), на кальке (плотность менее 40 г/м2), на бязи, созданные с помощью копировальной бумаги (2 и последующие экземпляры) и т.п.

Методы борьбы с «кочковатостью» и просвечивающими с обратной стороны листа строками, проступающими насквозь чернилами или рельефами (особенно знаками препинания), т.н. «артефактами», «мусором» и «шумом» на электронном изображении начинают применять не в процессе распознавания текста (поскольку никакая графическая обработка или разметка строк/текста на листе не способны компенсировать эти недостатки), а еще на этапе сканирования документов с подбора соответствующих по цвету прокладочных листов, использование которых позволяет избавиться от 85–90% «артефактов» и тем самым подготовить удовлетворительную по качеству для целей распознавания электронную копию.

В контексте анализа особенностей носителей письменных источников, оказывающих прямое воздействие на качество автоматизированного распознавания, следует также назвать технику фиксации знаков (символов). Очевидно, что надписи на камне (эпиграфические источники), на глиняных табличках, бересте, пергаменте и т.п., – рельефные, и утрата красочного слоя (угасание текста) не оказывает существенного влияния на распознавание. Рельефными являются также и надписи на бумаге, сделанные пером, остро заточенным карандашом и пишущей машинкой. Эти рельефы («трассы») относятся к «низким», и для их выявления необходимо использование специально сконструированного сканирующего оборудования с последующей графической обработкой ^[40]. Разработанная технология, наравне с применением специализированных методов мультиспектральной ^{[41, 42]} и гиперспектральной фотосъемки и анализа, различных вариантов спектроскопий и др. с успехом используются для подготовки электронных копий угасших текстов рукописей и манускриптов для распознавания, а также выявления уничтоженных записей на пергаменте (палимпсестах).

Единственной техникой, которая на сегодняшний день составляет неразрешимую проблему при сканировании и распознавании угасающих текстов, является факсимильная (факсовая) передача информации. Это проблема обусловлена механизмом создания текста или изображения на факсовой термобумаге, при котором используется нагрев (химическая реакция – плавление) красителей, создающих текст/изображение, а физическое воздействие на носитель (бумагу) отсутствует, в результате чего рельеф не возникает.

Резюмируя рассмотрение этапа сканирования, еще раз подчеркнем, что игнорирование текстуры носителя и некачественная подготовка массивов электронных копий, предназначенных для автоматизированного распознавания, является причиной большого количества проблем, которые не могут быть решены программными средствами на следующих этапах исследования.

2. Наборы данных, их разновидности, специфика создания

Создание наборов данных для машинного обучения всех разновидностей программ автоматизированного распознавания и само машинное обучение – второй и третий по важности и наиболее продолжительные этапы подготовительных работ, которые могут длиться от нескольких месяцев до нескольких лет. Как правило, реализация этих этапов в последние годы является наиболее «закрытой» и редко афишируемой частью проектов, детерминированной особенностями комплекса распознаваемых источников и задачами, стоящими перед исследователями, и основанной на экспертном знании не только историков, источниковедов, палеографов и специалистов в области других вспомогательных исторических дисциплин, но и реставраторов и информатиков. Подчеркнем, что различные информационные методы (в том числе машинное обучение и AI) находят свое применение и на этих подготовительных этапах формирования наборов данных^[43].

Кратко охарактеризуем разновидности наборов данных, которые необходимо подготовить для машинного обучения систем распознавания письменных исторических источников.

Палеографические наборы данных

В 2000-е – середине 2010-х гг. создание палеографических наборов данных и их публикация в сети интернет были одним из самых популярных направлений в профессиональных исторических исследованиях. В этот период были созданы, например, один из первых палеографических наборов данных для машинного обучения – MNIST ^[44], в котором были аккумулированы варианты рукописного написания арабских цифр (за последние 20 лет ds неоднократно обновлялся), так называемая «Средневековая палеографическая шкала» (набор данных) для датировки исторических документов Нидерландов и Фландрии периода 1300–1550 гг. с интервалом в 25 лет ^[45], ставшая моделью для создания аналогичных наборов во многих европейских странах и разработки подходов к классификации почерков ^[46], создавались как персонифицированные наборы данных почерков отдельных людей, так и типологические палеографические модели для разных европейских и азиатских языков и хронологических периодов ^{[47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59 60]}. Созданные наборы данных стали основой для развития онлайн-платформ автоматизированного распознавания текстов типа Transcribus, eScriptorium, Tesseract и др. (в Европе), Hentaigana ^[61], KuLA (くずし字学習支援アプリ) ^[62], MOJIZO (解析: 木簡・くずし字解読システム) ^[63] (в Японии) ^[64].

Цель формирования палеографических наборов данных очевидна – они служат обучающим материалом для алгоритмов автоматизированного распознавания средневековых текстов и текстов Нового времени (т.е. носят «инструментальный характер»), а также используются в качестве метода исследования для реализации проектов изучения конкретных архивных коллекций и рукописей исторических персон ^{[65, 66]}, формирования коллекции автографов ^[67] (в том числе, например, установления/подтверждения авторства ^{[68, 69, 70, 71, 72]}, выявления подделок рукописей ^{[73, 74]}, уточнения датировок ^{[75, 76]} и т.п. Для этих целей создаются наборы данных, характеризующие эволюцию почерка конкретного лица в течение всей его жизни). Такие наборы данных широко применяются в зарубежной историографии, использовались они и в России (в частности – KHATT ^[77], доступный бесплатно) ^[78] и т.п.

В настоящее время существуют «типовые» палеографические ds для латиницы, греческого и арабского алфавитов, западноевропейской кириллицы, еврейского, армянского, грузинского и др. алфавитов. Эти наборы развиваются и дорабатываются с учетом специфики национальных языков и конкретных исторических периодов ^{[79, 78]}. Вместе с тем, к сожалению, следует констатировать, что в силу трудоемкости процесса создания палеографических наборов данных на сегодняшний день ни один язык не имеет полного комплекта палеографических моделей для всего периода существования национальной письменности, что затрудняет осуществление работ по тотальному распознаванию текстовых источников и их представлению в машиночитаемом виде. Сложившаяся ситуация привела к возникновению нового тренда – разработке искусственно созданных наборов данных на основе генеративного AI ^[81], возможности широкого внедрения которого еще требуют изучения.

В зарубежных университетах, архивах и библиотеках c начала 2000-х гг. создавались и продолжают развиваться проекты публикации коллекций электронных копий рукописей и созданных на их основе палеографических/изобразительных описанных (аннотированных, размеченных) наборов данных – шрифтов, почерков ^{[82, 83]}, иллюстраций. Многие из этих работ представлены на обобщающих порталах или сайтах проектов ^{[84, 85, 86]}, осуществляются в виде баз данных, онлайн-каталогов ^[87], связанных открытых данных ^{[88, 89]}, интернет-платформ и онлайн-учебников/курсов для обучения студентов ^{[90, 91]}, моделей палеографических наборов «изображение-текст»^[92], публикаций ds на открытых площадках, создания наборов данных для разработки специальных инструментов работы с рукописями^{[93, 94, 95, 96]}, для расшифровки стенографических сокращений («Тиронские примечания» ^[97]), аббревиатур и т.п.

В странах Европы и Дальнего Востока (КНР, Япония и др.) для формирования баз знаний (наборов данных) специфических шрифтов и восточных идеографических языков активно разрабатываются собственные модели автоматизированного распознавания, например, созданная в Германии OCR-система для чтения готического шрифта Fractur ^[98] или система RURI (瑠璃) ^[99] в Японии. Последняя основана на применении Международной платформы обмена изображениями IIIF и глубоком обучении. На порталах и сайтах крупных проектов размещаются наборы данных, отражающие палеографические особенности иероглифики на разных носителях (шелке, бумаге, бамбуковых планках, бронзовых пластинах, керамике и т.п.) и разных каллиграфических стилей ^{[100, 101, 102]}. В качестве дополнения и расширения возможностей созданных ресурсов ^{[103, 104]}, где опубликованы ds, на сайтах размещаются также лексикографические (тематические) наборы данных, облегчающие процесс распознавания.

К сожалению, в России работы по созданию палеографических систем и наборов данных практически не ведутся. В составе единственного близкого по тематике проекта «История письма европейской цивилизации» ^[105], разработанного в Санкт-Петербургском институте истории РАН (URL: https://gis.spbiiran.ru/), имеется коллекция оцифрованных исторических источников, однако, предложенное описание каждого документа и крайне низкое качество изображений не позволяют сформировать палеографические наборы.

Перечислив некоторые проекты формирования палеографических ds, остановимся на проблемах, возникающих при их создании. Так, серьезной проблемой является качество писчих материалов (чернила, краски, тушь, карандашные грифели, типографская краска, красящие наполнители ленты для п/машин, картриджи принтеров и т.п.), их яркость и контрастность на электронных копиях и т.п., которые напрямую зависят от содержания в них черного цвета ^[106].

Выцветание железо-галловых чернил, осыпь графитных карандашей, тусклость цветных красителей лент пишущих машинок, картриджей принтеров и т.п., т.е. так называемое «угасание текста», является одной из причин использования режима сканирования «оттенки серого», использования методов мультиспектральной фотосъемки ^[107] и анализа изображений и/или разработки методов графической обработки ^[108] электронных копий в таких графических редакторах как Adobe PhotoShop или Irfan. Автору известно, как минимум, несколько разработанных решений для этих программных приложений на основе сформированных наборов данных, созданных для разных типов текстов. К сожалению, подобные разработки всегда носят исключительно источнико-ориентированный характер, поскольку тесно связаны с конкретными комплексами документов и степенью их сохранности, являются «техническими» аспектами проектов распознавания, и, как правило, даже не удостаиваются упоминания в статьях.

Особого рассмотрения заслуживает вопрос о писчих принадлежностях авторов письменных источников (калам, птичье и железное перо, перьевая, шариковая ручка, фломастер, пишущая машинка и т.п.), особенностях почерка писца и/или способах создания письменных источников.

К примеру, европейские писец-левша и писец-правша будут писать буквы с разным нажимом, т.е. у букв, написанных левшой, наиболее наполненная чернилами (т.е. наиболее темная, яркая и контрастная на электронном изображении) часть букв будет располагаться справа, а у правши – слева. Учитывая основной принцип, на котором базируется распознавание, упомянутый выше, эта «зеркальность» будет создавать проблемы «идентификации» букв, и требовать создания специализированных наборов данных и дообучения программ HTR. (Проблема «нажима» практически исчезла в связи с широким использованием шариковых, гелевых ручек и фломастеров).

Изобретенные в конце XIX в. и остававшиеся самым популярным средством создания официальных документов в течение бóльшей части XX в. механические пишущие машинки, безусловно, улучшили «человеко-читаемость» письменных источников, но при этом создали новые специфические препятствия для автоматизированного распознавания текстов. Так, четкость (яркость и контрастность) воспроизведения символов в документах стали напрямую зависеть от «свежести» печатной ленты, чистоты рельефных букв (литер) на шрифтовых колодках, индивидуальной силы удара каждого из пальцев машинистки (при десятипальцевом методе печатанья; сила удара перестала быть определяющей во второй половине XX в. после изобретения электрических пишмашинок), плотности бумаги и использования копирки для создания нескольких экземпляров документа. К этому следует добавить, что каждый экземпляр пишущей машинки оснащался набором литер, имевшим практически незаметное, но при этом уникальное отличие в оттиске, что позволяло однозначно идентифицировать пишущее средство, но в настоящее время представляет дополнительную проблему при создании палеографических наборов данных для распознавания ^[109]. Совокупность этих особенностей создания машинописных документов является основной причиной того, что многие программные средства распознавания хуже распознают документы XX в., нежели рукописные источники.

Кодикологические и дипломатические наборы данных

Обязательные наборы данных, формируемые в целях автоматизированного распознавания текстов рукописных документов и старопечатных книжных памятников, связаны с кодикологией и дипломатикой.

Шрифты рукописных и печатных книг (начертание и размер), заставки и буквицы, орнаментика и иллюстрации, кустоды, клейма печатников (инициалы, имена и цифры), пропорции самого издания и наборной полосы, конфигурация текстового набора, размеры и соотношение полей на странице, количество строк на странице, формат строки (выключка), концовки; межбуквенные, межсловные и междустрочные интервалы (количество строк на странице, количество букв в строке); инструменты зрительного деления текста (абзацные отступы, втяжки, отбивки, шрифтовые и цветовые выделения, элементы рубрикации, маргиналии); колонцифры, колонтитулы, колонлинейки, фолиация, пагинация и т.п. – все эти элементы являются объектами для формирования баз знаний (наборов данных ^{[110, 111]}), помогающих не только атрибутировать рукописи и книжные памятники и подтверждать их подлинность, но и проводить автоматизированную разметку, выделение фрагментов текста, строк ^{[112, 113]}, установление участия писцов в создании рукописи ^[114], уточнение датировок письменных источников ^[115]. К настоящему времени в России и за рубежом реализовано несколько проектов ^[116], в которых активно использовались созданные кодикологические наборы данных и на их основе разрабатывались специальные программные приложения ^{[117, 118]}.

Не менее важными являются и дипломатические datasets, позволяющие анализировать «шаблоны» (формуляры и формулы (структурные части текста) – объекты изучения формуляроведения – направления в цифровой дипломатике ^[119]) документов (например, с помощью технологии «изображение в изображении»^{[120, 121]}), и тем самым облегчающие автоматизированную сегментацию текста ^{[122, 123]}. Подобные разработки особенно актуальны для таких видов документов как грамоты, акты, хартии, реестры и т.п. ^[124], текстов, созданных в средневековье ^[125], написанных на бланках, имеющих созданные полиграфическим способом графические элементы (таблицы, угловые штампы, линии, схемы и т.п.), которые мешают распознаванию собственно текстов. До недавнего времени для обработки таких источников создавались специализированные программные средства на основе т.н. «компьютерного зрения», которые «снимали» лишние элементы с изображения и оставляли только текст. В настоящее время для решения этой проблемы используются рекуррентные (RNN) ^[126], сверточные (CNN) ^[127] и иные виды нейронных сетей ^[128], обучение которых ведется на основе созданных дипломатических наборов данных^[129], аккумулирующих и описывающих варианты оформления документов.

Необходимо подчеркнуть, что создание дипломатических ds актуально для работы с документацией, созданной до середины – второй половины XX в., когда во многих странах (и СССР в том числе) были разработаны и введены в действие стандарты оформления управленческой документации, что в совокупности с однозначно установленными и используемыми форматами бумаги и техническими средствами создания документов унифицировали документацию.

Особого упоминания заслуживают наборы данных и технологии, применяемые для сегментации и распознавания текстов и изображений на газетных полосах ^[130], картографических источниках ^{[131, 132, 133, 134, 135, 136, 137, 138]}, чертежах и схемах в научно-технической документации ^{[139, 140, 141]}, в научных статьях ^{[142, 143]} и т.п., которые всегда составляли проблемы для распознавания. Активное сканирование и публикация подобных источников позволили специалистам создать необходимые наборы данных, а развитие нейросетей в последнее десятилетие – приступить к решению задач распознавания подобных источников.

Вместе с тем, одной из самых сложных разновидностей документов для автоматизированного распознавания являются заполненные бланки разнообразных анкет (в т.ч. первичные листы переписей населения), налоговых деклараций и иной массовой документации середины XIX – третьей четверти XX вв., сочетающие в себе графические элементы, рукописные тексты и неоднозначно трактуемые символы, например, отметки в логических полях, в которых может стоять любой знак. Разрабатываемые с целью получения статистических данных, агрегирования информации для последующего анализа, эти формуляры очень удобны для математической обработки и крайне сложны и капиталоемки для разработки систем автоматизированного распознавания. К примеру, в 2022 г. во Франции стартовал проект Socface (URL: https://socface.site.ined.fr/), целью которого является создание базы данных всех людей, живших во Франции в период с 1836 по 1936 гг. В качестве источниковой базы используются электронные копии именных списков 20 переписей населения всех департаментов Франции, которые должны быть распознаны в автоматизированном режиме с помощью AI. К сожалению, на сегодняшний день в части распознавания текстов в проекте особых успехов не наблюдается. Учитывая сложность работы с массовым анкетным материалом, с целью ввода информации большинство крупных архивов используют волонтеров и краудсорсинговые платформы ^[144].

Историко-лексикологические наборы данных – словари

Лексикологические наборы данных (словари) аккумулируют информацию об именах собственных, названиях географических объектов (ономастика и топонимика), учреждений, аббревиатурах, терминологии предметных областей и т.п. и их эволюции, отраженной в текстах документов. К сожалению, для формирования подобных ресурсов невозможно использовать разработанные и введенные в действие стандарты ISO, поскольку словари детерминированы содержанием исторических источников и той исторической реальностью, в которой документы созданы, поэтому для каждого комплекса источников подобные datasets формируются специально.

Существенные проблемы при создании историко-лексикологических ds составляют, например:

- различия в именованиях людей, явлений, процессов в разные исторические периоды;

- разный состав элементов имен у разных народов;

- омонимия – совпадение имен, названий, терминов;

- терминологические неоднозначности, обусловленные полисемией (многозначностью слов, имен);

- грамматические ошибки или специфика написания имен и терминов, обусловленная временем, местом, орфографией и т.п.,

- языковый меланж (смешение, соединение слов из разных языков в одном фрагменте текста);

- а также большое разнообразие написания одного и того же имени, названия, термина, затрудняющее его точную идентификацию и т.п.

Очевидно, что преодоление этих сложностей возможно только при проведении развернутого исторического, источниковедческого, палеографического и текстологического анализа, обеспечивающего однозначную идентификацию конкретной позиции в наборе данных и, одновременно, ее максимально полное описание ^[145]. Определенную помощь в создании подобных ds могут оказать ведущиеся традиционно в архивах именные и предметные указатели, однако, как показывает опыт, механический перенос таких указателей в электронную среду не дает искомого результата, их нужно перерабатывать и готовить специальным образом ^[146].

Фактически, «словарные» наборы данных представляют собой элементы исторической лексикологии, целью которой является описание исторического метаязыка, отражающего эволюцию словарного состава языка (языков), на котором написаны документы, и являются своего рода переходным этапом от распознавания текстов источников к их семантическому анализу (в т.ч. с помощью больших языковых моделей). К сожалению, формирование исторических метаязыков даже в европейских странах далеко от завершения, поэтому использование LLM, созданных на основе современной лексики, для изучения исторических проблем и вопросов малоэффективно ^[147]. (Вариантом выхода из тупика может быть использование небольших языковых моделей, хотя понятие «небольшой» постоянно меняется: Phi-3 и 4 от Microsoft, Llama-3.2 1B и 3B, Qwen2-VL-2B, DeepSeek и др.).

3. Этап машинного обучения

На этом этапе проверяется точность созданных наборов данных, их репрезентативность и, как следствие, применимость для использования на всем массиве источников, которые подготовлены для распознавания.

Обычно созданные на предыдущих этапах ds делятся на три части:

- часть, предназначенную для использования в процессе обучения модели;

- часть, которая используется для верификации различных параметров и настроек модели с целью определения необходимости доработки набора и дообучения алгоритмов распознавания (т.н. настроек модели);

- часть, для тестирования окончательной версии обученной модели на тестовом массиве источников.

В историографии утвердилось мнение, что чем больше наборы данных, тем они успешнее справляются с поставленными задачами. Между тем, крупнейший авторитет в области машинного обучения профессор Стенфордского университета Эндрю НГ (URL: https://www.andrewng.org/) справедливо отмечал, что значительно важнее качество данных и ориентация AI не на модели, а на данные («во многих отраслях, где гигантских наборов данных просто не существует, думаю, акцент нужно сместить с больших данных на качественные данные. Наличия 50 хорошо продуманных и проработанных примеров может быть достаточно, чтобы объяснить нейронной сети то, чему вы хотите её научить»^[148]). Эта точка зрения в настоящее время находит практическое подтверждение в работах по распознаванию текстов древних и средневековых рукописей, в эпиграфике и т.п., а созданные размеченные ds становятся базовыми для осуществления разнообразных исследований и многократного использования.

Вместо заключения

Задача автоматизированного распознавания текстов, изображений, аудио и т.п., как одно из ключевых направлений применения искусственного интеллекта, в последние 70 лет находится в фокусе внимания специалистов многих профессий, однако до окончательного ее решения еще очень далеко.

Очевидным фактом является то, что применение любых информационных технологий в исторических исследованиях, в т.ч. OCR, HTR, AI вообще и нейросетей в частности, базируется на экспертном знании историков, источниковедов, специалистов по ВИД, реставраторов и информатиков. Созданные ими различные типы и варианты наборов данных, разработанные инструменты использовались и используются не только в проектах автоматизированного распознавания текстов письменных источников, но обладают и собственной информационной ценностью, поскольку их применение не ограничивается только «инструментальной» (вспомогательной) ролью при переводе рукописного текста в машиночитаемый вид, но и «работают» на развитие архивной эвристики и на реализацию аналитического этапа конкретно-исторических исследований ^[149]. Результаты этой подготовительной работы являются «приращением исторического знания» и основанием для активного развития исторической науки, ее выводу на новый виток развития, соответствующий нынешнему уровню информационной эпохи ^[150].

К сожалению, автор вынужден констатировать, что отечественная историческая наука (за редким исключением), сосредоточившись на проблемно-ориентированных исследованиях, пропустила исторический временной период (середина 1990-х – начало 2010-х гг.), удобный для создания наборов данных, и теперь находится в догоняющем положении. Исправление этой ситуации возможно при увеличении внимания к источниковедению и архивоведению, внедрению в эти исторические дисциплины новых подходов и методов, о чем говорилось в выступлении академика-секретаря, руководителя секции истории Отделения историко-филологических наук Российской академии наук Е.И. Пивовара на III Петербургском историческом форуме в октябре 2024 г.

Примечания

1. Эта программа проиграла матч аналогичной советской программе для компьютера М-2, разработанной в лаборатории Московского института теоретической и экспериментальной физики (МИТЭФ) (рук. лаборатории А. Кронрод).

2. Первый чат-бот ELIZA был разработан в середине 1960-х гг. Д. Вайценбаумом. Бот мог общаться с человеком на естественном языке, имитируя работу психотерапевта. Долгое время считалось, что ELIZA утрачена, однако на основе сохранившихся распечаток кода Вайценбума чат-бот был восстановлен и представлен онлайн: ELIZA Archaeology – Try ELIZA // URL: https://sites.google.com/view/elizaarchaeology/try-eliza

3. В 1970-х – начале 1990-х гг. в отечественной исторической науке были осуществлены исследования, в которых в той или иной степени использовались методы и технологии AI. Среди этих работ необходимо упомянуть исследования группы математиков под руководством академика Н.Н. Моисеева (в частности – имитационное моделирование: модель Синопского сражения, моделирование процессов экономической динамики греческих полисов периода Пелопонесской войны V в. до н.э. ^{[11, 12]}), Лукова В.Б. и Сергеева В.М. (построение модели восприятия ситуации и принятия решения историческим деятелем на основе контент-анализа мемуаров Отто фон Бисмарка ^[14]), методы контрфактического моделирования развития экономики (монография Ю.П. Бокарева ^[15]), систему «Ретропрогноз» и экспертные системы АМСОР ^[16] и «ГИДРОНИМИКОН» ^[17] и др.

К сожалению, следует сказать, что в силу различных причин история развития и применения AI в СССР вообще и в исторической науке в частности менее известна и изучена, чем аналогичная зарубежная тематика.

4. Учитывая то, что историческая наука многогранна и разностороння, «приращение научного знания» может означать не только выявление и новое осмысление исторических фактов, событий, явлений, процессов и участия в них людей, но и решение теоретических и прикладных задач источниковедения, историографии, эвристики и иных вспомогательных исторических дисциплин.

5. Одной из самых значимых отечественных работ в области применения AI в архивной эвристике является комплекс систем Искусственного интеллекта, который разрабатывается в ГА РФ и был представлен в докладе А.А. Колганова «Эволюция применения искусственного интеллекта в ГА РФ: 2021–2024 гг.» на XIX Конференции Ассоциации «История и компьютер» 15 ноября 2024 г. ^[21].