Перейти к основному содержимому

Для ИИ на грузинском языке создана база на 150 млн токенов

Для ИИ на грузинском языке создана база на 150 млн токенов
— Фото: AnewZ - Latest

Тбилисский университет бизнеса и технологий подготовил расширенную базу данных для обучения и оценки систем искусственного интеллекта на грузинском языке. Ресурс содержит около 150 млн токенов и более 6 млн языковых примеров, грамматических образцов и заданий.

az en

Готовим…

Краткое содержание написал ИИ по тексту этой новости.

Не получилось. Попробуйте чуть позже.

По мере того как искусственный интеллект становится частью повседневной жизни, растёт риск отставания в технологиях языков с небольшим числом носителей. Для грузинского языка, на котором говорят около 4 млн человек, одна из основных проблем — ограниченный доступ систем, изучающих этот язык, к качественным языковым материалам.

Как сообщает AnewZ, проблема не в том, что искусственный интеллект не способен обрабатывать грузинский язык. По сравнению с английским, испанским и китайским языками качественных обучающих материалов для грузинского значительно меньше.

Грузинский язык относится к картвельской языковой семье и обладает сложной грамматической структурой. Она включает широкий набор глагольных форм, грамматические падежи и гибкий порядок слов в предложении. Поскольку один глагол может содержать информацию о нескольких участниках действия, системам, обученным преимущественно на других языках, сложно создавать естественные тексты на грузинском.

Тбилисский университет бизнеса и технологий (BTU) 9 ноября объявил о создании расширенной базы данных, включающей около 150 млн токенов, более 6 млн исходных языковых записей, грамматических примеров и учебных заданий. Токен — это единица текста, обрабатываемая моделью искусственного интеллекта; им может быть целое слово или его часть.

Ресурс предназначен для исследователей и разработчиков, которые хотят обучать, тестировать и совершенствовать системы искусственного интеллекта, работающие с грузинским языком. Материалы включают различные грамматические конструкции, формы слов, контекстные примеры и задания, призванные обучить системы особенностям языка.

Проект подготовлен при поддержке «Palitra Group». Компания предоставила большой объём текстов на грузинском языке. Ресурс доступен на платформе «GitHub»; согласно опубликованной лицензии, его можно использовать в некоммерческих целях с указанием источника, а для коммерческого использования требуется отдельное разрешение.

Существуют и другие инициативы, направленные на восполнение нехватки технологических ресурсов для грузинского языка. Исследователи Тбилисского государственного университета разработали грузиноязычную базу оценки GeoLogicQA, чтобы проверить, способны ли модели искусственного интеллекта не только распознавать слова и строить беглые предложения.

GeoLogicQA проверяет логическое мышление, понимание прочитанного, знания об окружающем мире и решение математических задач. В предварительных испытаниях нескольких крупных моделей искусственного интеллекта, включая «Gemini», «DeepSeek», «Grok» и «GPT-4o», точность составляла от 64 до 83 процентов. Исследователи отметили, что модели способны показывать удовлетворительные результаты, но испытывают трудности со сложными логическими рассуждениями и многоэтапными вопросами.

Ведётся работа и над улучшением распознавания разговорного грузинского языка. Международная инициатива «Common Voice» с открытым исходным кодом, созданная «Mozilla», собрала сотни часов аудиозаписей на грузинском языке для исследований в области распознавания речи. В базе данных грузинского языка по состоянию на сентябрь 2026 года содержится около 494 часов аудиозаписей, из которых проверено более 262 часов.

Эти инициативы охватывают разные стороны одной проблемы: искусственный интеллект должен не только распознавать письменный грузинский язык, но и понимать, интерпретировать и обрабатывать разговорную речь в соответствии с повседневными потребностями.

Нехватка языковых ресурсов приводит не только к неуклюжим переводам и неестественным ответам чат-ботов. По мере интеграции искусственного интеллекта в образование, государственные услуги, здравоохранение, бизнес и информационные платформы качество языковой поддержки будет влиять на то, насколько удобно и эффективно люди смогут пользоваться этими технологиями.

Улучшенные языковые модели для грузинского языка в будущем могут обеспечить более точный перевод, создание учебных инструментов, объясняющих сложные темы на грузинском, улучшенное распознавание речи и цифровые сервисы, способные естественно общаться с гражданами. Однако публикация базы данных сама по себе не улучшает существующие платформы искусственного интеллекта. Сначала материалы должны быть включены в процессы обучения или оценки, а их эффективность — проверена независимо.

Качество и разнообразие материалов, а также точность грамматической разметки не менее важны, чем их объём. Письменные языковые ресурсы не охватывают всех особенностей грузинского языка: необходимо учитывать региональные варианты речи, диалекты, неформальные разговоры, культурные отсылки и специальную терминологию. Для создания надёжных систем искусственного интеллекта эти материалы необходимо постоянно собирать, проверять и обновлять. Объявление BTU — ещё один шаг в этом направлении, а не окончательное решение.

В опубликованной ранее базе данных университета, доступной общественности, содержится около 12 млн токенов и более 645 тыс. структурированных записей. Эти показатели отражают поэтапное развитие проекта.

Заявленный университетом расширенный показатель в 150 млн токенов необходимо отразить в открытой документации по мере появления новой версии и подвергнуть независимой оценке.

Для грузинского языка, который представлен в мировой технологической отрасли сравнительно слабо, но на котором говорят миллионы людей, задача заключается не только в том, чтобы научить машины составлять предложения на грузинском. Важно также обеспечить возможность учиться, работать, общаться и участвовать в жизни общества на этом языке в мире, где искусственный интеллект приобретает всё большее влияние.

OMM Bot · Показать 5 самых читаемых новостей дня?

Автор

Редакционная коллегия

Все материалы автора ›
Загружается следующая новость…