Ми в Lizard Soft продовжуємо впроваджувати в наші продукти інновації в галузі Штучного Інтелекту (АІ) та обробки даних. Тепер – в механізм індексації контенту, з яким працює Персональний асистент & Корпоративний чат-бот UniBot. Цей механізм значно підсилює архітектуру Retrieval Augmented Generation (RAG). А вона, в свою чергу, дозволяє Large Language Model (LLM), подібно до ChatGPT, використовувати найпотужнішу систему пошуку інформації для забезпечення максимальної точності відповідей.

Інтеграція такої системи пошуку інформації у UniBot v2 посилює контроль над даними, які використовуються LLM при формулюванні відповідей. Для підприємств це означає, що можливості генеративного АІ можна обмежити контентом підприємства, що отримується з векторизованих документів, зображень та інших форматів даних. За умови, що для цього контенту існують відповідні моделі вбудовування.

До цього оновлення UniBot v2 використовував Azure Account Storage Blobs для зберігання проміжних результатів індексації, що було цілком достатньо для багатьох ситуацій. Однак у зв’язку зі зростанням обсягів даних та підвищення вимог до обробки цих даних ми додали підтримку Cosmos DB. Так ми забезпечили не лише необхідну гнучкість і масштабованість, але й оптимізували процес індексації для величезних баз даних.

Ключовою перевагою такого рішення є можливість керувати процесом індексації власне вашими ІТ-адміністраторами: вони тепер можуть змінювати кількість та порядок кроків, що робить систему індексації адаптивною. А завдяки цьому підприємства можуть швидко інтегрувати новітні АІ-моделі та embedding-моделі без потреби переіндексовувати весь масив інформації, і це значно економить час та ресурси.

Розглянемо практичне застосування: 

• банківська установа, що використовує UniBot v2, може оперативно оновлювати інформацію в кол-центрі, враховуючи плинні зміни в продуктах і послугах. 
• юридична фірма може значно підвищити продуктивність пошуку по документах правової бази (законах, підзаконних актах, судових рішеннях, тощо), а це – ключовий фактор  ефективності роботи юристів. 
• фармацевтичні компанії можуть прискорити аналіз наукових даних для своїх розробок, спираючись на точну і швидку індексацію наукових публікацій і доступних клінічних даних як вітчизняних, так і іноземних.

Коротше кажучи, оновлення в UniBot v2 – це нові можливості, завдяки яким бізнеси можуть керувати великими обсягами даних. При цьому інформація, якою користуються АІ-системи, забезпечена максимально точними та актуальними даними. Масштабованість та адаптивність нової архітектури індексації гарантує, що підприємства можуть швидко реагувати на зміни, не витрачаючи зайвих зусиль на переіндексацію. Тож для виконання їхніх бізнес-задач потенціал АІ застосовуватиметься в повному обсязі.