Генеративный ИИ для быстрого создания бизнес-контента

20 2

Генеративный искусственный интеллект современный инструмент для создания уникального контента. Он оптимизирует процессы бизнеса, сокращая рутину, и высвобождает время сотрудников на стратегическую работу и нетривиальные задачи. «Генеративный ИИ» – решение компании Directum, в основе которого лежат нейросети. Оно предоставляется бесплатно с цифровой платформой Directum RX 4.12, 25.1 и 25.2 в варианте поставки Intelligence.

Рассмотрим ключевые возможности, которые помогут решить повседневные бизнес‑задачи.

Подготовка аннотаций к документам

Перед отправкой документа на согласование, ознакомление или рассмотрение к нему можно добавлять аннотацию, чтобы ввести руководителей и согласующих в курс дела еще до прочтения содержания. «Генеративный ИИ» готовит краткую выжимку из документа автоматически по одной кнопке:

Благодаря этому поручения по входящим быстрее попадают в работу к исполнителям.

Генерация документов

ИИ создает текст исходящих писем, повесток совещаний, служебных записок, приказов, распоряжений и проектных документов. Так, например, время подготовки письма сокращается с 20 минут до 7. Сотруднику достаточно ввести короткий запрос к модели генеративного ИИ. На его основании формируется текст документа на заданную тему:

Вопросно-ответный поиск документов и знаний

В решении «Генеративный ИИ» работает вопросно-ответный поиск по содержимому документов компании. А с версии решения 2.2 поиск можно выполнять и по справке системы. Прямо в интерфейсе сотрудники простыми словами формулируют запрос. Например, как рассчитать отпускные или как оформить замещение на период отгула. Генеративный ИИ анализирует подходящие документы и разделы справки, обобщает знания из них и дает сжатый ответ с указанием источников. При этом можно сузить область поиска, чтобы получить более релевантный своему запросу ответ. Например, искать только по локально-нормативным актам, финансовым отчетам или только по пользовательским разделам справки:

Адаптация возможностей под ваши бизнес-задачи

Генеративный ИИ можно использовать в любых бизнес-процессах организации. Например, искусственный интеллект может выполнять проверку документов, чтобы проконтролировать их соответствие положениям законодательства или внутренним правилам. Критерии для проверки текста настраиваются с помощью no‑code без единой строчки кода.

Для этого администратору нужно добавить один или несколько прикладных блоков «Обработка текста генеративным ИИ» или «Обработка документа генеративным ИИ» в нужный вариант процесса организации. Чтобы блок работал, в его свойствах задается текст или документ для обработки, а также выбирается специальный шаблон запроса к генеративному ИИ:

В результате ИИ выдает сводку «рискованных» формулировок и предлагает варианты их замены. На весь процесс уходит не более минуты.

Изменения версии 2.2 для администратора

В новой версии решения:

  • администратору еще удобнее подключать GigaChat к генерации контента в Directum RX через командную строку. В результате выполнения одной команды создаются сервис и модель GigaChat, заполняется информация о них в соответствующих справочниках Directum RX, а также обновляются шаблоны запросов, использующиеся для генерации контента;
  • обновлена модель генеративного ИИ сервиса Directum LLM. Теперь используется Qwen/Qwen2,5-14B-Instruct. Качество ее ответов выше, а понимание контекста — глубже. Чтобы оптимизировать работу сервиса на новой модели, добавлены параметры для поддержки автоматического вызова инструментов для обработки запроса пользователя, а также для контроля загрузки видеопроцессора (GPU) и размера контекста модели;
  • оптимизирована работа сервиса Directum RAG, отвечающего за вопросно-ответный поиск информацииБлагодаря чему любые запросы к сервису выполняются быстрее. Также в сервисе теперь поддерживается работа со строковыми идентификаторами (SID) пользователей и групп в Directum RX. Они являются постоянными и не меняются в зависимости от инсталляции системы. При индексировании документов идентификаторы субъектов прав с доступом к документу передаются в строковом виде. Поддержка числовых идентификаторов сохраняется.

***

Эти возможности доступны сразу после установки цифровой платформы Directum RX в варианте поставки Intelligence и решения «Генеративный ИИ». Дополнительные настройки не нужны, но при желании стандартные функции можно адаптировать под бизнес-задачи компании с помощью no-code.

Подробнее о новинках версии 2.2 читайте в справке в разделе «Что нового в Directum RX». А если вы еще не знакомы с решением, загляните на наш сайт.

Чтобы узнать больше о генеративном ИИ или приобрести систему с решением, оставьте заявку в форме ниже. Также вы можете обратиться к вашему персональному менеджеру или в отдел продаж Directum по электронной почте present@directum.ru или телефону 8-800-234-72-11.

Артем Некозырев

Доброго дня. 

Многие заказчики, особенно гос. сектора, имеют закрытые контуры. Вплоть до того, что даже демонстрация работы того или иного решения должна проходить именно в закрытом контуре. Соответственно варианты с использование GigaChat или каких-то иных внешних сервисов тут не подходят. Рассматривая же вариант локальной установки решения столкнулись с тем, что для его работы требуются дорогостоящие видеокарты NVIDIA. Планируется ли какая-то оптимизация в этом направлении? Например версия сервисов LLM и RAG (компонентов решения для его локальной работы), которые будут использовать ресурсы CPU/RAM, что позволит обойтись без закупки дорогостоящих видеокарт. 

Илья Петухов

Артем, добрый день!
На рынке есть энтузиасты которые используют для инференса LLM ресурсы CPU.
Но эта альтернатива влияет на скорость обработки информации примерно в 10 раз, поэтому все зависит от потребностей бизнеса и ожиданий по скорости реакции фичи/LLM.

Мы при разработке и выборе открытой LLM-модели исходим из требований скорости пользователей по итогам различных CustDev-интервью, а также коридорных тестирований.
А также ориентируемся по затратам на GPU, и поэтому рекомендуем средний вариант в виде А100 на 40гб, рыночная стоимость которой около 1 млн рублей.
Есть альтернатива еще в виде кластера из нескольких RTX 4090, мы внутри тестировали пропускную способность, результат в допустимых пределах. Но на проектах пока такого не встречали.

Если смотреть на перспективу, то ведется разработка малых языковых моделей, которые будут способны решать задачи на малых мощностях. Мы пока ждем, как только что-то появится, будем смотреть.

Авторизуйтесь, чтобы написать комментарий