Часто задаваемые вопросы
про искусственный интеллект, генеративные модели и нейропомощников
Общие вопросы использования ИИ-инструментов
  • Зачем нужны нейропомощники, копилоты и другие аналогичные инструменты, если уже есть GhatGPT, Perplexity, GigaChat и т.п.?
    Перечисленные решения больше подходят для индивидуальной работы или для того, чтобы попробовать возможности базовых решений на основе LLM и влюбиться в них :).
    Но как только речь заходит о корпоративной среде, где требуется интеграция с существующими системами и обеспечение безопасности, использование корпоративных данных и другие аналогичные задачи, возникают ограничения.
    Далеко не все организации готовы отдавать в облако свои документы. Поэтому многим российским компаниям, особенно в корпоративном и госсекторе, ближе построение ИИ-решений в своем внутреннем контуре и их интеграция в корпоративную инфраструктуру.
    Для корпоративного использования (общая база документов, распределенные роли, типовые вопросы и т.п.) необходимы безопасные корпоративные ИТ-решения, например, это может быть ПМ Форсайт, нейропомощники которого созданы на внесенной в реестр отечественного ПО платформе ПРИИСК.
  • Для кого предназначены ваши решения в области ИИ?
    На уровне компаний, мы явно видим две тенденции:
    • часть компаний, ищет на рынке готовые, актуальные для себя ИИ-решения, и пробует внедрять эти решения в своих процессах;
    • часть компаний, преимущественно крупных, создает внутри себя группы, цель которых сбор и проверка гипотез (кейсов) полезного применения ИИ в процессах компании, и организация разработки / доработки / внедрения оправдавших себя гипотез в виде прикладных решений.
    Соответственно, на рынке появляются два типа предложений:
    • готовые решения (нейропомощники), нацеленные на решения задач конкретного типа (например, транскрибация аудио-встреч и составление протоколов совещаний; чат-боты консультанты по заданной теме и пр.);
    • платформы, облегчающие и повышающие эффективность разработки, внедрения и эксплуатации ИИ-решений в компаниях.
    Первое предложение – это нейропомощники встроенные в ИСУП ПМ Форсайт и АСУ-Инвест от ГК Проектной ПРАКТИКИ
    Второе предложение – это платформа ПРИИСК для разработки собственных нейропомощников и копилотов от ООО Адаптивные технологии развития.
  • Можно ли на 100% доверять тому, что отвечает и сообщает нейропомощник. Можно ли как-то контролировать качество его работы?
    Ответы генеративных моделей по своей природе носят «вероятностный характер». Искусственный интеллект может выдавать неполные, неточные ответы. Может ответы выдумывать (галлюцинации генеративных моделей - известный факт).
    Есть специальные приемы, методы, инструменты повышения точности ответов, борьбы с галлюцинациями. Начиная от понижения температуры ответов ИИ или специальных фраз в промптах и заканчивая применением специальных агентов, которые «перефразируют вопрос» или «перепроверяют ответ».
    Есть технические приемы, позволяющие контролировать правильность работы нейропомощников.
    Например, мы разработали специальный нейропомощник для оценки качества работы других нейроппомощников.
  • Сможем ли мы создавать своих нейропомощников или сможем пользоваться только готовыми, которые уже есть в ваших решениях?
    Для того, чтобы пользоваться готовыми нейропомощниками вам не нужна лицензия. Все необходимое уже есть в ПМ Форсайт или, если это нейропомощник на заказ по вашим требованиям, в этом нейропомощнике.
    Для разработки собственного ИИ-решения или создания «клона» работающего нейромоммощника, но с другой базой знаний, вам потребуется лицензия на ИИ-платформу ПРИИСК, а также немного терпения и опыта :).
    Кстати, такая опция, как обучение созданию собственных помощников на нашей платформе тоже может входить в состав работ.
LLM и вопросы информационной безопасности
  • Какие LLM используются для работы ваших нейропомощников?
    Нейропомощники, которые мы разрабатываем на российской платформе ПРИИСК, могут работать с большинством известных LLM. Мы предпочитаем YandexGPT и GigaChat, т.к. они не предполагают каких-либо ограничений для использования на территории РФ.
    Есть опыт использования модели разных верcий ChatGPT.
    Для развертывания локально мы используем разные LLM с открытым исходным кодом (например, но не ограничиваясь, Mixtral, Llama 3).
  • Какие меры нужно предпринять для минимизации риска утечки конфиденциальных данных компании при использовании ИИ?
    То, что большая часть компаний отмечает критичность размещения всех компонентов ИИ-решений в контуре компании, ожидаемо. Для таких компаний путь к применению ИИ будет немного более сложен.
    За рубежом большинство решений с применением генеративных моделей предлагается в облачном формате. У нас эта тенденция также явно прослеживается. Да и наиболее известными являются именно публичные (то есть имеющие удобный доступ через интернет) языковые модели: ChatGPT, YandexGPT, GigaChat.
    Но в последнее время, на российском рынке появляются предложения, предусматривающие размещение ИИ решений on-premise (т.е. в контуре клиента). Более того, появляются платформы для разработки, внедрения и эксплуатации ИИ-решений в компании, имеющие вариант развертывания on-premise. Есть и перечень языковых моделей, которые можно разворачивать локально (например, модели серий Llama3, Mixtral, Qwen2). Она из таких платформ - ПРИИСК (отечественная разработка). Базу нейропомощников которой мы используем в своих ИТ-решениях для управления проектами ПМ Форсайт и АСУ-Инвест.
    Важно отметить, что нейропомощники разного назначения могут быть эффективней при использовании разных языковых моделей.
  • Какие варианты выбора LLM существуют в контексте информационной безопасности?
    • если можно работать в облаке, то из российских LLM наиболее популярны YandexGPT и GigaChat,
    • если можно работать в облаке и вы предпочитаете зарубежную модель, то это ChatGPT от Open AI. В данном случае есть технические и организационные трудности, но мы умеем с ними работать, в частности, используем для некоторых из них своих нейропомощников
    • если допустимо только локальное размещение в контуре вашей организации, список будет другой.
    Возможен сценарий, когда компания для разных задач будет применять разные LLM.
    И платформа ПРИИСК как раз позволяет это сделать.
Что нужно знать, если вы внедряете ИИ-решение
  • С какими сопротивлением в компании можно столкнуться при внедрении ИИ?
    Одной из больших проблем при внедрении ИСУП (как и любых других ИС), является сопротивление пользователей.
    Специфика ИИ-решений состоит в том, что на пользователя, как правило, дополнительная нагрузка не ложится. Ему наоборот, цифровой помощник в чем-то начинает помогать. Поэтому негативных отзывов от пользователей цифровых помощников будет, скорее всего, немного.
    А вот само внедрение ИИ-решений требует значительного вовлечения компаний-заказчиков. К чему они часто будут не готовы. Поэтому количество «сложных» внедрений ИИ-решений будет немалым.
    И да, тем компаниям, которые успешно справились с внедрением ИСУП, будет легче.
  • Обязательно ли наличие архива с проектной и управленческой информацией для создания нейропомощников в компании?
    Наличие архивов с проектной, в том числе управленческой, информацией облегчает внедрение ИИ по двум причинам:
    • есть информация, которую можно использовать для работы цифровых помощников;
    • в компании есть процессы и культура работы со знаниями.
    Но переоценивать значение наличия архивов не стоит.
    Наличие больших наборов качественных данных важно для машинного обучения. В случае с генеративными моделями, процесс дообучения лингвистической модели называется Finetuning, и требует больших затрат, времени и специальных компетенций.
    Скорее всего, компания начнет внедрение ИИ с применения RAG-технологии дообучения цифровых помощников (об этом можно почитать отдельно). А это требует скорее не количества информации, а качества, и главное - понимания, какие задачи мы хотим решать с помощью этой информации.
    То есть наличие архива - это безусловный плюс во внедрении ИИ, но отсутствие или неполнота архива - не повод отказываться от такого внедрения.
    С одной стороны, переработка, переформатирование знаний для эффективного применения в ИИ, являются дополнительными работами. С другой стороны, с применением ИИ появляются возможности сделать знания реальными активами компании, позволить им работать на компанию на всех уровнях и обеспечивать конкурентные преимущества.
  • Какие существуют требования к подготовке базы знаний для нейропомощника?
    Например, для создания базы знаний ИИ-Методолога сначала наши консультанты оценивают документацию Заказчика с точки зрения корректности принципов проектного управления. Далее (по желанию и в случае, если документы несовершенны) наш методолог поможет их доработать, и потом на их основе будет делаться база знаний.
    А если документы достаточны для реализации выбранных сценариев использования, то сразу подключается ИИ-аналитик и формирует первоначальную базу знаний для загрузки.
  • Как проводится опытная эксплуатация решения с ИИ (задачи и критерии успешности/качества)?
    Приемка нейропомощника, как правило, включает:
    • проверку функциональной составляющей;
    • проверку качества ответов по методике оценки качества.
    В рамках опытной эксплуатации:
    • пользователи пробуют взаимодействовать с нейропомощником, а мы собираем их реакцию через лайки \ дизлайки, вопросы и другие формы обратной связи;
    • если в рамках проекта предусмотрена работа функционального администратора по актуализации нейропомощника, проверяется выполнение таким специалистом своей роли;
    • возможна проверка действий техслужбы по инфраструктуре ИИ (особенно при локальном развертывании), но это зависит от состава работ в рамках проекта.
  • Какие предъявляются требования к специалистам заказчика, которые будут поддерживать локальную ИИ?
    Желательно чтобы даже пользователи нейропомощников понимали специфику работы с ними. Как минимум они должны понимать, что от полноты и точности формулировки вопроса зависит качество ответа :).
    Функциональный администратор нейропомощника, как минимум, должен уметь работать в панели администратора.
    Его опыт будет нарабатываться постепенно. На продвинутом уровне функциональный администратор должен понимать специфику работы нейропомощников с базой знаний, а также немного понимать в промптинге.
    Требуется желание специалиста развиваться в данной отрасли.
    Техспециалисты по «железу» при локальном развертывании должны уметь работать с этим «железом».
  • Есть ли инструкции по работе с нейропомощниками?
    Мы уверены, что интерфейс нейпропомощников для конечных пользователей не потребует обучения. Работать с ними не сложнее, чем пользоваться социальными сетями или поисковой строкой браузера.
    Но вот умение правильно задавать вопросы, чтобы получать четкие и развернутые ответы, возможно, придется потренировать.
    Для администраторов и специалистов техподдержки . В нем минимальное количество кнопок, все элементы четко подписаны и подробно объяснены. В руководство пользователя будет добавлена кнопка для вызова НП.
    Кроме того, имеется руководство для функциональных администраторов.