Оператор "LLM Agent" (Workflow.Operators.LLMAgentOperator) предназначен для взаимодействия с LLM (Large Language Model) моделями, в частности с Ollama, и создания специализированных агентов и мультиагентов в системе Cubisio.
Поставляется в составе модуля Cubisio Data Sciense
Оператор "LLM Agent" позволяет:
Оператор имеет множество параметров, которые можно настроить. Ниже описаны основные из них.
Этот раздел определяет, с каким провайдером LLM будет работать оператор.
Подключение (ollamaUrlSelect): Выбор способа подключения к серверу Ollama.
aiServersProvider. Доступность серверов может зависеть от прав пользователя.llmagent.ollama.servers).http://127.0.0.1:11434. Можно использовать данные из входного порта argPort. Допускается использование авторизации в формате http://user:password@server:port.Режим (ollamaMode): Выбор режима работы.
/v1/chat/completions).num_ctx для контекстного окнаПробросить все аргументы (variablesAll): Передавать все аргументы из входного порта в промпт.
Пробросить аргументы выборочно (variables): Передавать выборочные аргументы из входного порта в промпт.
Системный промпт (systemPrompt): Настройки системного промпта.
${имя_переменной} и шаблонизатор doT.js.myVar1 == myVar2.Сохранять системный промпт (systemPromptStore): Сохранить системный промпт в концепте
Размещение системного промпта (ollamaSystemPromptLocation): Управление положением системного промпта в диалоге.
argPort к источнику данных.new для начала нового диалога и порт hist для чтения истории из порта.message и передайте туда текст: "Привет, как дела?".argPort.You are a helpful assistant., а в пользовательском выберите поле message.message и lang.argPort.lang == 'ru'. В поле "Системный промпт" введите Ты - русскоязычный ассистент..lang == 'en'. В поле "Системный промпт" введите You are an English-speaking assistant.lang будет использоваться разный промпт.Оператор "LLM Agent" является мощным инструментом для создания агентов на основе LLM моделей, в особенности Ollama. Его гибкость позволяет использовать его для различных задач, от простого чата до сложных диалоговых систем с условными промптами и управлением историей.