2. Навыки агентов
Agent Skills — это открытый стандарт для определения модульных, многократно используемых возможностей ИИ с помощью структурированных файлов инструкций. Навыки загружаются из папки, указанной в свойстве нейристора (агента) _skills – где должен быть указан путь к коренной папке, содержащей папки навыков.
Если первое слово _project – то путь начинается от текущей коренной папки проекта
Навыками могут пользоваться только нейристоры Agent и Persona.
Навыки позволяют агентам динамически приобретать специализированное поведение, экспертные знания в предметной области или возможности рабочих процессов без изменения кода. Навыки следуют шаблону поэтапного раскрытия с использованием файлов SKILL.md , которые объединяют метаданные YAML с инструкциями Markdown.
- Что такое навыки агента?
Определение: Навыки агентов представляют собой стандартизированный подход к формированию возможностей агентов ИИ в виде переносимых, самодостаточных наборов инструкций. Каждый навык определяет, что может делать агент, как он должен себя вести, и какие инструменты или контекст ему необходимы, — всё это выражено в формате, понятном как людям, так и системам ИИ.
Стандарт Agent Skills возник из необходимости совместного использования и повторного применения моделей поведения агентов в различных системах, моделях и платформах. Вместо того чтобы жестко прописывать возможности агентов в логике приложения, навыки выносят эти определения в структурированные файлы, которые можно контролировать по версиям, совместно использовать и комбинировать.
- Формат файла SKILL.md
Agent Skills используют простой, но мощный формат файлов, который объединяет в себе:
- Метаданные YAML (Forwardmatter)
—
name: Code Review Assistant
description: Reviews code for bugs, security issues, and best practices
version: 1.0.0
author: LM-Kit
tags: [development, code-review, security]
tools:
– file_system
– code_analysis
context:
– programming_languages
– security_guidelines
—
- Текст документа в формате Markdown (инструкции)
В теле документа содержатся инструкции на естественном языке, которые управляют поведением агента:
# Code Review Assistant
## Your Role
You are an expert code reviewer with deep knowledge of software engineering best practices, security vulnerabilities, and clean code principles.
## Guidelines
- Focus on actionable feedback, not stylistic preferences
- Prioritize security issues over minor optimizations
- Explain the “why” behind each suggestion
## Review Process
– First, understand the code’s purpose
– Identify potential bugs and edge cases
– Check for security vulnerabilities
– Suggest improvements with examples
- Роль навыков агентов
- Модульный подход к проектированию возможностей позволяет разделить «то, что знает агент» и «как агент работает». Это дает возможность заменять, обновлять или комбинировать навыки без изменения кода приложения.
- Функция «Постепенное раскрытие информации» поддерживает поэтапное раскрытие информации, при котором базовые возможности всегда доступны, но расширенные функции могут быть разблокированы в зависимости от контекста или прав пользователя.
- Пакет экспертных знаний в предметной области: специализированные знания (юридические, медицинские, финансовые, технические) в виде навыков, которые можно применять по мере необходимости, обеспечивая сосредоточенность и эффективность работы агентов.
- Напишите один раз, используйте везде. Навык, написанный для одного приложения LM-Kit.NET, работает в любом другом, и навыки могут быть доступны для использования в разных командах, организациях или в более широком сообществе.
- Навыки управления версиями и контроля — это текстовые файлы, которые органично вписываются в системы контроля версий, обеспечивая процессы проверки, отката и аудита изменений в поведении ИИ.
Краткая инструкция составления схемы
Схема параметров инструмента описывает, какие данные может передавать ИИ при его вызове.
- type — тип корневого объекта схемы. Для набора именованных параметров обычно используется object.
- description — краткое описание назначения инструмента или группы параметров.
- properties — список доступных параметров инструмента.
- Имя каждого параметра указывается внутри properties.
- type параметра определяет тип значения: string, integer, number, boolean, array или object.
- description параметра объясняет ИИ, когда и как его использовать.
- required содержит имена обязательных параметров.
- Параметры, не указанные в required, считаются необязательными.
- Для списков используется array, а тип элементов задаётся через items.
- Для вложенных структур используется object с собственным разделом properties.
Примеры допустимых значений можно указывать в описании или через дополнительные ограничения, например enum, minimum и maximum.
- Агенты использующие точно указанные навыки
В этом примере написан скрипт использования навыка из папки навыков (которая должна быть в наличии).
var registry = new SkillRegistry();
registry.LoadFromDirectory(“D:/skills”);
var activator = new SkillActivator(registry);
var chat = new MultiTurnConversation(MainModel,2048);
// Activate a skill and inject its instructions
var skill = registry.Get(“explain”);
instructions = activator.FormatForInjection(skill, SkillInjectionMode.UserMessage);
prompt = instructions + “\n\n—\n\nUser request: blockchain”;
res = chat.Submit(prompt);
Или для ассинхронного вызова:
var res = Await( chat.SubmitAsync(prompt));
res.Content;
- Агенты автоматически выбирающие навыки
В этом примере агент автоматически ищет подходящий по смыслу навык из доступных в папке:
var chat = new MultiTurnConversation(MainModel,2048);
AddSkillTool(chat.Tools,”D:/skills”);
// Just chat naturally. The model activates skills autonomously.
var res = chat.Submit(“explain what blockchain is”);
Или для ассинхронного вызова:
var res = Await( chat.SubmitAsync(“explain what blockchain is”));
res.Content;
- Программное создание навыков
var skill = new SkillBuilder()
.WithName(“customer-support”)
.WithDescription(“Handles customer inquiries with empathy and efficiency”)
.WithVersion(“1.0.0″)
.WithInstructions(@”
You are a helpful customer support agent.
## Guidelines
– Always greet customers warmly
– Acknowledge their concerns before providing solutions
– Escalate complex issues to human agents when needed”)
.Build();
var registry = new SkillRegistry();
registry.Register(skill);
Встроенные агенты
Встроенные агенты — это заранее настроенные агенты, для работы которых требуется минимум настроек, и их очень просто создать.
Пример создания встроенного агента:
var template = new ResearchAgentTemplate // создает нужный шаблон
{
Model = MainModel,
AdditionalInstructions = “Always cite sources.”,
MaxIterations = 5
};
agent = template.Build(); // создает агента
// вызывает агента с вопросом
r = Await( agent.RunAsync(“Survey recent advances in vector databases.”));
r.Content; // возвращает результат
Базовый класс для шаблонов агентов, предоставляющих предварительно настроенных агентов для распространённых сценариев использования.
// AgentTemplate предоставляет базовые свойства и настройки для всех шаблонов агентов
var template = new ChatAgentTemplate()
.WithModel(MainModel);
template.AdditionalInstructions = “Всегда отвечай строго одним предложением.”;
template.MaxIterations = 5;
var agent = template.Build();
r = Await(agent.RunAsync(“What is an API?”));
r.Content;
Результат:
An API is a software intermediary that allows two applications to securely connect, communicate, and exchange data with each other.
Шаблоны агентов (AgentTemplates)
Фабрика для создания шаблонов агентов.
Предоставляет удобный доступ к предварительно настроенным шаблонам агентов для распространённых сценариев использования.
var agent = AgentTemplates.Chat(MainModel)
.WithPersonality(“friendly and concise”)
.Build();
r = Await(agent.RunAsync(“Hello! What can you help me with?”));
r.Content;
Результат:
Hello! I can help you answer questions, analyze data, write and review code, summarize documents, and automate everyday software workflows. How can I assist you today?
Шаблон агента-аналитика (AnalystAgentTemplate)
Шаблон для создания агентов анализа данных и рассуждений.
Агенты-аналитики эффективно исследуют данные, выявляют закономерности, формулируют выводы и понятно представляют результаты.
var agent = new AnalystAgentTemplate()
.WithModel(MainModel)
.WithAnalysisFormat(AnalysisFormat.Json)
.Build();
r = Await(agent.RunAsync(“Analyze quarterly revenue trends: Q1 $120k, Q2 $145k, Q3 $135k, Q4 $210k”));
r.Content;
Результат:
{
“total_revenue”: 610000,
“overall_trend”: “Positive annual growth (+75% from Q1 to Q4)”,
“key_findings”: [
“Q2 demonstrated strong initial expansion (+20.8% over Q1).”,
“Q3 experienced a minor seasonal decline (-6.9%).”,
“Q4 drove the largest surge ($210k), representing 34.4% of total yearly revenue.”
],
“recommendations”: “Capitalize on seasonal drivers early to offset Q3 mid-year slowdowns.”
}
Шаблон агента-помощника (AssistantAgentTemplate)
Шаблон для создания универсальных агентов-помощников.
Агенты-помощники являются многофункциональными помощниками, способными выполнять широкий спектр задач, включая написание текстов, анализ, планирование и решение проблем.
var agent = new AssistantAgentTemplate()
.WithModel(MainModel)
.WithInstructions(“You are an executive assistant helping organize workflows and sprint priorities.”)
.Build();
r = Await(agent.RunAsync(“Create a summary of action items from today’s sprint planning”));
r.Content;
Результат:
Action Items:
- Architecture Team: Finalize OpenAPI specifications for the authentication service by Wednesday.
- Frontend Team: Implement redesigned user settings dashboard based on approved mockups.
- QA Team: Update automated regression test suites for release v2.4.
- Next Sync: Daily standup tomorrow at 10:00 AM UTC.
Шаблон чат-агента (ChatAgentTemplate)
Шаблон для создания разговорных чат-агентов.
Чат-агенты оптимизированы для естественного многошагового общения с сохранением контекста и дружелюбным стилем взаимодействия.
var agent = new ChatAgentTemplate()
.WithModel(MainModel)
.WithPersonality(“friendly and concise”)
.WithContext(“You are helping a software developer debug .NET applications.”)
.Build();
r = Await(agent.RunAsync(“What causes a NullReferenceException in C#?”));
r.Content;
Результат:
A NullReferenceException occurs when code attempts to access a member (method, property, or field) on a reference variable that currently points to null. Common causes include uninitialized objects, methods returning null unexpectedly, or missing null checks before access.
Шаблон агента-классификатора (ClassifierAgentTemplate)
Шаблон для создания агентов-классификаторов.
Агенты-классификаторы эффективно распределяют содержимое по категориям, определяют намерения, маршрутизируют запросы и выполняют анализ тональности (sentiment analysis).
var agent = new ClassifierAgentTemplate()
.WithModel(MainModel)
.WithCategories(“billing”, “technical”, “sales”, “general”)
.WithMultiLabel(false)
.WithConfidenceThreshold(0.7)
.Build();
r = Await (agent.RunAsync(“I can’t log into my account and need help”));
r.Content;
Результат примера:
{
“category”: “technical”,
“confidence”: 0.95,
“explanation”: “The user is reporting a specific error (can’t log in) and explicitly asking for assistance. This falls under technical support as the solution involves troubleshooting authentication methods, account access issues, or verifying credentials within a technical system context.”
}
Шаблон агента для работы с кодом (CodeAgentTemplate)
Шаблон для создания агентов генерации и анализа кода.
Агенты для работы с кодом оптимизированы для написания, проверки, объяснения и отладки кода с учётом лучших практик.
var agent = new CodeAgentTemplate()
.WithModel(MainModel)
.WithLanguages(“C#”)
.WithStyle(CodeStyle.Defensive)
.WithDocumentation(true)
.Build();
r = Await(agent.RunAsync(“Write a thread-safe singleton cache manager class in C#”));
r.Content;
Результат:
using System.Collections.Concurrent;
/// <summary>
/// Provides a thread-safe in-memory cache manager implementation.
/// </summary>
public sealed class CacheManager
{
private static readonly Lazy<CacheManager> _instance =
new Lazy<CacheManager>(() => new CacheManager());
private readonly ConcurrentDictionary<string, object> _store = new();
private CacheManager() { }
/// <summary>
/// Gets the singleton instance of CacheManager.
/// </summary>
public static CacheManager Instance => _instance.Value;
public void Set(string key, object value)
{
ArgumentException.ThrowIfNullOrWhiteSpace(key);
ArgumentNullException.ThrowIfNull(value);
_store[key] = value;
}
public bool TryGet<T>(string key, out T? value)
{
ArgumentException.ThrowIfNullOrWhiteSpace(key);
if (_store.TryGetValue(key, out var stored) && stored is T typed)
{
value = typed;
return true;
}
value = default;
return false;
}
}
Шаблон агента-отладчика (DebuggerAgentTemplate)
Шаблон для создания агентов отладки и устранения неполадок.
Агенты-отладчики эффективно анализируют ошибки, разбирают журналы, выявляют первопричины и предлагают исправления технических проблем.
var agent = new DebuggerAgentTemplate()
.WithModel(MainModel)
.WithVerbosity(DebugVerbosity.Detailed)
.WithContext(“ASP.NET Core Web API with Entity Framework Core”)
.Build();
r = Await(agent.RunAsync(“System.InvalidOperationException: A second operation was started on this context instance before a previous operation completed.”));
r.Content;
Результат:
{
“issue”: “Concurrent DbContext access”,
“root_cause”: “DbContext in Entity Framework Core is not thread-safe. Multiple concurrent asynchronous operations are sharing the same DbContext instance.”,
“likely_causes”: [
“Using Task.WhenAll on queries sharing the same injected DbContext.”,
“Registering DbContext as Singleton instead of Scoped in the DI container.”
],
“solution”: “Ensure queries are awaited sequentially, or inject IDbContextFactory<TContext> to create isolated context instances for parallel tasks.”
}
Шаблон агента-редактора (EditorAgentTemplate)
Шаблон для создания агентов редактирования и исправления текста.
Агенты-редакторы эффективно выполняют корректуру, исправляют грамматику, улучшают стиль и изменяют тон текста, сохраняя авторскую манеру.
var agent = new EditorAgentTemplate()
.WithModel(MainModel)
.WithIntensity(EditIntensity.Light)
.WithEditType(EditType.Copyedit)
.Build();
r = Await(agent.RunAsync(“Their are several reasons why this approach dont work well in real systems.”));
r.Content;
Результат:
There are several reasons why this approach doesn’t work well in real systems.
Шаблон агента-извлекателя данных (ExtractorAgentTemplate)
Шаблон для создания агентов извлечения данных.
Агенты-извлекатели эффективно извлекают структурированные данные из неструктурированного текста, включая сущности, связи и информацию, соответствующую заданной схеме.
var agent = new ExtractorAgentTemplate()
.WithModel(MainModel)
.WithExtractionType(ExtractionType.Entities)
.WithSchema(“name”, “email”, “phone”, “company”)
.WithOutputFormat(ExtractionFormat.Json)
.Build();
r = Await(agent.RunAsync(“Extract contact info from: John Smith from Acme Corp…”));
r.Content;
Результат примера:
json
[
{
“name”: “John Smith”,
“email”: null,
“phone”: null,
“company”: “Acme Corp”
}
]
Шаблон агента-планировщика (PlannerAgentTemplate)
Шаблон для создания агентов планирования задач и управления проектами.
Агенты-планировщики эффективно разбивают сложные цели на выполнимые шаги, выявляют зависимости и создают структурированные планы.
var agent = new PlannerAgentTemplate()
.WithModel(MainModel)
.WithPlanningStyle(PlanningStyle.Sequential)
.Build();
r = Await(agent.RunAsync(“Plan the migration of an on-premises database to cloud PostgreSQL”));
r.Content;
Результат:
{
“plan_name”: “Database Cloud Migration Strategy”,
“total_steps”: 4,
“steps”: [
{
“step”: 1,
“task”: “Audit & Schema Extraction”,
“description”: “Inventory all schemas, indexes, and stored procedures to verify cloud compatibility.”,
“dependencies”: []
},
{
“step”: 2,
“task”: “Target Provisioning”,
“description”: “Configure PostgreSQL cloud instance, networking, and security rules.”,
“dependencies”: [1]
},
{
“step”: 3,
“task”: “Initial Data Sync & Testing”,
“description”: “Run baseline data sync via CDC/dump and perform integrity testing.”,
“dependencies”: [2]
},
{
“step”: 4,
“task”: “Cutover & Routing”,
“description”: “Update application connection strings and perform final DNS propagation.”,
“dependencies”: [3]
}
]
}
Шаблон агента «вопрос–ответ» (QAAgentTemplate)
Шаблон для создания агентов, отвечающих на вопросы.
Агенты «вопрос–ответ» эффективно отвечают на вопросы по предоставленному контексту, документам или базам знаний, сопровождая ответы точными ссылками на источники.
var agent = new QAAgentTemplate()
.WithModel(MainModel)
.WithAnswerStyle(AnswerStyle.Concise)
.WithContext(“LM-Kit.NET provides on-device AI inference with zero cloud latency and complete data sovereignty.”)
.Build();
r = Await(agent.RunAsync(“Does LM-Kit.NET require cloud connectivity during inference?”));
r.Content;
Результат:
No, LM-Kit.NET operates entirely on-device and processes all data locally without requiring cloud connectivity or sending data to external servers.
Шаблон ReAct-агента (ReActAgentTemplate)
Шаблон для создания агентов, использующих паттерн ReAct (Reasoning + Acting — рассуждение и действие).
ReAct-агенты явно анализируют каждый шаг перед выполнением действия, что делает их особенно эффективными для сложных многоэтапных задач, требующих использования инструментов.
var agent = new ReActAgentTemplate()
.WithModel(MainModel)
.WithTools(BuiltInTools.Calculator, BuiltInTools.WebSearch)
.WithVerboseThinking(true)
.WithMaxSteps(5)
.Build();
r = Await(agent.RunAsync(“Calculate the total order price for 12 licenses at $85 each with a 10% volume discount.”));
r.Content;
Результат:
Thought: I need to calculate the initial total (12 * 85), and then deduct the 10% discount.
Action: Calculator.Multiply(12, 85)
Observation: 1020
Thought: Now apply the 10% discount: 1020 * 0.90.
Action: Calculator.Multiply(1020, 0.90)
Observation: 918
Thought: Calculation complete.
Final Answer: The total price for 12 licenses with a 10% discount is $918.00.
Шаблон исследовательского агента (ResearchAgentTemplate)
Шаблон для создания агентов исследования и синтеза информации.
Исследовательские агенты эффективно собирают информацию из нескольких источников, обобщают результаты, указывают источники и представляют подробные выводы.
var agent = new ResearchAgentTemplate()
.WithModel(MainModel)
.WithDepth(ResearchDepth.Thorough)
.WithOutputStyle(ResearchOutputStyle.Briefing)
.Build();
r = Await(agent.RunAsync(“Summarize the advantages and trade-offs of Vector Quantization in local LLMs”));
r.Content;
Результат:
### Research Briefing: Vector Quantization Trade-offs
- **Key Advantages**:
– **Reduced Memory Footprint**: Compresses weights from 16-bit to 4-bit/8-bit, allowing large models to fit in consumer VRAM/RAM.
– **Increased Memory Bandwidth**: Lowers I/O bus overhead, speeding up token generation.
- **Trade-offs**:
– **Perplexity Degradation**: Lower bit depths (e.g., < 3-bit) may lead to subtle degradation in nuanced reasoning.
– **Quantization Overhead**: Pre-quantization requires calibration passes over representative datasets.
**Conclusion**: 4-bit and 5-bit quantization provide the optimal tradeoff between memory constraints and generation accuracy for on-device inference.
Шаблон агента-рецензента (ReviewerAgentTemplate)
Шаблон для создания агентов проверки и предоставления обратной связи.
Агенты-рецензенты эффективно выполняют проверку кода и документов, оценивают качество и предоставляют конструктивную обратную связь на основе заданных критериев.
var agent = new ReviewerAgentTemplate()
.WithModel(MainModel)
.WithReviewType(ReviewType.Technical)
.WithSeverity(ReviewSeverity.Strict)
.Build();
r = Await(agent.RunAsync(“Review: public async Task SaveUser(User u) { _db.Users.Add(u); await _db.SaveChangesAsync(); }”));
r.Content;
Результат:
{
“status”: “Changes Requested”,
“review_summary”: “The method performs the expected database write but lacks input validation and cancellation support.”,
“findings”: [
{
“severity”: “Warning”,
“category”: “Validation”,
“message”: “Missing null check on parameter ‘u’.”,
“recommendation”: “Add ArgumentNullException.ThrowIfNull(u); before accessing the DbContext.”
},
{
“severity”: “Suggestion”,
“category”: “Asynchrony”,
“message”: “CancellationToken parameter is omitted.”,
“recommendation”: “Accept CancellationToken and forward it to SaveChangesAsync(cancellationToken).”
}
]
}
Шаблон агента-суммаризатора (SummarizerAgentTemplate)
Шаблон для создания агентов суммаризации.
Агенты-суммаризаторы эффективно сокращают документы, разговоры, совещания и другой контент до кратких резюме, сохраняя ключевую информацию.
var agent = new SummarizerAgentTemplate()
.WithModel(MainModel)
.WithStyle(SummaryStyle.Bullet)
.WithSummaryLength(SummaryLength.Short)
.Build();
r = Await(agent.RunAsync(“Quarterly Earnings Call Transcript: Revenue rose 15% to $4.2B, driven by enterprise cloud services. Server uptime reached 99.98% across all clusters, and full-year revenue guidance was adjusted upward by 4%…”));
r.Content;
Результат:
– Total revenue increased by 15% year-over-year to $4.2B, led by enterprise cloud adoption.
– Infrastructure reliability maintained a 99.98% uptime SLA across all regions.
– Executive team increased full-year guidance upward by 4%.
Информация о шаблоне (TemplateInfo)
Информация о доступном шаблоне.
// Получение метаданных обо всех доступных шаблонах в runtime
TemplateInfo[] templates = AgentTemplates.GetAvailableTemplates();
foreach (var info in templates)
{
Console.WriteLine($”{info.Name,-14} | {info.Description}”);
}
Результат:
Chat | Conversational chat agent with memory and customizable tone.
Code | Code generation, explanation, and refactoring agent.
Classifier | Content classification and sentiment analysis agent.
Extractor | Structured data and entity extraction agent.
Summarizer | Document and text summarization agent.
Translator | Domain-aware multilingual translation agent.
Шаблон агента для работы с инструментами (ToolAgentTemplate)
Шаблон для создания агентов, оптимизированных для использования инструментов.
Такие агенты предназначены для эффективного применения доступных инструментов при выполнении задач с использованием настраиваемых стратегий выбора инструментов.
var agent = new ToolAgentTemplate()
.WithModel(MainModel)
.WithTools(BuiltInTools.FileSystem, BuiltInTools.DateTime)
.WithToolStrategy(ToolStrategy.Auto)
.Build();
r = Await(agent.RunAsync(“Find all log files in /var/logs modified in the last 24 hours.”));
r.Content;
Результат:
{
“selected_tool”: “FileSystem.SearchFiles”,
“arguments”: {
“directory”: “/var/logs”,
“filter”: “*.log”,
“hours_ago”: 24
},
“execution_result”: [
“/var/logs/app.log”,
“/var/logs/security.log”
]
}
Шаблон агента-переводчика (TranslatorAgentTemplate)
Шаблон для создания агентов перевода.
Агенты-переводчики эффективно переводят текст между языками, сохраняя смысл, тональность и специализированную терминологию предметной области.
var agent = new TranslatorAgentTemplate()
.WithModel(MainModel)
.WithTargetLanguage(“Russian”)
.WithDomain(TranslationDomain.Technical)
.Build();
r = Await(agent.RunAsync(“The garbage collector triggers an ephemeral generation sweep to reclaim unused managed heap memory.”));
r.Content;
Результат:
Сборщик мусора инициирует очистку эфемерного поколения для освобождения неиспользуемой памяти в управляемой куче.
Шаблон агента-репетитора (TutorAgentTemplate)
Шаблон для создания обучающих агентов-репетиторов.
Агенты-репетиторы эффективно объясняют концепции, помогают в обучении, адаптируются к уровню учащегося и используют педагогические методы.
var agent = new TutorAgentTemplate()
.WithModel(MainModel)
.WithLevel(TutorLevel.Beginner)
.WithStyle(TutorStyle.Socratic)
.Build();
r = Await(agent.RunAsync(“Why do we need interfaces in C#?”));
r.Content;
Результат:
Представь розетку в стене. Любой электроприбор подключается через стандартную вилку, не зная, как устроена внутренняя проводка.
Интерфейс в C# работает точно так же: это контракт, определяющий, какие методы должен предоставить класс, но не зависящий от конкретной реализации.
Как думаешь, как такой контракт поможет разработчикам, если понадобится заменить одно хранилище данных на другое без изменения остального кода?
Шаблон агента-писателя (WriterAgentTemplate)
Шаблон для создания агентов написания контента.
Агенты-писатели специализируются на создании различных типов письменного контента с настраиваемыми тоном, стилем и форматом.
var agent = new WriterAgentTemplate()
.WithModel(MainModel)
.WithContentType(ContentType.BlogPost)
.WithTone(WritingTone.Conversational)
.WithWordCount(250)
.WithSeoOptimization(true)
.Build();
r = Await(agent.RunAsync(“Write an introduction for a blog post about running AI models locally.”));
r.Content;
Результат:
Why Running AI Locally is the Next Big Shift in Software Architecture
For the past few years, building with AI meant calling a remote cloud API, hoping latency stayed manageable, and worrying about data privacy. Today, that paradigm is changing. With local large language models, developers can achieve single-digit millisecond response times, zero per-token recurring bills, and 100% data sovereignty on standard hardware. Let’s explore how on-device AI is redefining modern applications.
Кому нужны инструменты
Инструмент требуется тогда, когда агент должен сделать что-то вне самой языковой модели: прочитать файл, выполнить код, отправить запрос, найти документ, вызвать API или изменить состояние системы.
Обязательно или почти обязательно инструменты нужны следующим типам:
- toolWorker — его основная задача состоит именно в вызове инструментов;
- reActor — без инструментов ReAct превращается почти в обычное рассуждение;
- script — нужен исполнитель скриптов или shell-команд;
- function — нужна зарегистрированная функция с входными параметрами;
- plugin — нужен сам подключённый плагин или адаптер;
- debugger — желательно иметь доступ к коду, логам, тестам и запуску программы;
- coder — инструменты нужны, если он должен читать или изменять файлы, компилировать и тестировать код;
- editor — инструменты нужны, если он редактирует реальные файлы, а не только возвращает исправленный текст.
Инструменты не обязательны, но могут быть полезны для:
- analyst — поиск по базе знаний, RAG, калькулятор, статистика;
- assistant — календарь, поиск, файлы, база данных;
- chat — обычно это просто диалог, но можно подключить поиск или память;
- planner — план можно составить без инструментов, а для автоматического выполнения понадобятся другие агенты;
agent — универсальный тип; наличие инструментов зависит от задачи.