Искусственный интеллект: Современный агентный подход

О чем расскажет эта книга....8

Об авторе....9

Введение....10

Глава 0....20

От компонентов к системе: анатомия интеллектуального агента....20

0.1. Генеративные модели: рождение синтетического мышления....21

От дискриминативных к генеративным моделям....21

Трансформеры: архитектура, изменившая мир....21

БЯМ: от текста к универсальному интерфейсу....22

Мультимодальность: агенты воспринимают мир целостно....23

Ограничения генеративных моделей: где им нужна помощь....23

Мостик к агентам....24

0.2. Метакогнитивная промпт-инженерия: система управления разумом модели....24

От простого промптинга к метакогниции....24

Chain-of-Thought: визуализация рассуждений....25

ReAct: цикл размышление действие....25

Метакогнитивные техники: инструментарий саморегуляции....26

Цикл метакогнитивного агента....27

Ограничения метакогнитивного промптинга....28

0.3. RAG-системы: органы восприятия агента....28

Проблема параметрических знаний....28

Архитектура RAG: retriever generator....29

Векторные базы данных и семантический поиск....30

Гибридный поиск и ранжирование....30

От наивного RAG к агентному....31

Инструментализация: RAG как часть экосистемы....31

Качество данных: мусор на входе – мусор на выходе....32

Ограничения RAG: когда данных слишком много....32

Мостик к агентам....32

Часть I....36

Основы агентного подхода....36

Глава 1....37

Агенты в искусственном интеллекте....37

Глава 2....46

Архитектурные принципы построения агентов....46

Глава 3....58

Агенты и многоагентные системы....58

Часть II....72

Проектирование агентных систем....72

Глава 4....73

Инструменты и их интеграция....73

4.1. Ландшафт инструментов для агентов на основе БЯМ....74

4.2. Архитектурные паттерны интеграции инструментов....78

4.3. Практическая реализация: пример агента с инструментальной интеграцией....81

Глава 5....91

Планирование действий и их выполнение....91

5.1. Цикл ReAct – от мысли к действию....91

5.2. Планирование, декомпозиция и управление зависимостями....95

5.3. Реализация ReAct-агента на языке Python....99

Глава 6....104

Управление состоянием и память....104

6.1. Краткосрочная и долгосрочная память – архитектурные принципы....105

6.2. Агентная память и динамическое управление знаниями....108

6.3. Метакогнитивная память в многоагентных системах – совместное использование знаний....111

6.4. Реализация агента с многоуровневой памятью....114

Глава 7....119

Руководство для разработчиков....119

7.1. Принципы разработки агентов....119

7.2. Паттерны проектирования агентных систем....123

Паттерны создания целей....124

Паттерны оптимизации промптов и ответов....125

Паттерны расширения контекста....126

Паттерны рефлексии и самоконтроля....126

Паттерны сотрудничества между агентами....127

Паттерны безопасности и соответствия....129

Паттерны управления инструментами и агентами....129

Паттерны планирования и выполнения....131

Паттерны взаимодействия с моделью....132

Применение паттернов: модель принятия решений....134

Часть III....138

Контроль качества и безопасность....138

Глава 8....139

Метрики качества....139

8.1. Перечень метрик качества агентов....139

Метрики итоговых результатов....140

Метрики промежуточного поведения....141

Метрики производительности....141

Метрики надёжности и безопасности....142

Метрики многоагентных систем....143

Метрики пользовательского опыта....143

Специфические метрики для отдельных задач....143

8.2. Программная реализация контроля метрик качества....144

Глава 9....152

Принципы тестирования агентов....152

9.1. Функциональное тестирование – проверка корректности выполнения задач....153

Юнит-тестирование компонентов агента....153

Интеграционное тестирование взаимодействия с инструментами....154

Сквозное тестирование полного пользовательского пути....155

Регрессионное тестирование....157

Оценка через сравнение с эталонами и механизм БЯМ как судья....158

9.2. Тестирование надёжности – устойчивость к ошибкам и нештатным ситуациям....160

Симуляция отказов инструментов и внешних зависимостей....160

Тестирование восстановления после ошибок....161

Тестирование на противоречивых и неполных данных....163

Автоматизированное внедрение ошибок....163

Итеративное улучшение на основе результатов тестирования....164

9.3. Тестирование безопасности – защита от враждебных атак и утечек данных....165

Инъекции промптов и защита от них....165

Джейлбрейки и обход ограничений....166

Извлечение системных промптов и конфиденциальных данных....167

Тестирование на генерацию токсичного и вредоносного контента....168

Состязательное тестирование через диверсионный анализ....169

Защита данных и соблюдение политик доступа....169

9.4. Тестирование производительности и масштабируемости....170

Измерение задержки ответа и её компонентов....170

Нагрузочное тестирование параллельных сессий....172

Стресс-тестирование за пределами проектных ограничений....172

Тестирование выносливости и утечек ресурсов....173

Оптимизация на основе результатов тестирования....174

9.5. Прочие принципы тестирования агентов....175

Многоуровневая архитектура тестов....175

Репрезентативность тестовых наборов....175

Автоматизация оценки результатов....176

Человек в цикле для субъективной оценки....176

Непрерывность тестирования на всех этапах....176

Воспроизводимость результатов тестирования....177

Отказоустойчивость самих тестов....177

Документирование и трассировка результатов....177

Итеративное улучшение тестовых наборов....178

Глава 10....179

Безопасность и доверие....179

10.1. Архитектурные паттерны защитных гардов....180

Модель швейцарского сыра для многослойной защиты....180

Паттерн оптимистического выполнения....181

Паттерн Политики прежде всего....181

Каскадные гарды....182

Адаптивные гарды AGrail....183

Агенты-охранники GuardAgent....183

Контекстуализация правил безопасности....184

Алгоритм выбора паттерна для реализации гардов....185

10.2. Мультимодальная модерация и соответствие нормативным требованиям....187

10.3. Практическая реализация гардов....188

Часть IV....200

Практические применения....200

Глава 11....201

Шаблоны для реальных задач....201

11.1. Агент поддержки клиентов – автоматизация первой линии....202

11.2. Медицинский агент – диагностика и поддержка пациентов....212

11.3. Финансовый аналитик – прогнозирование и управление рисками....228

11.4. Агент-программист – автоматизация разработки и сопровождения кода....243

11.5. Мультиязычный переводчик с культурной адаптацией....259

Глава 12....273

Примеры успешных реализаций....273

Часть V....282

Будущее агентного искусственного интеллекта....282

Глава 13....283

Тренды и инновации....283

13.1 Нейросимвольные гибриды: соединение интуиции и логики....283

13.2 Автономность и самообучение: агенты, которые растут....287

13.3 Многоагентные экосистемы: от одиночек к цивилизациям....292

13.4 Агенты в метавселенных и виртуальных мирах....297

13.5. Регуляция и агенты-законодатели....299

13.6. Этика, безопасность и выравнивание....300

Глава 14....304

Видение будущего....304

14.1. Цифровое бессмертие через агентные системы....305

14.2. Симбиоз человека и агента: следующая ступень эволюции....310

14.3. Агенты как новая форма жизни: постбиологическая эволюция....316

14.4. Планетарные экосистемы агентов: цифровая ноосфера....323

14.5. Экзистенциальные риски и сценарии катастроф....327

Заключение....333

Глоссарий....337

Библиография....348

Комплексное руководство по проектированию, разработке и развёртыванию интеллектуальных агентных систем

Агентный подход представляет собой современную парадигму искусственно-го интеллекта, в рамках которой автономные агенты способны воспринимать окружение, принимать решения, планировать действия и взаимодействовать друг с другом для решения сложных задач в динамических средах.

В книге детально рассматриваются:

• когнитивные архитектуры и модели агентов;
• декомпозиция задач и иерархическое планирование действий;
• интеграция инструментов и вызов функций в языковых моделях;
• RAG-модули, долгосрочная и эпизодическая память агентов;
• многоагентные системы и координация интеллектуальных агентов;
• безопасность агентных систем: гарды, выравнивание ценностей, проблема контроля;
• оценка качества, тестирование и мониторинг агентных решений;
• практические кейсы внедрения агентных систем в бизнесе

и множество других аспектов современных агентных технологий.

Издание предназначено разработчикам интеллектуальных систем, инженерам машинного обучения, архитекторам корпоративных ИИ-решений, исследова-телям и всем, кто профессионально работает с агентными системами, а также тем, кто стремится освоить передовые подходы к созданию автономного искусственного интеллекта.