Гид по агентам искусственного интеллекта 2025 года
Ваш универсальный ресурс для получения глубоких знаний и практического применения агентов искусственного интеллекта.
В этом всеобъемлющем руководстве вы найдете подборку материалов, связанных с агентами искусственного интеллекта, таких как образовательные пояснения, практические руководства, эпизоды подкастов и многое другое.
Агент искусственного интеллекта (ИИ) относится к системе или программе, которая способна автономно выполнять задачи от имени пользователя или другой системы путем разработки своего рабочего процесса и использования доступных инструментов. Агенты искусственного интеллекта могут включать в себя широкий спектр функциональных возможностей, выходящих за рамки обработки естественного языка, включая принятие решений, решение проблем, взаимодействие с внешней средой и выполнение действий.
Агенты искусственного интеллекта могут выполнять широкий спектр функций, выходящих за рамки обработки естественного языка, включая принятие решений, решение проблем, взаимодействие с внешней средой и выполнение действий.
Агенты искусственного интеллекта решают сложные задачи в корпоративных приложениях, включая разработку программного обеспечения, автоматизацию ИТ, генерацию кода и помощь в диалоге. Они используют передовые методы обработки естественного языка в рамках больших языковых моделей (LLM), чтобы шаг за шагом понимать вводимые пользователем данные и реагировать на них, а также определять, когда следует обращаться к внешним инструментам.
Как работают агенты искусственного интеллекта
В основе агентов ИИ лежат большие языковые модели (LLM). По этой причине агентов ИИ часто называют агентами LLM. Традиционные LLM, такие как модели IBM® Granite®, выдают свои ответы на основе данных, используемых для их обучения, и ограничены знаниями и рассуждениями. В отличие от этого, агентская технология использует вызов инструмента на серверной части для получения актуальной информации, оптимизации рабочих процессов и автономного создания подзадач для достижения сложных целей.
В ходе этого процесса автономный агент со временем учится адаптироваться к ожиданиям пользователей. Способность агента сохранять в памяти прошлые взаимодействия и планировать будущие действия способствует персонализированному взаимодействию и всесторонним ответам.1 Вызов этого инструмента может быть осуществлен без вмешательства человека и расширяет возможности применения этих систем искусственного интеллекта в реальных условиях. Эти три этапа или агентские компоненты определяют, как работают агенты:
Инициализация и планирование целей
Хотя агенты ИИ автономны в своих процессах принятия решений, им требуются цели и предопределенные правила, определенные людьми.2 На поведение автономных агентов влияют три основных фактора:
Команда, которая развертывает агент и предоставляет пользователю доступ к нему.
Пользователь, который предоставляет агенту искусственного интеллекта конкретные цели для достижения и устанавливает доступные инструменты для использования.
Учитывая цели пользователя и доступные инструменты агента, агент искусственного интеллекта затем выполняет декомпозицию задач для повышения производительности.3 По сути, агент создает план конкретных задач и подзадач для достижения сложной цели.
Для простых задач планирование не является обязательным этапом. Вместо этого агент может итеративно обдумывать свои ответы и улучшать их, не планируя свои следующие шаги.
Рассуждения с помощью доступных инструментов
Агенты искусственного интеллекта основывают свои действия на информации, которую они воспринимают. Однако им часто не хватает полных знаний, необходимых для решения каждой подзадачи в рамках сложной цели. Чтобы преодолеть этот пробел, они обращаются к доступным инструментам, таким как внешние наборы данных, веб-поиск, API и даже другие агенты.
Как только недостающая информация собрана, агент обновляет свою базу знаний и приступает к агентному рассуждению. Этот процесс включает в себя постоянную переоценку своего плана действий и внесение самокоррекций, что позволяет принимать более обоснованные и адаптивные решения.
Чтобы проиллюстрировать этот процесс, представьте пользователя, планирующего свой отпуск. Пользователь поручает агенту искусственного интеллекта спрогнозировать, на какой неделе следующего года, вероятно, будет лучшая погода для его серфинговой поездки в Грецию.
Поскольку модель LLM, лежащая в основе агента, не специализируется на погодных условиях, он не может полагаться исключительно на свои внутренние знания. Таким образом, агент собирает информацию из внешней базы данных, содержащей ежедневные сводки погоды в Греции за последние несколько лет.
Несмотря на получение этой новой информации, агент по-прежнему не может определить оптимальные погодные условия для серфинга, и поэтому создается следующая подзадача. Для выполнения этой подзадачи агент связывается с внешним агентом, специализирующимся на серфинге. Предположим, что при этом агент узнает, что высокие приливы и солнечная погода с небольшим количеством осадков обеспечивают наилучшие условия для серфинга.
Теперь агент может объединять информацию, полученную с помощью своих инструментов, для выявления закономерностей. Он может предсказать, на какой неделе в следующем году в Греции, вероятно, будут приливы, солнечная погода и низкая вероятность дождя. Затем эти результаты представляются пользователю. Такой обмен информацией между инструментами позволяет агентам искусственного интеллекта быть более универсальными, чем традиционные модели искусственного интеллекта.3
Обучение и рефлексия
Агенты искусственного интеллекта используют механизмы обратной связи, такие как другие агенты искусственного интеллекта и человек в цикле (HITL), для повышения точности своих ответов. Давайте вернемся к нашему предыдущему примеру просмотра, чтобы осветить этот процесс. После того, как агент формирует свой ответ пользователю, он сохраняет полученную информацию вместе с отзывами пользователя для повышения производительности и адаптации к предпочтениям пользователя для достижения будущих целей.
Если бы для достижения цели использовались другие агенты, их обратная связь также могла бы быть использована. Обратная связь с участием нескольких агентов может быть особенно полезна для минимизации времени, которое пользователи-люди тратят на предоставление указаний. Однако пользователи также могут предоставлять обратную связь по всем действиям агента и внутренним рассуждениям, чтобы лучше согласовать результаты с намеченной целью.2
Механизмы обратной связи улучшают логику и точность действий агента искусственного интеллекта, что обычно называют итеративным уточнением.3 Чтобы избежать повторения одних и тех же ошибок, агенты искусственного интеллекта также могут хранить данные о решениях предыдущих препятствий в базе знаний.
Чат-боты с агентированным и неагентичным искусственным интеллектом
Чат-боты с неагрессивным ИИ не имеют доступных инструментов, памяти или рассуждений. Они могут достигать только краткосрочных целей и не могут планировать заранее. Насколько мы их знаем, неагрессивные чат-боты требуют постоянного ввода данных пользователем для реагирования.
Они могут выдавать ответы на обычные запросы, которые, скорее всего, соответствуют ожиданиям пользователя, но плохо справляются с вопросами, уникальными для пользователя и его данных. Поскольку эти чат-боты не обладают памятью, они не могут учиться на своих ошибках, если их ответы неудовлетворительны.
Напротив, чат-боты с агентированным ИИ со временем учатся адаптироваться к ожиданиям пользователей, обеспечивая более персонализированный опыт и исчерпывающие ответы. Они могут выполнять сложные задачи, создавая подзадачи без вмешательства человека и рассматривая различные планы. Эти планы также можно самостоятельно корректировать и обновлять по мере необходимости. Чат-боты с агентированным искусственным интеллектом, в отличие от неагентичных, оценивают свои инструменты и используют доступные ресурсы для восполнения пробелов в информации.
Парадигмы рассуждения
Не существует единой стандартной архитектуры для создания агентов искусственного интеллекта. Существует несколько парадигм для решения многоступенчатых задач.
ReAct (рассуждения и действия)
С помощью парадигмы ReAct мы можем поручить агентам "думать" и планировать после каждого предпринятого действия и каждого отклика инструмента, чтобы решить, какой инструмент использовать следующим. Эти циклы "Думай-действуй-наблюдай" используются для пошагового решения проблем и итеративного улучшения ответов.
Благодаря структуре подсказок агентам можно дать указание рассуждать медленно и отображать каждую "мысль".4 Устные рассуждения агента дают представление о том, как формулируются ответы. В этой среде агенты постоянно обновляют свой контекст новыми рассуждениями. Этот подход можно интерпретировать как форму подсказывания цепочки мыслей.
ReWOO (рассуждения без наблюдения)
Метод ReWOO, в отличие от ReAct, устраняет зависимость от выходных данных инструмента для планирования действий. Вместо этого агенты планируют заранее. Можно избежать избыточного использования инструмента, заранее зная, какие инструменты использовать, после получения первоначального запроса от пользователя. Такой подход желателен с точки зрения, ориентированной на человека, поскольку пользователь может подтвердить план до того, как он будет выполнен.
Рабочий процесс ReWOO состоит из трех модулей. В модуле планирования агент предвосхищает свои следующие шаги с учетом запроса пользователя. Следующий этап включает сбор результатов, полученных при вызове этих инструментов. Наконец, агент связывает первоначальный план с выходными данными инструмента для формулирования ответа. Такое заблаговременное планирование может значительно снизить использование токенов и вычислительную сложность, а также последствия промежуточного отказа инструмента.5
Типы агентов искусственного интеллекта
Агенты искусственного интеллекта могут быть разработаны с разным уровнем возможностей. Простой агент может быть предпочтительнее для простых целей, чтобы ограничить ненужную вычислительную сложность. В порядке от простого к наиболее продвинутому существует 5 основных типов агентов:
1. Простые рефлекторные агенты
Простые рефлекторные агенты - это простейшая форма агента, которая основывает действия на восприятии. Этот агент не хранит никакой памяти и не взаимодействует с другими агентами, если ему не хватает информации. Эти агенты функционируют на основе набора так называемых рефлексов или правил. Такое поведение означает, что агент предварительно запрограммирован на выполнение действий, соответствующих определенным выполняемым условиям.
Если агент сталкивается с ситуацией, к которой он не подготовлен, он не может отреагировать надлежащим образом. Агенты эффективны в полностью наблюдаемых средах, предоставляя доступ ко всей необходимой информации.6
Пример: Если сейчас 8 часов вечера, то включается отопление — например, термостат, который включает систему отопления в установленное время каждую ночь.
Простая схема рефлекторного агента
2. Рефлекторные агенты на основе моделей
Рефлекторные агенты на основе моделей используют как свое текущее восприятие, так и память для поддержания внутренней модели мира. По мере того, как агент продолжает получать новую информацию, модель обновляется. Действия агента зависят от его модели, рефлексов, предыдущих установок и текущего состояния.
Эти агенты, в отличие от простых рефлекторных агентов, могут хранить информацию в памяти и работать в частично наблюдаемых и изменяющихся средах. Однако они по-прежнему ограничены своим набором правил.6
Пример: робот-пылесос. Убирая грязную комнату, он чувствует препятствия, такие как мебель, и приспосабливается к ним. Робот также сохраняет модель областей, которые он уже очистил, чтобы не застрять в цикле повторной уборки.
Схема рефлекторного агента на основе модели
3. Агенты, основанные на целях
Агенты, основанные на достижении целей, имеют внутреннюю модель мира, а также цель или набор целей. Эти агенты ищут последовательности действий, которые достигают их цели, и планируют эти действия, прежде чем действовать в соответствии с ними. Такой поиск и планирование повышают их эффективность по сравнению с простыми рефлекторными агентами, основанными на моделях.7
Пример: Навигационная система, которая рекомендует кратчайший маршрут к месту назначения. В модели рассматриваются различные маршруты, по которым можно добраться до места назначения, или, другими словами, до вашей цели. В этом примере правило "условие-действие" агента гласит, что если найден более быстрый маршрут, агент рекомендует его вместо этого.
Диаграмма агентов, основанная на целях
4. Агенты на основе утилит
Агенты, основанные на полезности, выбирают последовательность действий, которые достигают цели, а также максимизируют полезность или вознаграждение. Полезность рассчитывается с помощью функции полезности. Эта функция присваивает значение полезности, показатель, измеряющий полезность действия или то, насколько “счастлив” агент, каждому сценарию на основе набора фиксированных критериев.
Критерии могут включать такие факторы, как продвижение к цели, временные требования или вычислительную сложность. Затем агент выбирает действия, которые максимизируют ожидаемую полезность. Следовательно, эти агенты полезны в случаях, когда желаемая цель достигается несколькими сценариями и необходимо выбрать оптимальный.7
Пример: Навигационная система, которая рекомендует маршрут к месту назначения, оптимизирует расход топлива и сводит к минимуму время, проведенное в пробке, и стоимость проезда. Этот агент оценивает полезность с помощью этого набора критериев для выбора наиболее благоприятного маршрута.
Схема агентов на основе утилит
5. Обучающиеся агенты
Обучающиеся агенты обладают теми же возможностями, что и агенты других типов, но уникальны в своей способности к обучению. Новый опыт добавляется к их исходной базе знаний, что происходит автономно. Такое обучение повышает способность агента действовать в незнакомой среде. Обучающиеся агенты могут быть ориентированы на полезность или достижение цели в своих рассуждениях и состоят из четырех основных элементов:7
Обучение: Этот процесс улучшает знания агента, извлекая уроки из окружающей среды с помощью ее инструкций и датчиков.
Критик: Этот компонент обеспечивает обратную связь с агентом о том, соответствует ли качество его ответов стандарту производительности.
Производительность: Этот элемент отвечает за выбор действий при обучении.
Генератор проблем: Этот модуль создает различные предложения о действиях, которые необходимо предпринять.
Пример: Персонализированные рекомендации на сайтах электронной коммерции. Эти агенты отслеживают активность и предпочтения пользователей в своей памяти. Эта информация используется для рекомендации пользователю определенных продуктов и услуг. Цикл повторяется каждый раз, когда даются новые рекомендации. Данные о действиях пользователя постоянно сохраняются для целей обучения. При этом агент со временем повышает свою точность.
Схема обучающего агента
Примеры использования агентов искусственного интеллекта
Опыт работы с клиентами
Агенты искусственного интеллекта могут быть интегрированы в веб-сайты и приложения для повышения качества обслуживания клиентов, выступая в качестве виртуального помощника, обеспечивая поддержку в области психического здоровья, имитируя собеседования и другие связанные с этим задачи.8 Существует множество шаблонов без кода для реализации пользователями, что делает процесс создания этих агентов искусственного интеллекта еще проще.
Здравоохранение
Агенты искусственного интеллекта могут использоваться для различных реальных приложений здравоохранения. Мультиагентные системы могут быть полезны для решения проблем в таких условиях. От планирования лечения пациентов в отделении неотложной помощи до управления процессами приема лекарств - эти системы экономят время и усилия медицинских работников для решения более неотложных задач.9
Экстренное реагирование
В случае стихийного бедствия агенты искусственного интеллекта могут использовать алгоритмы глубокого обучения для извлечения информации о пользователях социальных сетей, нуждающихся в спасении. Местоположения этих пользователей могут быть нанесены на карту, чтобы помочь службам спасения спасти больше людей за меньшее время. Таким образом, агенты искусственного интеллекта могут принести большую пользу человеческой жизни как в рутинных, повторяющихся задачах, так и в ситуациях, спасающих жизнь.10
Финансы и цепочка поставок
Агенты могут быть разработаны для анализа финансовых данных в режиме реального времени, прогнозирования будущих тенденций рынка и оптимизации управления цепочками поставок. Настраиваемость автономных агентов ИИ обеспечивает персонализированный вывод наших уникальных данных. При работе с финансовыми данными важно применять меры безопасности для обеспечения конфиденциальности данных.
Преимущества агентов искусственного интеллекта
Автоматизация задач
В связи с постоянными достижениями в области генеративного искусственного интеллекта и машинного обучения растет интерес к оптимизации рабочих процессов с помощью искусственного интеллекта или интеллектуальной автоматизации. Агенты искусственного интеллекта - это инструменты искусственного интеллекта, которые могут автоматизировать сложные задачи, которые в противном случае потребовали бы человеческих ресурсов. Этот сдвиг приводит к тому, что цели достигаются недорого, быстро и масштабно. В свою очередь, эти усовершенствования означают, что агентам-людям не нужно давать указания помощнику искусственного интеллекта для создания его задач и навигации по ним.
Повышение производительности
Многоагентные фреймворки, как правило, превосходят одиночные агенты.11 Это связано с тем, что чем больше планов действий доступно агенту, тем больше происходит обучения и рефлексии.
Агент искусственного интеллекта, использующий знания и обратную связь от других агентов искусственного интеллекта, специализирующихся в смежных областях, может быть полезен для синтеза информации. Такое внутреннее взаимодействие агентов искусственного интеллекта и способность заполнять информационные пробелы уникальны для agentic Framework, что делает их мощным инструментом и значительным достижением в области искусственного интеллекта.
Качество ответов
Агенты искусственного интеллекта обеспечивают ответы, которые являются более полными, точными и персонализированными для пользователя, чем традиционные модели искусственного интеллекта. Такая адаптивность важна для нас как пользователей, поскольку ответы более высокого качества обычно улучшают качество обслуживания клиентов. Как описано ранее, эта возможность становится возможной благодаря обмену информацией с другими агентами, с помощью инструментов и обновлению потока их памяти. Такое поведение возникает само по себе и не программируется заранее.12
Риски и ограничения
Мультиагентные зависимости
Некоторые сложные задачи требуют знаний нескольких агентов искусственного интеллекта. Управление этими многоагентными фреймворками сопряжено с риском сбоев. Многоагентные системы, построенные на одних и тех же базовых моделях, могут сталкиваться с общими подводными камнями. Такие слабые места могут привести к общесистемному сбою всех задействованных агентов или сделать уязвимыми для вредоносных атак.13 Это подчеркивает важность управления данными при построении базовых моделей и тщательных процессов обучения и тестирования.
Бесконечные циклы обратной связи
Удобство аргументации невмешательства для пользователей-людей, обеспечиваемое агентами искусственного интеллекта, также сопряжено с определенными рисками. Агенты, которые не в состоянии составить комплексный план или поразмыслить над своими выводами, могут обнаружить, что постоянно обращаются к одним и тем же инструментам, вызывая бесконечные циклы обратной связи. Чтобы избежать этих избыточностей, можно было бы использовать определенный уровень мониторинга человека в режиме реального времени.13
Вычислительная сложность
Создание агентов искусственного интеллекта с нуля требует не только времени, но и вычислительных затрат. Ресурсы, необходимые для обучения высокопроизводительного агента, могут быть обширными. Кроме того, в зависимости от сложности задачи, выполнение заданий агентами может занять несколько дней.12
Конфиденциальность данных
При неправильном управлении интеграция агентов искусственного интеллекта с бизнес-процессами и системами управления клиентами может вызвать серьезные проблемы с безопасностью. Например, представьте, что агенты искусственного интеллекта руководят процессом разработки программного обеспечения, переводят вторых пилотов—программистов на следующий уровень или определяют цены для клиентов - без какого-либо человеческого надзора или ограждений. Результаты таких сценариев могут быть пагубными из-за экспериментального и часто непредсказуемого поведения агентированного искусственного интеллекта.
Поэтому поставщикам искусственного интеллекта, таким как IBM, Microsoft и OpenAI, важно оставаться активными. Они должны внедрять обширные протоколы безопасности для обеспечения надежного хранения конфиденциальных данных сотрудников и клиентов. Ответственные методы развертывания являются ключом к минимизации рисков и поддержанию доверия к этим быстро развивающимся технологиям.
Лучшие практики
Журналы активности
Для решения проблем, связанных с многоагентными зависимостями, разработчики могут предоставить пользователям доступ к журналу действий агента.14 Действия могут включать использование внешних инструментов и описывать внешних агентов, используемых для достижения цели. Такая прозрачность дает пользователям представление об итеративном процессе принятия решений, предоставляет возможность обнаруживать ошибки и укрепляет доверие.
Прерывание
Рекомендуется предотвращать чрезмерно длительную работу автономных агентов искусственного интеллекта. Особенно в случаях непреднамеренных бесконечных циклов обратной связи, изменений в доступе к определенным инструментам или сбоев в работе из-за недостатков дизайна. Одним из способов достижения этой цели является реализация возможности прерывания.
Сохранение контроля над этим решением предполагает предоставление пользователям-людям возможности корректно прерывать последовательность действий или всю операцию целиком. Выбор того, прерывать ли агента искусственного интеллекта и когда именно, требует некоторой вдумчивости, поскольку некоторые прерывания могут причинить больше вреда, чем пользы. Например, может быть безопаснее позволить неисправному агенту продолжать оказывать помощь в чрезвычайной ситуации, угрожающей жизни, чем полностью отключить его.5
Уникальные идентификаторы агентов
Чтобы снизить риск использования агентских систем в злонамеренных целях, могут быть реализованы уникальные идентификаторы. Если бы эти идентификаторы требовались агентам для доступа к внешним системам, отслеживание происхождения разработчиков, развертывателей и пользователей агента стало бы проще.
Такой подход добавляет важный уровень подотчетности. Отслеживаемость помогает идентифицировать ответственные стороны, когда агент причиняет вредоносное использование или непреднамеренный вред. В конечном счете, такого рода меры предосторожности будут способствовать созданию более безопасной рабочей среды для агентов ИИ.
Человеческий надзор
Для содействия процессу обучения агентов искусственного интеллекта, особенно на ранних этапах их работы в новой среде, может быть полезно обеспечить определенный уровень человеческого контроля. Итак, основываясь на этом руководстве, агент искусственного интеллекта может сравнить свою производительность с ожидаемым стандартом и внести коррективы. Такая форма обратной связи полезна для повышения адаптивности агента к предпочтениям пользователя.5
Помимо этой меры предосторожности, рекомендуется требовать одобрения человека, прежде чем агент ИИ предпримет эффективные действия. Например, для действий, начиная от массовой отправки электронных писем и заканчивая финансовой торговлей, должно требоваться подтверждение человека.7 Для таких областей с высоким уровнем риска рекомендуется определенный уровень мониторинга со стороны человека.
Статья создана в KolerskyAI на основе исследования IBM KolerskyAI - это множество ИИ сервисов для генерации видео, изображений, текстов и многого другого