Что такое агент и какие у него свойства

Что такое агент и какие у него свойства thumbnail

Интеллектуальный агент многоагентной системы

К настоящему времени, несмотря на все дискуссии, термины «агент» и «интеллектуальный агент» четко не описаны, как, впрочем, не описаны и многие другие ключевые термины в области интеллектуальных систем. Причина такого состояния дел с терминологией достаточно очевидна и состоит в том, что в этих случаях четкую границу провести невозможно. Можно говорить лишь о некоторых «свойствах» программ, претендующих на то, чтобы называться агентом, интеллектуальным агентом или многоагентной системой. Рассмотрим существующие содержательные описания свойств агентов.

На Токийской встрече в октябре 1996 года определение агента было сформулировано следующим образом:

“Агент – это сущность, которая находится в некоторой среде, от которой она получает данные и которые отражают события, происходящие в среде, интерпретирует их и воздействует на среду. Агент может содержать программные и аппаратные компоненты. Отсутствие четкого определения мира агентов и присутствие большого количества атрибутов, с ним связанных, а также существование большого разнообразия примеров агентов говорят о том, что агенты – это достаточно общая технология, которая аккумулирует в себе несколько различных областей”.

Существует еще одно определение агента:

“Агент – это компьютерная система, которая функционирует в некоторой среде, и которая способна к автономно вырабатываемой реакции для реализации целей, ради которых она (компьютерная система) была создана».

Рис. 1. Взаимодействие агента и внешней среды

Заметим, что некоторые из терминов, использованных в этом определении (автономность, тип внешней среды) нуждаются в пояснении. Приведенное определение демонстрируется простой схемой, представленной на рис. 1.

В определении речь идет об агенте, но не об интеллектуальном агенте. Когда говорят об интеллектуальных агентах, то предполагают, что они, помимо автономности, обладают еще, по крайней мере, такими свойствами:

· реактивность (reactivity) – это способность агента воспринимать состояние среды и своевременно отвечать (реагировать) на те изменения, которые в ней происходят.

· способность к интеллектуальному («разумному») и целенаправленному поведению (pro-activity)[4]– способность агента брать на себя инициативу, т.е. способность генерировать цели и действовать рационально для их достижения, а не только реагировать на внешние события. Наличие этого свойства является одним из важнейших показателей уровня интеллектуальности агента. Например, если предусловия, необходимые для успешности действий, исполняемых агентом, перестали выполняться уже после начала действий, то он должен прекратить исполнение бесполезного действия. В этом одно из отличий агента от обычной программы или объекта. Особенно важно это качество агента в среде, которая не может быть полностью наблюдаема. Заметим также, что в некоторых случаях внешняя среда столь сложна, что в ней наделить агента столь «разумным» поведением технически или очень трудно, если возможно вообще.

· способность к общественному поведению (social ability) – это способность агента функционировать в сообществе с другими агентами, обмениваясь с ними сообщениями с помощью некоторого общепонятного (понятного всем агентам системы) языка коммуникаций. Обмен сообщениями может проводиться с различными целями, например, с целью переговоров, уточнения информации, с целью запроса на сервис, согласования кооперативных и частных целей и т.п. Вообще говоря, это одно из ключевых свойств агента.

Для агента очень важно обеспечить рациональное сочетание, баланс реактивного и «разумного» поведения. Крайние случаи могут оказаться одинаково нерациональными: в первом случае поведение агента аналогично поведению менеджера, который реагирует только на текущие потребности, во втором случае агент подобен менеджеру, который ведет сразу много дел, по сути, не заканчивая ни одного из них.

Перечисленные выше свойства агента образуют тот минимальный набор, при наличии которого агента принято называть интеллектуальным[5]. Дополнительно к ним агент может характеризоваться также рядом других свойств, которые оказываются существенными при построении формальных моделей поведения агента, а также коллектива агентов в многоагентной системе. Главными из них являются так называемые “ментальные» или поведенческие свойства. Эти свойстваиграют ключевую роль в одной из первых строгих моделей поведения агента, названной логикой намерений. К ментальным относятся следующие свойства агентов:

· знания (knowledge) – это постоянная часть знаний агента о себе, о среде, а также, возможно, знания о других агентах. Это та часть знаний, которая не изменяется в процессе функционирования агента;

· убеждения (beliefs) – это знания агента о внешней среде и о других агентах. Эти знания, могут быть недостоверными, изменяться во времени и становиться неверными. Агент должен эти знания постоянно обновлять. Если он не имеет информации, которая формирует его убеждения, то, оставаясь со старыми убеждениями, он может на их основе делать неверные выводы.

Следующие свойства агента принято называть мотивационными.

· желания (desires) – это состояния, ситуации, достижение которых по разным причинам является для агента желательным. Однако желания могут быть противоречивыми в том или ином смысле (быть физически нереализуемыми, взаимно исключать друг друга, конфликтовать по ресурсу, потребному для выполнения различных желаний, по временному фактору и т.п.). Агент может выбирать в качестве в качестве мотивационной компоненты своего поведения только некоторое их непротиворечивое подмножество. Обычно этот выбор агент может делать неединственным образом, а потому он должен обладать соответствующим механизмом для выбора желаний, которые в дальнейшем определяют его поведение.

· намерения (intentions) – это то, что агент или обязан сделать в силу своих обязательств по отношению к другим агентам или он обязан это делать в соответствии со своим выбором (т.е. в соответствии с выбором непротиворечивого подмножества желаний, совместимого с ранее принятыми обязательствами, имеющимися ресурсами, располагаемым временем и т.п.);

· цели (goals) – это конкретное множество конечных и промежуточных состояний, достижение которых агент считает реализацией своих намерений, которые определяют текущую стратегию его поведения;

· обязательства (commitments) – это те задачи, которые агент берет на себя по просьбе или по поручению других агентов в рамках кооперативных целей или целей других агентов в рамках коалиций или альянсов, в которые данный агент входит.

В некоторых приложениях от агента требуется, чтобы он обладал рядом дополнительных свойств. К ним относятся:

· мобильность (mobility) – это способность агента при необходимости мигрировать по сети. Это может потребоваться при поиске информации, необходимой для решения своих задач, при кооперативном решении задач совместно или с помощью других агентов и т.п.

Читайте также:  Овес какие лечебные свойства у него

· рациональность (rationality) – это свойство агента действовать так, чтобы достигнуть своих целей, и в рамках своих знаний и убеждений не делать ничего, чтобы избежать достижения своих целей.

Другой важный аспект, дающий представление об агентах, это свойства среды, в которой оперирует или способен оперировать агент. Ранее уже говорилось, агент обычно оперирует в открытой среде, которая характеризуется следующими свойствами.

Наблюдаемость/ненаблюдаемость среды с точки зрения возможности получения информации о ней. Среда наблюдаема, если агент может получить о ней точную и полную информацию в нужное время. Однако такой вариант среды характерен только для искусственных задач. Обычно агент оперирует в среде, которая не является полностью доступной для наблюдения или измерения ее свойств. Причины этого могут состоять как в ограниченности возможностей сенсорной системы агента, так и в сложности самой среды. Например, она может быть многомерной и динамичной. Чем более «доступна» среда для наблюдения, тем проще построить агента, обладающего «хорошими» свойствами.

Детерминированная/недетерминированная среды. В детерминированной среде ее реакция на воздействие со стороны агента вполне предсказуема, в то время как в недетерминированной среде на одно и то же воздействие агента может последовать различная реакция.

Среда с независимым/зависимым множествами состояний. Например, агент, сортирующий электронную почту, имеет конечное множество ситуаций, и сценарии его действий в одной из них никак не связаны со сценариями действий в других ситуациях. Главное отличительное свойство таких сред в том, что в этом случае нет необходимости анализировать влияние одного эпизода действий на характер действий, целесообразных во втором эпизоде. Для среды с зависимыми состояниями это может потребоваться. Именно такой случай имеет место в случае коллектива роботов, которые распознают и транспортируют грузы при их появлении в определенных местах, если при этом взаимное положение грузов на площадке (складе) зависит от порядка прибытия грузов.

Статическая/динамическая среды. Статическая среда – это такая среда, которая не изменяется сама по себе, а может изменяться только агентами. Во втором случае среда изменяется, однако восприятие этих изменений агентами может происходить с запаздыванием, так что в течение каких-то интервалов времени состояние среды может быть иным, чем знания агентов о ней. В таком случае текущее действие агента в этой среде может противоречить новому состоянию.

Дискретная/непрерывная среда. Если внешняя среда имеет конечное множество состояний, то агенту достаточно иметь конечное множество реакций. Примером являются игровые задачи с определенной заранее последовательностью действий, агенты, осуществляющие некоторое обслуживание и др.

Источник

1. Автономность: агенты функционируют без прямого вмешательства людей или кого-либо другого и владеют определенной способностью контролировать свои действия и внутреннее состояние.

2. Общественное поведение (social ability):агенты взаимодействуют с другими агентами средствами некоторого коммуникационного языка.

3. Реактивность: агенты способны воспринимать окружающую среду (которая может быть физическим миром, пользователем, взаимодействующим через графический интерфейс, коллекцией других агентов, Іnternet-ом, или, возможно, всем вместе взятым) и адекватно реагировать в определенных временных рамках на изменения, которые происходят.

3. Целенаправленная активность: агенты не просто реагируют на изменения среды, но и обладают целенаправленным поведением и способностью проявлять инициативу.

5. Индивидуальная картина мира: каждый агент имеет собственную модель окружающего его мира (среды), которая описывает то, как агент видит мир. Агент строит свою модель мира на основе информации, которую получает из внешней среды.

6. Коммуникабельность и коперативность: агенты могут обмениваться информацией с окружающей их средой и другими агентами. Возможность коммуникаций означает, что агент должен получать информацию об его окружающей среде, что дает ему возможность строить собственную модель мира. Более того, возможность коммуникаций с другими агентами является обязательным условием совместных действий для достижения целей.

7. Интеллектуальное поведение: поведение агента включает способность к обучению, логичной дедукции или конструированию модели окружающей среды для того, чтобы находить оптимальные способы поведения.

Следовательно, каждый агент — это процесс, который владеет (располагает) определенной частью знаний об объекте и возможностью обмениваться этими знаниями с другими агентами.

Классификацию агентов можно провести в двух направлениях — по их инструментальной реализации (языку программирования агентов) и по основным приметам, которыми они владеют.

Следует отметить, что на сегодня не существует языка программирования или инструментальной системы разработки, которая бы полностью соответствовала требованиям построения агентов. С точки зрения принципов распределенного объектно-ориентированного программирования (ООП) необходимость передачи методов может быть существенно сокращена в том случае, если может быть обеспечен удаленный доступ к общим методам посредством передачи ссылок на удаленные объекты, данных экземпляров этих объектов и их состояний. Однако в дополнение к концепции ООП, каждый агент имеет возможность создания копий самого себя с полной или ограниченной функциональностью, обеспечивая возможность настройки на среду путем исключения неэффективных методов и замены их новыми. Традиционная для ООП схема класс/объект нарушается, т.к. агент имеет возможность постоянного изменения сценария поведения без его изменения в родительском классе. Многозначное наследование позволяет создавать экземпляры агентов, смешивая сценарии поведения, схемы наследования и атрибуты, определенные в родительских классах.

Следовательно, система разработки, которая бы полностью соответствовала требованиям построения агентов, должна была бы соответствовать таким требованиям: обеспечение перенесения кода на различные платформы, доступность на многих платформах, поддержка сетевого взаимодействия, многопотоковая обработка и некоторые другие. Чаще всего в агентных технологиях используются: универсальные языки программирования (Java); языки, “ориентированы на знания”, такие, как языки представления знаний (KIF), языки переговоров и обмена знаниями (KQML, AgentSpeak, April), языки спецификаций агентов; специализированные языки программирования агентов (TeleScript); языки сценариев и scripting languages (Tcl/Tk); символьные языки и языки логического программирования (Oz).

Одно из самых главных свойств агента — это интеллектуальность. Интеллектуальный агент владеет определенными знаниями о себе и об окружающей среде, и на основе этих знаний он способен определять свое поведение. Интеллектуальные агенты являются основной областью интересов агентной технологии. Важна также среда существования агента: это может быть как реальный мир, так и виртуальный (компьютерный), что является важным в связи со всеобщим распространением сети Internet. От агентов требуют способности к обучению и даже самообучению. Поскольку обучение обуславливает наличие знаний у обучаемого, то обучаемым или самообучаемым может быть только интеллектуальный агент.

Читайте также:  Какие свойства характерны для водной среды

Свойство умения планировать подразделяет агентов на регулирующие и планирующие. Если умение планировать не предусмотрено (регулирующий тип), то агент будет постоянно переоценивать ситуацию и заново вырабатывать свои действия на окружающую среду. Планирующий агент имеет возможность запланировать несколько действий на различные промежутки времени. При этом агент имеет возможность моделировать развитие ситуации, что дает возможность более адекватно реагировать на текущие ситуации. При этом агент должен учитывать не только свои действия и реакцию на них, но и сохранять модели объектов и агентов окружающей среды для предсказания их возможных действий и реакций.

Агент может иметь доступ к локальным и глобальным ресурсам. При этом агентов, которые имеют доступ к локальным ресурсам (ресурсы, к которым имеет доступ пользователь, в том числе и сетевые), называют персональными помощниками, они автоматизируют работу текущего пользователя, помогая ему в выполнении некоторых операций. Соответственно сетевой агент самостоятельно получает доступ к информации, не доступной пользователю напрямую либо доступ к которой не был предусмотрен. Важным свойством классификации есть мобильность — возможность менять свое местонахождение в окружающей среде. Для программного агента под мобильностью понимается возможность передвигаться по сети от компьютера к компьютеру. Переходя от одного компьютера к другому, такой агент может обрабатывать данные и передавать по сети только результаты своей работы. Система, в которой несколько агентов могут общаться друг с другим, передавать друг другу некоторую информацию, взаимодействовать между собой, называется многоагентной (МАС).

Источник

Аннотация: Понятие программного агента в распределенной системе. Свойства автономных агентов. Мультиагентные системы. Операции с агентами. Интеллектуальные агенты. Пример использования мобильного агента для обслуживания мобильного пользователя. Пример решения задачи управления на основе мультиагентной системы

Современные системы искусственного интеллекта часто строятся как системы взаимодействующих и сотрудничающих агентов.

Одним из расширений понятия программы стало понятие агента. Оно появилось в связи с использованием программ не только для решения численных задач или иной подобной обработки информации, но и в системах реального времени (real-time systems).

Обычная вычислительная программа, например, программа расчета колебаний струны, запускается на ЭВМ, получает входные данные, выполняется как последовательность заранее написанных команд, выводит результат. До следующего запуска извне (если он вообще состоится) она пребывает в состоянии «комы». В программе расчета колебаний струны, конечно, фигурирует такой параметр как время, но он используется наряду с другими параметрами, такими как амплитуда, и никакого отношения к реальному времени, в котором выполняется программа, не имеет.

Программа реального времени функционирует (запускается, приостанавливается, возобновляется, завершается, запускается вновь) в соответствии с внешними, физическими, а не абстрактными, часами. Это ее главный отличительный признак.

Кроме того, физическое время чаще всего является одним из существенных параметров расчета. Программа реального времени взаимодействует с окружением (получает и передает информацию) посредством интерфейсов, т.е. она влияет на окружающую среду и испытывает, в свою очередь, влияние окружающей среды. Отсюда следует второй важный отличительный признак программы реального времени: потенциально она может оценивать результаты своего выполнения (обратная связь) и менять свои действия в будущем с учетом прошлого.

Таким образом, можно говорить о поведении программы реального времени по отношению к окружению. В связи с этим программа реального времени уже не рассматривается как элемент stand-alone системы, она является частью системы, имеющей признаки распределенной системы.

Эти и другие важные отличия от обычной программы привели к возникновению понятия программного агента и более широкого понятия – автономного агента.

В традиционных системах программы могут правильно функционировать только в условиях полностью предсказуемого окружения. Для того чтобы выполнить с помощью программы некоторое вычисление пользователь должен задать всю входную информацию (аргументы). Если программа берет исходные данные из базы данных, то должна быть полная уверенность в том, что эти данные имеются в базе.

Программные агенты обладают некоторыми знаниями об окружающем мире, которые позволяют им самим решать небольшие проблемы без вмешательства пользователя. Например, Интернет-агенты могут самостоятельно отыскивать нужную информацию в Сети (разумеется, в определенных пределах). Таким образом, агенты – это более гибкая конструкция, чем традиционные программы. Дополнительно, если агент может общаться с другими агентами, то они могут помочь ему решить проблему, действуя совместно.

Как и в случае классических алгоритмов, когда мы обсуждаем интуитивное понятие алгоритма и его формализации, можно обсуждать интуитивное понятие агента и различные его формализации.

Начнем с интуитивного понятия агента. Несмотря на рост числа теоретических исследований и приложений технологий, основанных на применении агентов, так и нет общепринятого определения термина «агент». Существует несколько трактовок, зависящих от целей исследования.

В частности, П.Маес из Media Lab Массачусетского технологического института считает, что «автономные агенты – это вычислительные системы, которые существуют в сложном динамическом окружении, чувствуют и действуют в этом окружении автономно, и так, чтобы реализовать множество целей и задач, для которых они спроектированы».

Б.Хайес-Рот считает, что «мыслящие агенты непрерывно выполняют три функции: восприятие динамически изменяющихся условий окружения; действия по влиянию на окружение; логический вывод для интерпретации получаемой информации, решения проблем, построения заключений и определения действий».

М.Вулдридж и Н.Дженнингс разделяют слабое и сильное понятия агента. Слабый агент рассматривается как система со свойствами автономности, возможности работать в обществе (social ability), реактивности, целенаправленности. Сильное понятие агента предполагает возможность непредписанных действий, предпринимаемых на основе собственных «идей».

Их определение включает следующие свойства: 1) автономия: агенты действуют без непосредственного вмешательства людей или чего-либо еще, определенным образом контролируют свои действия и внутреннее состояние; 2) социальные возможности: агенты взаимодействуют с другими агентами (и, возможно, людьми) с помощью некоторого языка; 3) реактивность: агенты воспринимают свое окружение (которое может быть физическим миром, пользователем – через графический пользовательский интерфейс, набором других агентов, Интернетом, или комбинацией всего этого) и отвечают периодически так, чтобы изменить что-то в своем окружении; 4) целенаправленность: агенты не просто отвечают своему окружению, они способны на целенаправленное поведение и проявление инициативы.

Т.Хесс и др. разделяют свойства на базовые и продвинутые. К базовым относятся целенаправленность, постоянство функционирования и реактивность. Продвинутые свойства включают наличие искусственного интеллекта, мобильность и интерактивность.

Читайте также:  В каких химических реакциях сера проявляет восстановительные свойства

С.Франклин и А.Грэссер в 1996 году предложили следующее обобщенное определение агента:

Автономный агент – это система, находящаяся внутри окружения и являющаяся его частью, воспринимающая это окружение (его сигналы) и воздействующая на окружение для выполнения собственной программы действий.

Расшифровка этого определения дается перечнем свойств, которыми должен обладать автономный агент:

  1. реактивность;
  2. автономность;
  3. целенаправленность;
  4. непрерывность функционирования;
  5. коммуникативность;
  6. обучаемость (адаптивность);
  7. мобильность;
  8. гибкость;
  9. индивидуальность.

Разные авторы не совсем одинаково трактуют перечисленные свойства. Попытаемся объяснить их подробнее.

Свойство реактивности означает, что агент временами отвечает на изменения в окружении. Агент имеет сенсоры, с помощью которых получает информацию от окружения. Сенсоры могут быть самыми различными. Это могут быть микрофоны, воспринимающие акустические сигналы и преобразующие их в электрические, видеокарты захвата изображений, клавиатура компьютера или общая область памяти, в которую окружение помещает данные и из которой программный агент берет данные для вычислений.

Не все изменения окружения становятся известными (доступными) сенсорам агента. Это вполне естественно. Ведь и человек не воспринимает звуки частотой свыше 30 кГц, радиоволны и т.д. Таким образом, окружение не является полностью наблюдаемым для агента.

Аналогично, агент воздействует на окружение путем разнообразных исполнительных механизмов, включая общую память. Разумеется, степень воздействия как и степень восприятия является ограниченной. Агент может перевести окружение из некоторого состояния в некоторое другое, но не из любого в любое.

Свойство автономности означает, что агент является самоуправляющимся, сам контролирует свои действия. Программный агент, находящийся на некотором сервере, обладает возможностью «самозапуска». Он не требует от пользователя каких-либо специальных действий по обеспечению его старта (подобно тому, как мы «кликаем» два раза по иконке некоторого файла).

Свойство целенаправленности означает, что у агента имеется определенная цель и его поведение (воздействие на окружение) подчинено этой цели, а не является простым откликом на сигналы из окружения. Иначе говоря, агент является управляющей системой, а не управляемым объектом.

Свойство непрерывности функционирования означает, что агент постоянно находится в состоянии исполнения. Это не значит, что он ежесекундно выдает в окружение какие-то сигналы. Он может прекратить активные действия, «заснуть», до некоторого момента времени или какого-то события. Но в необходимый момент времени он сам возобновляет действия, не требуя какого-то «включения» извне.

Свойство коммуникативности означает, что агент общается с другими агентами (включая людей), используя для этого некоторый язык. Это не обязательно единый язык для всех агентов. Достаточно, чтобы у пары общающихся агентов был общий язык. Язык может быть сложным как, например, естественный язык. Но может быть и примитивным: обмен числами или короткими словами. Если многословные фразы сложного языка несут всю информацию, как правило, в себе, то слова простого языка предполагают «умолчание»: обе стороны диалога «знают», о чем идет речь (как в известном анекдоте о занумерованных анекдотах).

Свойство обучаемости означает, что агент может корректировать свое поведение, основываясь на предыдущем опыте. Это не просто накопление в памяти параметров окружения, т.е. использование исторических данных, но сопоставление истории собственных действий с историей их влияние на окружение, и изменение в связи с этим своей программы действий.

Свойство мобильности означает, что агент может транспортировать себя с одной машины на другую. В общем случае можно сказать, что агент меняет свое положение в окружении (не меняя самого окружения).

Свойство гибкости означает, что действия агента не предписаны. Это, конечно, весьма относительное утверждение. Имеется в виду, что программа, заложенная в агента, предполагает выбор из многочисленных вариантов поведения. Такого рода выбор производится если не на каждом шагу, то достаточно часто, и зависит от выполнения или невыполнения различных условий. Выбор не является ни случайным, ни недетерминированным. Гибкость означает, что действия агента не примитивны, не легко предсказуемы.

Свойство индивидуальности означает наличие персональных свойств, данных, возможно, «эмоционального» состояния.

Систему, состоящую из нескольких взаимодействующих агентов, называют мультиагентной системой (МАС). Если мультиагентная система, в свою очередь, по отношению к ее окружению действует как (единый) агент, то естественно, составляющих ее агентов назвать подагентами (субагентами).

В мультагентной системе необязательно все агенты взаимодействуют (общаются) между собой. В крайнем случае, общения нет вообще. Такие системы назовем дискретными мультиагентными системами. Второй крайний случай – каждый агент общается с каждым. Такую систему назовем полносвязной мультиагентной системой.

Мультиагентная система, действующая как единый агент, должна характеризоваться и некоторой общей для всех субагентов целью и координацией действий по достижению этой цели.

Поскольку встречаются и другие ситуации, когда агенты не связаны столь тесно, то такие системы можно назвать обществами агентов. Отсутствие единой цели, однако, не отрицает возможного группового поведения агентов. Но оно является, скорее, эпизодическим, чем систематическим.

Важным отличием мультиагентной системы от программы или одного агента является то, что входящие в систему программные агенты (по крайней мере, некоторые) не были спроектированы специально для этой системы. Может быть, это – повторно используемые агенты, или агенты, разработанные для решения более универсальных задач. В этих случаях агенты имеют собственные цели, не совпадающие полностью с целями системы (организации), но совместимые с ними. Тем не менее, они могут быть полезны друг другу для решения стоящих перед ними задач и, поэтому, очень важным для них с этой точки зрения является свойство коммуникативности.

С организационной точки зрения существуют общие цели всего сообщества, и эти общие цели выражаются, прежде всего, в ролях (которые играют агенты) и нормах взаимодействия.

Исследования в области систем поддержки принятия решений (DSS) в последние годы все больше переходят от создания систем в виде традиционного «ящика с инструментами» (toolbox) к парадигме сотрудничества и интеграции независимых приложений. Быстро растущая область исследований интеллектуальных агентов и мультиагентных систем предлагает возможности создания более эффективных систем на основе единого подхода. Например, Р.Вахидов и Б.Фазлоллахи предлагают плюралистическую мультиагентную систему поддержки принятия решений. Слово «плюралистический» в названии подхода говорит о множественности, различности источников информации, точек зрения и перспектив, используемых в рамках одной системы. Агенты распределены по ролям в соответствии с различными фазами решения проблем. Они взаимодействуют с пользователем, окружением, друг с другом для улучшения процесса принятия решения.

Источник