Microsoft начал рассматривать растущее число ИИ-агентов как сотрудников для их управления. Топ-менеджер компании Сатья Наделла отметил, что необходимо определить, к чему эти агенты имеют доступ, к чему нет и как за ними следует контролировать.
Наделла объяснил, что для управления ИИ-агентами им нужно присвоить идентичность, определить безопасные рабочие зоны и разработать управляющие политики. По его мнению, эти шаги являются основой для контроля над агентами, используемыми внутри компании.
Необходимость идентичности, безопасной зоны и политики
Наделла подчеркнул, что агенты должны быть структурированы так же, как сотрудники. В этом контексте важно, чтобы каждый агент имел отдельную идентичность, мог работать только в разрешённых зонах и чтобы его действия можно было впоследствии проверить.
Также сообщается, что компания разработала набор инструментов под названием Agent 365 для этой цели. В пакет входят Entra, используемый для цифровой идентичности и сетевого доступа, и Purview, предназначенный для маркировки данных, создаваемых ИИ-агентами.
Самая сложная задача в управлении
Наделла отметил, что управление ИИ-агентами вместе с сотрудниками — это непростая задача для компаний. По его словам, многие организации делают крупные инвестиции в ИИ, но как эти агенты будут взаимодействовать с людьми, пока не ясно.
Он также рассказал, что для него это стало ежедневной управленческой задачей: он может одновременно запускать около 100 ИИ-агентов для программирования. Попытки управлять таким количеством агентов через чат-интерфейс создают серьёзную умственную нагрузку.
Акцент на безопасности и отслеживаемости
Наделла подчеркнул, что доверие к ИИ-агентам возможно только при обеспечении безопасности, ограничений, управляемости и отслеживаемости. Эти аспекты определят, как агенты будут использоваться в корпоративных системах.
В ходе беседы Рейд Хоффман сообщил, что спустя 10 лет покидает совет директоров Microsoft и, по его словам, возвращается в «режим основателя». Однако основной темой разговора стал вопрос о том, как компании будут регулировать ИИ-агентов.
По мере роста инвестиций в ИИ роль этих систем внутри организаций становится всё более спорной. Подход Microsoft заключается в том, чтобы рассматривать агентов не просто как технические инструменты, а как цифровую рабочую силу, требующую корпоративной политики и контроля.