Salesforce описала меры доверия для мультиагентных систем
Salesforce опубликовала рекомендации по безопасности мультиагентных систем. Компания предлагает сочетать рассуждение языковых моделей с внешними детерминированными ограничениями и изолировать память агентов.
В публикации Salesforce от 7 октября 2026 года говорится, что переход к взаимодействующим мультиагентным системам меняет подход к корпоративной безопасности. Агенты могут обмениваться данными и выполнять задачи между организациями, поэтому традиционной границы между внутренними и внешними системами становится недостаточно. Компания подготовила рекомендации по итогам серии семинаров с участием специалистов из 21 организации. Один из ключевых выводов — рассуждение модели о безопасности не гарантирует безопасного действия. Поэтому Salesforce предлагает выносить защитные правила за пределы внутреннего цикла рассуждений агента. Для работы с общей памятью компания описывает механизм тегов владельца, который должен отделять данные конкретного пользователя и ассистента.
Почему это важно
Для компаний это означает необходимость проектировать мультиагентные системы с изоляцией памяти, внешними ограничениями и заранее заданными точками вмешательства человека.
