В эфире Радио РБК эксперт объяснил, что сдерживает развитие автономных ИИ-систем и когда агенты смогут действовать в реальном мире без риска для пользователей. По словам эксперта, главное отличие агента от обычного ИИ-ассистента — способность не просто отвечать на вопросы, но и совершать реальные действия. Именно это качество сделало агентов такими привлекательными для автоматизации бизнес-процессов. Агентская архитектура уже используется в ИИ-ассистенте Ави для пользователей платформы. Однако переход от чат-бота к действиям в реальном мире оказался куда сложнее, чем ожидалось.

"Вне сценария разговора намного быстрее наступает столкновение с реальностью. Когда агент получает рычаги влияния на реальный мир — возможность тратить деньги, выполнять транзакции, запускать код, сразу возникают серьёзные вопросы безопасности. Крупные компании вынуждены выстраивать многоуровневые системы защиты, что существенно ограничивает автономность агентов. В итоге рынок оказался перед дилеммой: либо безопасный, но ограниченный ассистент, либо полноценный агент с непредсказуемыми последствиями", — рассказал Андрей Рыбинцев, управляющий директор по искусственному интеллекту Авито.

Авито сейчас тестирует собственную мультиагентную систему — ассистент Ави, под капотом которого несколько специализированных агентов работают вместе: один разбирает запрос пользователя, другой уточняет детали, третий ищет подходящие объявления и тд. При этом для пользователя это просто помощник, а агентная архитектура — способ его реализации. Уже сейчас Ави помогает пользователям находить нужные товары, сравнивать варианты и подбирать подходящие предложения — постепенно эти возможности станут доступны всей аудитории платформы.