Hi everyone,

I'm working on a multi-agent architecture in Copilot Studio and I'm trying to understand whether the performance I'm seeing is expected or if there are optimization opportunities.

Current Setup

• Using Copilot Studio (New Experience).
• All agents are running on GPT-5.5.
• I have approximately 90 documents distributed across 9 specialized agents.
• Documents include:
  • PPTX
  • DOCX
  • XLSX
  • Markdown files
  • Other documentation formats
• Each agent is responsible for a specific domain/topic and only contains the documents relevant to that area.
• There is a single orchestrator agent that routes questions to the appropriate specialized agents.
• The orchestrator is the agent shared with end users.
• For each agent, I've also created summaries describing the purpose of each document and the scope of the agent's knowledge.

Problem

Most user questions are taking around 2 minutes to receive a response.

The responses are generally correct, but the latency feels too high for a production-like experience.

My Questions

1. Is this latency mainly related to the model having to search and interpret a large number of documents at runtime?
2. Can having many agents behind a single orchestrator significantly impact response time?
3. Does the file type matter? For example, are PPTX/XLSX documents typically slower to process than Markdown or text-based documentation?
4. Could poorly optimized agent instructions cause the orchestrator to spend too much time deciding which agent should answer?
5. Are there any recommended best practices for reducing latency in multi-agent RAG scenarios in Copilot Studio?
6. Has anyone seen substantial improvements by consolidating agents or restructuring their knowledge sources?

Additional Context

One thing I'm wondering is whether I'm over-segmenting the knowledge base. My original goal was to improve answer quality by separating content into specialized agents, but I'm now questioning whether the orchestration overhead is outweighing the benefits.

I'd be interested in hearing how others structure:

• Number of agents
• Number of documents per agent
• Use of orchestrators
• Prompt/instruction design
• Knowledge source organization

Has anyone faced similar response times and found an effective optimization strategy?

Thanks!

Bom dia pessoal!

Esse post é mais informativo mesmo.. Desde moleque eu sempre quis ter um Jetta, e aos 24 anos consegui realizar esse sonho.

Antes de comprar, me certifiquei de pesquisar bem, principalmente em relação à problemas cronicos e algumas coisas que deveria tomar cuidado na pré compra. Acabou que apareceu um exemplar de um Jetta 2014 TSI (modelo 211), e me apaixonei principalmente por conta da piada dessa turbina.. absurdo. O carro estava bem íntegro, 128 mil KM e nunca foi batido. O antigo dono já havia feito à troca do óleo do DSG, então menos $ pra gastar.. Dei uma boa revisada no carro antes de comprar, e percebi que eu já deveria me certificar de trocar o kit corrente, que já estava no sexto dente (5k). Fiz questão de levar o carro em uma oficina especializada, e já aproveitei para fazer tudo que precisava fazer (troca de fluído de freio, troca de velas NGK Iridium, descarbonização, limpeza do sistema de arrefecimento, troca de óleo e troca de pastilhas... Além do principal: Troca do kit corrente R$5500), resumo da ópera: R$10.800. Suspensão estava ok, então no final do ano só vou fazer a troca de buchas.

Comprei o carro bem abaixo da tabela, por R$56.000 (segundo dono, era de um colega do meu pai) - Tabela é R$74.000. Acabou que não tive "prejuízo".

Mas esse post é mais para alertar o pessoal quanto ao preço de manutenção desse carro.. É um carro premium, então é realmente mais caro. Vi gente perguntando se dá para manter um carro desse ganhando 5k kkkkkkkkkk esquece rapazeada.. tu vai gastar metade do seu salário só no carro.

Ganho 9k, e tive a sorte de comprar esse carro bem abaixo da tabela, se fosse por 74 mil eu estava passando aperto por conta da manutenção...

Mas de qualquer forma, estou muito feliz, o carro é absurdo... Extemamente divertido