Eu acho que o problema é ainda contexto, se o tamanho do contexto aumentar mantendo a assertividade daria para passar por diversos agentes a mesma função para análise por exemplo. A maior parte dos acertos vem de testes com contexto pequeno e coisas triviais como uma landing page.

Para maior complexidade necessita de contexto maior e maior racionalidade o que "pode" ser conseguido com vários agentes se interagindo.


Eu não acho que vai acabar com os devs mas eu acho que se resolverem o problema do contexto e reduzirem o consumo podemos então começar a ver usos mais reais e interessantes em mais produtos além de chat.