Une passerelle IA est une couche serveur unique par laquelle passent tous les appels aux modèles. Elle centralise les clés, le choix du modèle, la journalisation, les quotas et les reprises sur erreur, afin que les applications n'appellent jamais un fournisseur directement.
Exemple
L'application appelle gateway.generate(task, messages) et la passerelle choisit le modèle et enregistre le coût.