engel75/bifrost
1
0
Fork 1
Code Issues Pull requests Projects Releases 18 Packages 1 Wiki Activity Actions
18 releases 22 tags
  • v1.6.3-ew-2 067c5e95d3

    v1.6.3-ew-2: fix /v1/models to filter by EWKeyConfig.ModelName
    All checks were successful
    Docker Build / docker (push) Successful in 8m4s
    Details
    Docker Release / release (push) Successful in 7m29s
    Details
    Stable

    engel75 released this 2026-07-13 14:51:14 +02:00 | -1697 commits to 1.4.23-ew since this release

    EW fork release based on upstream bifrost transports/v1.6.3.

    What's new vs v1.6.3-ew-1

    Bug fix: /v1/models filtert jetzt nach EWKeyConfig.ModelName

    Bisher lieferte /v1/models für den EW-Provider alle Modelle, die das SGLang-Backend meldete — auch solche, die gar nicht über den jeweiligen Key routbar sind. Ursache: EWKeyConfig.ModelName wurde nur für Request-Routing (Key-Selection) genutzt, nicht für ListModels.

    listModelsByKey (core/providers/ew/ew.go) filtert jetzt die Response pro Key: wenn EWKeyConfig.ModelName gesetzt ist, werden nur noch Modelle behalten, deren Backend-Model-ID mit ModelName übereinstimmt (case-insensitive). Bei Multi-Key-Setups liefert jeder Key nur noch sein konfiguriertes Modell.

    Vorher: 5 EW-Keys → 35 Modelle (Union aller Backend-Modelle × 5 Backends)
    Nachher: 5 EW-Keys → 5 Modelle (je 1 pro Key)

    Edge-Cases: ModelName == "" oder EWKeyConfig == nil → kein Filter (rückwärtskompatibel). request.Unfiltered == true → kein Filter (internes Flag für Model-Catalog-Sync).

    Container image

    forge.engelmann.me/engel75/bifrost:v1.6.3-ew-2

    Full changelog since v1.6.3-ew-1

    • 067c5e95d fix(ew): filter /v1/models by EWKeyConfig.ModelName
    Downloads