Sok szervezet biztonsági, megfelelőségi vagy költségokokból nem szeretné az adatait külső felhőalapú AI-szolgáltatókkal megosztani – különösen akkor, ha a saját üzleti adatait is bekapcsolja az elemzésbe. Ezért mostantól a platform helyben (on-premise) futtatott AI-modellekkel is használható.

A helyben futtatott modellek megjelentek a modellválasztóban
A helyben futtatott modellek megjelentek a modellválasztóban

Amit támogatunk

  • Ollama – a legnépszerűbb helyi modellfuttató, a nyílt forráskódú modellek széles köréhez (akár NVIDIA DGX Spark hardveren)
  • Bármely OpenAI-protokoll-kompatibilis helyi modellszerver, szabványos API-n keresztül
  • Microsoft Foundry – köztes megoldásként, saját, megfelelőségi és skálázható felhőkörnyezetben

Az így csatlakoztatott modellek a platform bármely szövegelemzési feladatában bevethetők: dokumentumok, kommentelemzés, riasztások, dashboardok és kérdőívek. A használatot nem számlázzuk duplán – ügyfeleink csak a platform funkcióiért fizetnek.

Vissza a hírekhez